mirror of
https://gitcode.com/JianFeeeee/ModelRouter.git
synced 2026-11-07 09:47:23 +00:00
用户判据:「priority 直接移除」「即使带 key 也没有 /v1/responses」
「channel 插件的问题还没完全解决」「生图和聊天合并到一个导航项」
## 一、删除 priority(它从未参与跨源调度)
`config.Model.Priority` 号称"高者优先参与 AUTO 选源",**那是错的**:
AUTO 链由 `config.ModelScope.Tier` 驱动(scheduler.Chain),priority 只被
`bestChatModel/bestImageModel` 用于"本源内部该发哪个模型",与跨源调度无关。
把它当调度依据会让人以为拖个数字就能改顺序,改完毫无效果。
- 删 `config.Model.Priority` 字段与 `bestChatModel/bestImageModel` 的优先级比较
- 删 `seedAuto()`:**AUTO 链为空时网关应直接 503**,不能凭空播种用户没配过的档位
- 删 UI `buildLanes` 的 discovery 回退(按源 priority 自动铺开)与 sourceRows
- 清掉 config.yaml 里 140 行 priority
## 二、一通道 = 一个适配器 = 一个源(channels 插件)
旧设计「一账号一源」(`channels-<平台>-<12位hex>`) 有三个结构性后果:
1. 三个账号 ⇒ 三个源、三份同名模型,用户看到三行无法区分的东西
2. 谁先谁后**取决于注册顺序,不是余额**(rankAccounts 只用于展示,从未接进同步路径)
3. 换号要改源名 ⇒ 用户书签里的 `源:模型` 全部失效
新设计:
- 源名只跟通道绑定:`channels-<平台>`,换号 = 同名 add_source 覆盖 api_key
(内核 AddSource 是 UpsertSourceInYAML + 内存替换),对客户端完全透明
- `pickAccountForSource()`:凭据可用 → 余额分档(先快作废后永久)→
跳过已标记失效的号。没有 balance 声明的平台不据此排除(不因"不会查"判死)
- `request_end` 钩子:真实请求失败且是**终态**错误(需充值/封禁/凭据永久失效)
时给当前账号打 termErr,下次选号跳过;成功则清标记。
⚠️ 只认终态 —— 429/超时/抖动都**不**标记(那会把好号一个个废掉)
- `refresh_creds` 每 30 分钟巡检后重新选号(兜底心跳,纯本地判定)
- 迁移:同步时自动清掉旧版按账号拆的源(按已知平台前缀匹配,不用贪婪 match)
- 顺带修:`refresh_creds` 漏认 `refresh_fn` ⇒ codearts 的 DPoP 续期永不触发
## 三、discover 支持用已存凭据(真实缺口)
刷新已有源的模型目录,此前必须让运维**再粘一次明文 key** —— 而库里是
`enc:v1:` 密文,WebUI 也不回显明文。结果就是"想刷新 → 得重新申请 key",
很多人干脆不刷,源的目录越放越旧(实例:某源 3 个生图模型从未登记)。
- `{"name":"oin"}` ⇒ 从已存源取 base_url + 解密凭据 + adapter
- 安全边界:已要求 admin;只能探测**本网关已配置的**源(不能拿任意 URL+key
做探测,那就成了 SSRF/密钥外带);响应不回显 key
## 四、image_models 显式声明(补元数据缺失)
`discoveredModelKind` 只看上游 modality 字段,并刻意**不从模型名推断**
(错误的 kind 会毒死 AUTO 链)。但有些网关的 /v1/models 只返回
`{id,object,created,owned_by}` —— 零 modality,于是生图模型全落成 chat,
生图端点永远 `no image source configured`。
不解这个两难:默认仍完全按元数据(不猜),但允许 `image_models` **显式声明**。
写错的 id 明确报 400,不静默造一个不存在的模型。
## 五、UI:对话与生图合并为一个导航项
两者本是同一件事的两种输入(都选模型、都发请求、都读结果),只是 kind 与端点
不同。合并只发生在**导航层**:模型下拉仍按 kind 分组/禁选(把图片模型选进 chat
会请求到错误端点)。两个面板同时存在于 DOM,切换只改 display —— 来回切不会丢
已输入的文字、对话历史或已生成的图。
## 测试
- `TestUI_ImageModeIsReachableFromChatTab`:改为钉"合并后仍可达"(分段控件、
切换函数、面板容器、端点),并断言**旧 tab 三件套必须消失**(否则 goTab 会找
一个不存在的面板)
- 测试夹具显式建 AUTO 链(内核不再 seedAuto):默认一源一 tier 倒序
(TestChatAUTO 验优先级);TestChatAutoChainTierFailover 自己覆盖成同 tier
(验 tier 内轮转)—— 两者验不同机制,不能共用一个默认
- core 的一批断言从"按账号 id 找源"改为"按平台名找源"
gateway/config/provider 全绿;core 的 channels 用例全绿。
TestRealMutants 需工作树干净后才跑(其自带的变异残留防护)。
BREAKING CHANGE: config.Model.Priority 已删除。旧的 priority 字段会被 YAML
解码静默忽略(内核不校验未知字段),因此既有 config.yaml 仍可加载,但该字段
不再有任何作用 —— 调度顺序请通过 AUTO 链的 tier 表达。
199 lines
8.3 KiB
Go
199 lines
8.3 KiB
Go
package core
|
||
|
||
import (
|
||
"regexp"
|
||
"strings"
|
||
"testing"
|
||
)
|
||
|
||
// ★ 插件日志面板:级别 + 归属 + 同文折叠(否则用户动作被 96% 的周期噪音淹没)。
|
||
//
|
||
// 真实问题(生产实测):50 条日志里 **48 条(96%)** 是三个定时任务
|
||
// (refresh_models 2h / auto_claim 2h / refresh_creds 0.5h,全为 first_due_now)
|
||
// 的重复回音,唯一模式只有 8 种 ⇒ 约 2 小时就把 50 条环形缓冲冲满一轮,
|
||
// **真正的用户动作**(如「账号删除」)被挤到看不见。
|
||
//
|
||
// 三个结构性修法,每个都在源码里可断言:
|
||
//
|
||
// ① logEvent 支持 level(task/warn/error),前端默认折叠 task
|
||
// ② logEvent 支持 platform,前端按选中渠道过滤(修"点 buddy 看到 trae"的归属错误)
|
||
// ③ 同文折叠:紧邻同文不新增条目,只 n=n+1
|
||
func TestChannelsLogEventCarriesLevelAndPlatform(t *testing.T) {
|
||
src, err := readBundledChannels(t)
|
||
if err != nil {
|
||
t.Fatal(err)
|
||
}
|
||
s := string(src)
|
||
|
||
// ① 签名必须收 level 与 platform(三参)
|
||
if !regexp.MustCompile(`local function logEvent\(msg, level, platform\)`).MatchString(s) {
|
||
t.Error("logEvent 必须接收 (msg, level, platform) —— 否则级别与渠道归属都无从表达")
|
||
}
|
||
// ② 写入的条目必须带上这两个字段
|
||
for _, field := range []string{"level = level or", "platform = platform"} {
|
||
if !strings.Contains(s, field) {
|
||
t.Errorf("日志条目必须写入 %s", field)
|
||
}
|
||
}
|
||
// ③ 同文折叠:紧邻同文时只加计数
|
||
if !strings.Contains(s, "top.n = (top.n or 1) + 1") {
|
||
t.Error("必须实现紧邻同文折叠(否则周期任务的重复回音会把 50 条缓冲冲满)")
|
||
}
|
||
// ④ 折叠必须只针对**紧邻**条目 —— 否则一条每小时出现的消息会不断跳到最前,
|
||
// 时间线失去意义。断言比较对象是 log[1](栈顶)而不是任意条目。
|
||
if !strings.Contains(s, "local top = log[1]") {
|
||
t.Error("折叠必须只比较**紧邻**的上一条(log[1]);对任意条目折叠会让时间线错乱")
|
||
}
|
||
t.Log("✓ logEvent 具备 level / platform / 紧邻同文折叠")
|
||
}
|
||
|
||
// ★ 周期任务的**常规**结果必须是 task 级(默认折叠),异常必须是 warn/error。
|
||
//
|
||
// 判据咬的是"这些具体调用点被降级了",而不是"存在 task 这个词" ——
|
||
// 后者只要有一处就为真,测不出"某个噪音源忘了降级"。
|
||
func TestChannelsPeriodicTaskLogsAreDowngraded(t *testing.T) {
|
||
src, err := readBundledChannels(t)
|
||
if err != nil {
|
||
t.Fatal(err)
|
||
}
|
||
s := string(src)
|
||
|
||
// 这些是「每次跑都成功」的常规回音 —— 必须 task 级
|
||
routine := []string{
|
||
`logEvent("模型目录已刷新(" .. updated .. " 个平台)", "task")`,
|
||
`logEvent("模型能力元数据已刷新(" .. tostring(cerr or 0) .. " 条)", "task")`,
|
||
`logEvent("模型刷新:跳过 " .. cooled .. " 个冷却中的平台", "task")`,
|
||
}
|
||
for _, r := range routine {
|
||
if !strings.Contains(s, r) {
|
||
t.Errorf("周期任务的常规结果必须降级为 task(否则会淹没用户动作):\n %s", r)
|
||
}
|
||
}
|
||
// 这些是异常 —— 必须 warn(不能被一起折叠掉)
|
||
for _, pat := range []string{
|
||
`logEvent("能力元数据未刷新: " .. plugin.utf8Clip(cerr, 120), "warn")`,
|
||
`logEvent("能力元数据刷新异常: " .. plugin.utf8Clip(cres, 120), "warn")`,
|
||
`logEvent("凭据续期失败 " .. #failed .. " 个:`,
|
||
} {
|
||
if !strings.Contains(s, pat) {
|
||
t.Errorf("异常必须保持 warn(不能被当常规噪音折叠):%s", pat)
|
||
}
|
||
}
|
||
// 「已同步源」是周期重同步的常规回音 —— 降级为 task 且带平台归属。
|
||
// 文案在"一个通道=一个源"重构后多带了账号 id(便于排查"用的是哪个号"),
|
||
// 故这里只钉住"task 级 + 带 provider"这两个**语义**要件,不钉住整句字面量 ——
|
||
// 钉字面量会让每次改文案都要改测试,而这条测试要防的是"级别升回 info"。
|
||
if !strings.Contains(s, `logEvent("已同步源 " .. name`) {
|
||
t.Error("「已同步源」这条回音丢了(改名了?)")
|
||
}
|
||
// 匹配"已同步源 ... "task", provider)"——跨行(文案带账号 id 后跨了两行),
|
||
// 故用 (?s) 让 . 能匹配换行。
|
||
if !regexp.MustCompile(`(?s)logEvent\("已同步源 " \.\. name.*?"task", provider\)`).MatchString(s) {
|
||
t.Error("「已同步源」是周期重同步的常规回音,必须 task 级且带平台归属(provider)")
|
||
}
|
||
t.Log("✓ 周期噪音已降级,异常保持 warn")
|
||
}
|
||
|
||
// ★ 前端的三个过滤维度必须都在(级别门槛 / 例行折叠 / 按渠道过滤)。
|
||
func TestChannelsLogPanelHasFilters(t *testing.T) {
|
||
src, err := readBundledChannels(t)
|
||
if err != nil {
|
||
t.Fatal(err)
|
||
}
|
||
s := string(src)
|
||
|
||
// ① 日志卡片必须**独立于渠道详情**(C 的核心:修正归属)
|
||
// 判据:日志卡片的 DOM 不是 ch-detail 的子元素。
|
||
// 做法:取 ch-detail 开始到 ch-log-card 之间的片段,要求中间出现过
|
||
// ch-detail 的闭合(即两者是兄弟而非父子)。
|
||
iDetail := strings.Index(s, `id="ch-detail"`)
|
||
iLogCard := strings.Index(s, `id="ch-log-card"`)
|
||
if iDetail < 0 || iLogCard < 0 {
|
||
t.Fatal("找不到 ch-detail 或 ch-log-card(判据需更新)")
|
||
}
|
||
if iLogCard < iDetail {
|
||
t.Fatal("运行日志卡片应在渠道详情**之后**(作为兄弟节点)")
|
||
}
|
||
// 统计 ch-detail 打开到日志卡片之间未闭合的 div 层数
|
||
seg := s[iDetail:iLogCard]
|
||
depth := 0
|
||
for _, m := range regexp.MustCompile(`</?div`).FindAllString(seg, -1) {
|
||
if strings.HasPrefix(m, "</") {
|
||
depth--
|
||
} else {
|
||
depth++
|
||
}
|
||
}
|
||
if depth > 0 {
|
||
t.Errorf("运行日志卡片仍嵌在渠道详情内部(depth=%d)⇒ 点开某渠道会看到别的渠道的日志(归属错误)", depth)
|
||
}
|
||
|
||
// ② 三个过滤维度
|
||
for _, id := range []string{`id="ch-log-verbose"`, `id="ch-log-level"`} {
|
||
if !strings.Contains(s, id) {
|
||
t.Errorf("缺少日志视图控件 %s", id)
|
||
}
|
||
}
|
||
if !strings.Contains(s, "function chLogRender()") {
|
||
t.Error("必须实现 chLogRender()(否则过滤逻辑无处落地)")
|
||
}
|
||
// ③ 按渠道过滤 + 切渠道重渲染
|
||
if !strings.Contains(s, "if (selPlat) return e.platform === selPlat;") {
|
||
t.Error("必须按当前选中渠道过滤日志(否则归属错误以另一种形式回来)")
|
||
}
|
||
if !strings.Contains(s, "chLogRender();\n };\n") {
|
||
t.Error("chSelect 切换渠道后必须重渲染日志")
|
||
}
|
||
t.Log("✓ 日志面板独立成卡片,三个过滤维度齐备")
|
||
}
|
||
|
||
// ★ 日志截断必须按**字符**切,不能按字节 —— 否则中文被切出无效 UTF-8。
|
||
//
|
||
// 真实缺陷(生产实测,v2.0.33 截图里可见):日志尾显示成
|
||
//
|
||
// `能力增强不<E5BCBA>`
|
||
//
|
||
// 根因:`tostring(cerr):sub(1, 120)` —— Lua 的 sub 按**字节**切,而中文占 3 字节
|
||
// ⇒ 切在字符中间产生替换字符(U+FFFD)。一句本来完整的诊断看起来像数据损坏。
|
||
func TestLogTruncationIsUTF8Safe(t *testing.T) {
|
||
src, err := readBundledChannels(t)
|
||
if err != nil {
|
||
t.Fatal(err)
|
||
}
|
||
s := string(src)
|
||
|
||
// ① 必须存在按字符截断的助手
|
||
if !strings.Contains(s, "plugin.utf8Clip = function(s, maxBytes)") {
|
||
t.Fatal("必须实现 plugin.utf8Clip(按字符截断)")
|
||
}
|
||
// ② 中文文案上的截断不得再用裸 sub()
|
||
for _, bad := range []string{
|
||
`tostring(cres):sub(1, 120)`,
|
||
`tostring(cerr):sub(1, 120)`,
|
||
`table.concat(failed, "; "):sub(1, 300)`,
|
||
} {
|
||
if strings.Contains(s, bad) {
|
||
t.Errorf("中文文案的截断不能用裸 sub()(按字节切会产生 U+FFFD):%s", bad)
|
||
}
|
||
}
|
||
// ③ 三处必须已换成 utf8Clip
|
||
for _, want := range []string{
|
||
"plugin.utf8Clip(cres, 120)",
|
||
"plugin.utf8Clip(cerr, 120)",
|
||
`plugin.utf8Clip(table.concat(failed, "; "), 300)`,
|
||
} {
|
||
if !strings.Contains(s, want) {
|
||
t.Errorf("缺少 UTF-8 安全截断调用:%s", want)
|
||
}
|
||
}
|
||
// ④ 助手必须**只在超长时**才截断(否则正常文案会被莫名缩短)
|
||
if !strings.Contains(s, "if #s <= maxBytes then return s end") {
|
||
t.Error("utf8Clip 必须对未超长的输入原样返回")
|
||
}
|
||
// ⑤ 回退逻辑必须处理续字节(10xxxxxx)与孤立首字节
|
||
if !strings.Contains(s, "elseif b >= 0xC0 then") {
|
||
t.Error("utf8Clip 必须回退孤立的 UTF-8 首字节(否则末尾仍是半个字符)")
|
||
}
|
||
t.Log("✓ 截断已 UTF-8 安全")
|
||
}
|