mirror of
https://gitcode.com/JianFeeeee/ModelRouter.git
synced 2026-11-07 09:47:23 +00:00
穷尽对照 143 个参考模块后,挑出两个**有实测理由**的补上。 ## ① 已失效模型记录(照参考 dead-model-store.ts,708 行) 修的是真实报障:用户选中某平台的兜底模型,每轮 404 —— 该模型**已被上游下架**, 但列表里仍显示、还标着「免费」。根因:兜底表是**编译期快照**,上游下架不会 自己变。 ★ 关键纪律(参考文件头有实测教训):**不能用「远端目录里没有 ⇒ 已下架」反推**。 那个判据只在远端目录完整权威的平台上成立;buddy 那类平台的远端目录**已知残缺** (CLI token 只拿得到 13 个内部别名、IDE 有 20 个),按目录比对会把「你有权用、 只是 token 看不到」的模型删掉;qoder 更是没有可比对的目录。 ⇒ 唯一跨平台安全的判据是**阳性证据**:真的 404 过才记。 判据逐条对齐参考(17 个用例,全是它踩过的误判): - `model_not_found` 只在**独占一句话成分**时算(后面只允许结束/句末标点/收尾 括号引号,**不含逗号**)—— 它在遥测里常作字段名出现: `error_class=model_not_found, retry allowed` 曾被误判下架 - rate limit / quota / insufficient / unauthor / forbidden / invalid key 一律**不是** - `expired` 必须带主语(token/session/key/…),否则会误杀真实下架文案 - 只认 found/exist,**不认** available/supported(那是"换套餐就能恢复") - 判定顺序:NOT_GONE 先于 GONE(与参考 `isModelGoneError` 逐行一致) TTL 30 天(过期自动复活,照参考 DSH_DEAD_MODEL_TTL_DAYS 语义)。 `model_clear_dead` 语义**修正**:原实现清的是"被禁用且不在目录里"(判据用错了、 拿目录反推),现改为清**失效记录**。 ## ② 远端目录加载闸门(照参考 remote-catalog-gate.ts) 参考点名「**不能省**」:宿主对每个 provider 拉目录、再对每个模型解析一次, 于是「目录没拿到」被放大成**一次请求 × 每个模型**,而超时是 30–60s 量级 —— 未登录/离线时表现就是「首屏巨长」。三道语义:命中缓存 / 并发去重 / 失败冷却。 Lua 无协程做不了「共享同一个 Promise」,用**时间戳闸门**等价实现 (in_flight_at 防同轮重复 + retry_at 失败冷却)。 含参考的**墙钟回拨防护**:`retry_at - now > cooldown` 一律按已到期处理 —— 否则系统时间回拨一天会把冷却变成事实上的永久卡死。 ## ③ 顺手修:状态落盘不建目录 `persistState` 直接 `io.open(path..".tmp")`,目录不存在就失败。而失败只打 stderr 一行「状态落盘失败」—— 表现是「状态永不落盘、重启即丢」,很容易被忽略。 现先 `mkdir -p`。这是实测发现的(authorize 测试的临时目录尚未创建时报的)。 ## 判据 `channels_dead_model_test.go`:判据 17 例(含 6 个"看着像但不是下架"的反例)、 记录-剔除-恢复闭环、闸门冷却。 `channels_pool_test.go`:`model_clear_dead` 断言按新语义改写,并加"清失效记录 **不得**动 disabled 黑名单"的隔离断言。 回归:9 个包全绿。
205 lines
7.1 KiB
Go
205 lines
7.1 KiB
Go
package core
|
||
|
||
import (
|
||
"testing"
|
||
)
|
||
|
||
// 「已失效模型」判据必须严格 —— 误判的代价是把**可用模型藏 30 天**。
|
||
//
|
||
// 参考为这些判据写了很长的注释(都是实测误判教训),本判据把它们钉住:
|
||
//
|
||
// - `model_not_found` 在遥测/日志里常作**字段名**出现(后面还有内容),
|
||
// 只在它"独占一句话成分"时才算阳性;
|
||
// - rate limit / quota / unauthor / forbidden 一律**不是**下架;
|
||
// - `expired` 必须带主语(token/session/key/…),否则会误杀正常下架文案
|
||
// `model expired-v3 does not exist`;
|
||
// - 只认 found/exist,**不认** available/supported(那是"换套餐就能恢复")。
|
||
func TestDeadModelGoneJudgement(t *testing.T) {
|
||
c := kernelTestCore(t)
|
||
ps := c.Plugins()
|
||
src, err := readBundledChannels(t)
|
||
if err != nil {
|
||
t.Fatal(err)
|
||
}
|
||
if err := ps.LoadSource("channels", src); err != nil {
|
||
t.Fatal(err)
|
||
}
|
||
|
||
cases := []struct {
|
||
msg string
|
||
want bool
|
||
why string
|
||
}{
|
||
// ── 阳性:真的是下架 ──
|
||
{"model not found", true, "经典文案"},
|
||
{"unknown model: foo", true, "unknown model"},
|
||
{"no such model", true, "no such model"},
|
||
{"The model does not exist", true, "does not exist"},
|
||
{"error: model_not_found", true, "独占一句话(行尾)"},
|
||
{"model_not_found.", true, "后面是句末标点"},
|
||
// ── 阴性:看着像但**不是**下架 ──
|
||
{"error_class=model_not_found, retry allowed", false,
|
||
"字段名后面还有内容(初版误判下架,实测教训)"},
|
||
{"the model_not_found metric was not exported", false,
|
||
"作为指标名出现(实测教训)"},
|
||
{"rate limit exceeded for model foo", false, "限流换时段就能用"},
|
||
{"quota exceeded", false, "额度问题"},
|
||
{"insufficient balance", false, "余额问题"},
|
||
{"401 unauthorized", false, "认证问题"},
|
||
{"invalid api key", false, "认证问题"},
|
||
{"token expired", false, "token 过期(带主语)"},
|
||
// ⚠️ 这条最微妙:expired 无主语时**不**能触发 NOT_GONE,
|
||
// 否则会误杀 "model expired-v3 does not exist" 这类真实下架文案。
|
||
{"model expired-v3 does not exist", true,
|
||
"expired 无主语 → 不算认证失败;does not exist 才是真判据"},
|
||
// ⚠️ 两条更正(对照参考实现的实际行为,不是注释字面):
|
||
// 1. `lease expired` 单独出现**不算**下架 —— 它是租约/认证问题。
|
||
// 2. 即便带上 does not exist 也**仍不算**:参考的判定顺序是
|
||
// NOT_GONE 先于 GONE(`isModelGoneError` 第 265 行先查排除表),
|
||
// 一旦命中排除词就直接 false、不再看后面的不存在语义。
|
||
// 我最初按注释字面以为"带主语才对、带上就想判下架",是读错了。
|
||
{"the model lease expired", false, "租约/认证问题,不是下架"},
|
||
{"the model lease expired and does not exist", false,
|
||
"参考的顺序是 NOT_GONE 先行 ⇒ 命中排除词即 false"},
|
||
// available/supported 不算(换套餐就能恢复)
|
||
{"model not available in your region", false,
|
||
"available 不是 found/exist —— 换地域就能用(参考明确点名)"},
|
||
{"", false, "空串"},
|
||
}
|
||
for _, tc := range cases {
|
||
out, err := ps.Call("channels", "__is_model_gone_probe",
|
||
map[string]interface{}{"message": tc.msg})
|
||
if err != nil {
|
||
t.Fatalf("探针: %v", err)
|
||
}
|
||
w, _ := out.(map[string]interface{})
|
||
j, _ := w["json"].(map[string]interface{})
|
||
got, _ := j["gone"].(bool)
|
||
if got != tc.want {
|
||
t.Errorf("isModelGone(%q) = %v,应为 %v(%s)", tc.msg, got, tc.want, tc.why)
|
||
}
|
||
}
|
||
}
|
||
|
||
// 记录-剔除-恢复 的闭环,以及**不拿远端目录反推**这条纪律。
|
||
func TestDeadModelRecordAndPrune(t *testing.T) {
|
||
c := kernelTestCore(t)
|
||
ps := c.Plugins()
|
||
src, err := readBundledChannels(t)
|
||
if err != nil {
|
||
t.Fatal(err)
|
||
}
|
||
if err := ps.LoadSource("channels", src); err != nil {
|
||
t.Fatal(err)
|
||
}
|
||
|
||
before := modelIDsFor(t, ps, "zcode")
|
||
if len(before) == 0 {
|
||
t.Fatal("zcode 应有兜底模型")
|
||
}
|
||
victim := before[0]
|
||
|
||
// 记录一条阳性证据 → 该模型必须从列表消失
|
||
if _, err := ps.Call("channels", "__record_dead_probe",
|
||
map[string]interface{}{"platform": "zcode", "model_id": victim, "reason": "model not found"}); err != nil {
|
||
t.Fatalf("记录探针: %v", err)
|
||
}
|
||
after := modelIDsFor(t, ps, "zcode")
|
||
for _, id := range after {
|
||
if id == victim {
|
||
t.Errorf("已失效模型 %q 仍出现在列表里(应剔除)", victim)
|
||
}
|
||
}
|
||
if len(after) != len(before)-1 {
|
||
t.Errorf("剔除后应少一个:前 %d 后 %d", len(before), len(after))
|
||
}
|
||
|
||
// model_clear_dead 应把它恢复回来(用户确认上游又上了 / 误判时用)
|
||
m, err := ps.Call("channels", "model_clear_dead",
|
||
map[string]interface{}{"platform": "zcode", "model_id": victim})
|
||
if err != nil {
|
||
t.Fatalf("model_clear_dead: %v", err)
|
||
}
|
||
w, _ := m.(map[string]interface{})
|
||
j, _ := w["json"].(map[string]interface{})
|
||
if j == nil || j["ok"] != true {
|
||
t.Fatalf("model_clear_dead 失败: %#v", m)
|
||
}
|
||
restored := modelIDsFor(t, ps, "zcode")
|
||
found := false
|
||
for _, id := range restored {
|
||
if id == victim {
|
||
found = true
|
||
}
|
||
}
|
||
if !found {
|
||
t.Errorf("clear 后 %q 应恢复,实得 %v", victim, restored)
|
||
}
|
||
}
|
||
|
||
// 目录闸门:失败后进入冷却,冷却期内不重复拉(照参考 remote-catalog-gate)。
|
||
// 判据用冷却状态本身,不依赖真实网络。
|
||
func TestRemoteCatalogGateCooldown(t *testing.T) {
|
||
c := kernelTestCore(t)
|
||
ps := c.Plugins()
|
||
src, err := readBundledChannels(t)
|
||
if err != nil {
|
||
t.Fatal(err)
|
||
}
|
||
if err := ps.LoadSource("channels", src); err != nil {
|
||
t.Fatal(err)
|
||
}
|
||
// 初始不冷却
|
||
g := func() (bool, bool) {
|
||
out, err := ps.Call("channels", "__catalog_gate_probe",
|
||
map[string]interface{}{"platform": "zcode"})
|
||
if err != nil {
|
||
t.Fatalf("探针: %v", err)
|
||
}
|
||
w, _ := out.(map[string]interface{})
|
||
j, _ := w["json"].(map[string]interface{})
|
||
began, _ := j["began"].(bool)
|
||
cooling, _ := j["cooling"].(bool)
|
||
return began, cooling
|
||
}
|
||
if _, cooling := g(); cooling {
|
||
t.Error("初始不该处于冷却")
|
||
}
|
||
// 模拟一次失败 → 进冷却
|
||
if _, err := ps.Call("channels", "__catalog_gate_fail_probe",
|
||
map[string]interface{}{"platform": "zcode"}); err != nil {
|
||
t.Fatalf("失败探针: %v", err)
|
||
}
|
||
began, cooling := g()
|
||
if !cooling {
|
||
t.Error("失败后必须进入冷却(否则会对坏上游反复打 —— 参考点名的首屏卡死)")
|
||
}
|
||
if began {
|
||
t.Error("冷却期内不该再发起拉取")
|
||
}
|
||
}
|
||
|
||
// modelIDsFor 读某平台当前对外的模型 id 列表。
|
||
func modelIDsFor(t *testing.T, ps interface {
|
||
Call(string, string, map[string]interface{}) (interface{}, error)
|
||
}, plat string) []string {
|
||
t.Helper()
|
||
m, err := ps.Call("channels", "model_list", map[string]interface{}{"platform": plat})
|
||
if err != nil {
|
||
t.Fatalf("model_list(%s): %v", plat, err)
|
||
}
|
||
w, _ := m.(map[string]interface{})
|
||
j, _ := w["json"].(map[string]interface{})
|
||
var out []string
|
||
if arr, ok := j["models"].([]interface{}); ok {
|
||
for _, it := range arr {
|
||
if mm, ok := it.(map[string]interface{}); ok {
|
||
if id, ok := mm["id"].(string); ok {
|
||
out = append(out, id)
|
||
}
|
||
}
|
||
}
|
||
}
|
||
return out
|
||
}
|