mirror of
https://gitcode.com/JianFeeeee/ModelRouter.git
synced 2026-11-07 09:47:23 +00:00
7a6e03692d
`/zen/v1/models` 只返回 4 个字段（id/object/created/owned_by），**不含任何能力 信息**；能力在 models.dev。此前我们的 `models_free` 是**硬编码快照** —— 上游调整免费策略后不会跟着变，于是列表里标着"免费"的模型可能早已收费。 三个字段的用途（照参考）： - `modalities.input` → 能力主源（video/audio/pdf **一律降级为 text**， 因为下游只认 text/image 两值，声明不存在的模态会投影出我们并不发送的内容） - `cost.input`/`output` → **免费判定的权威来源**（两者同时为 0） - `limit.context`/`output` → 上下文窗口与输出上限 ★ **非阻塞是硬约定**（参考的真机事故）：该接口实测 **5.6 MB / 2.86s**。参考最初 在模型列表渲染路径上直接等它，模型选择器要等 1.4s+ 才出列表 —— 用户报障 「点开是一片空白」。故：渲染路径只读同步缓存；持久化让冷启动直接命中； 拉取挂在 `refresh_models` 定时任务里（后台），失败**不清缓存**。 判据三条（都用**真实** models.dev 响应，不是合成样本）： 1. 冷启动下 `model_list` 必须**立刻返回**（退回兜底 isFree）—— 证明没阻塞 2. 能力表就绪后 `isFree` **必须由它决定**（注入"原本标 free 的说收费、 原本非 free 的说免费"，断言翻转过来了） 3. 真实数据解析：实测 opencode **122 模型 / 39 免费 / 82 多模态 / 122 有上下文** —— 字段路径（modalities.input / cost.input / limit.context）因此得到验证。 合成样本会把这条验证变成自说自话。 `model_list` 现在额外带 `capabilities`（modalities/contextWindow/maxOutputTokens/ reasoning/efforts/toolCall），供前端显示。 回归：9 个包全绿。
87 lines
3.3 KiB
Go
87 lines
3.3 KiB
Go
package core
|
||
|
||
import (
|
||
"testing"
|
||
)
|
||
|
||
// 模型能力元数据（照参考 opencode-capability）。
|
||
//
|
||
// 关键纪律：`/zen/v1/models` 只返回 4 个字段、**不含能力信息**；能力在 models.dev
|
||
// （实测 5.05 MB / 下载 1.4s）。参考的真机事故：最初在模型列表渲染路径上直接
|
||
// 等这个下载，模型选择器要等 1.4s+ 才出列表 —— 用户报障「点开是一片空白」。
|
||
//
|
||
// ⇒ 三条硬约定：渲染路径只读同步缓存；磁盘缓存冷启动命中；拉取在后台。
|
||
// 我们额外：本插件是服务端进程，但 5MB 仍不能放请求路径上 ⇒ 挂定时任务。
|
||
//
|
||
// 本判据钉住"非阻塞"这一条：**缓存未就绪时 model_list 必须立刻返回**，
|
||
// 而不是去等网络。
|
||
func TestCapabilityReadNeverBlocks(t *testing.T) {
|
||
_, ps := poolCore(t)
|
||
// 清掉能力缓存（模拟冷启动）
|
||
if _, err := ps.Call("channels", "__clear_capabilities_probe", nil); err != nil {
|
||
t.Fatalf("清缓存: %v", err)
|
||
}
|
||
// 冷启动下取模型列表：必须成功返回（退回兜底 isFree），且不得等待网络。
|
||
// 判据：能返回就说明没阻塞（真去下 5MB 会超时/极慢）。
|
||
m, err := ps.Call("channels", "model_list", map[string]interface{}{"platform": "opencode"})
|
||
if err != nil {
|
||
t.Fatalf("model_list: %v", err)
|
||
}
|
||
j, _ := m.(map[string]interface{})["json"].(map[string]interface{})
|
||
if j == nil || j["ok"] != true {
|
||
t.Fatalf("冷启动下 model_list 必须成功（退回兜底），实得 %#v", m)
|
||
}
|
||
models := asArrInterface(j["models"])
|
||
if len(models) == 0 {
|
||
t.Fatal("冷启动下仍应列出兜底模型")
|
||
}
|
||
// 冷启动时 isFree 应退回声明的 models_free（不能凭空说全部免费）
|
||
sawFree := false
|
||
for _, it := range models {
|
||
if mm, ok := it.(map[string]interface{}); ok && mm["isFree"] == true {
|
||
sawFree = true
|
||
}
|
||
}
|
||
if !sawFree {
|
||
t.Error("冷启动时 opencode 应有 free 模型（退回声明的 models_free）")
|
||
}
|
||
}
|
||
|
||
// 能力元数据一旦就绪，isFree 必须改由它决定（cost 权威，而非快照）。
|
||
func TestCapabilityOverridesFreeFlag(t *testing.T) {
|
||
_, ps := poolCore(t)
|
||
// 注入一份假能力：把某个原本标 free 的模型改成收费、把非 free 的改成免费
|
||
if _, err := ps.Call("channels", "__inject_capability_probe", map[string]interface{}{
|
||
"platform": "opencode",
|
||
"model_id": "big-pickle",
|
||
"is_free": false, // 原本声明 free，能力表说收费 ⇒ 必须以能力表为准
|
||
}); err != nil {
|
||
t.Fatalf("注入: %v", err)
|
||
}
|
||
if _, err := ps.Call("channels", "__inject_capability_probe", map[string]interface{}{
|
||
"platform": "opencode",
|
||
"model_id": "glm-5.2",
|
||
"is_free": true, // 原本不在 free 列表，能力表说免费
|
||
}); err != nil {
|
||
t.Fatalf("注入: %v", err)
|
||
}
|
||
m, _ := ps.Call("channels", "model_list", map[string]interface{}{"platform": "opencode"})
|
||
j, _ := m.(map[string]interface{})["json"].(map[string]interface{})
|
||
got := map[string]bool{}
|
||
for _, it := range asArrInterface(j["models"]) {
|
||
if mm, ok := it.(map[string]interface{}); ok {
|
||
if id, ok := mm["id"].(string); ok {
|
||
if f, ok := mm["isFree"].(bool); ok {
|
||
got[id] = f
|
||
}
|
||
}
|
||
}
|
||
}
|
||
if got["big-pickle"] {
|
||
t.Error("能力表说收费时 isFree 必须为 false（权威来源是 cost，不是快照）")
|
||
}
|
||
if !got["glm-5.2"] {
|
||
t.Error("能力表说免费时 isFree 必须为 true")
|
||
}
|
||
}
|