Files
ModelRouter/internal/config/config_test.go
JianFeeeee ff7051d608 refactor(scheduler)!: 移除 priority 废弃字段 + 一通道一源 + discover 复用凭据
用户判据:「priority 直接移除」「即使带 key 也没有 /v1/responses」
「channel 插件的问题还没完全解决」「生图和聊天合并到一个导航项」

## 一、删除 priority(它从未参与跨源调度)

`config.Model.Priority` 号称"高者优先参与 AUTO 选源",**那是错的**:
AUTO 链由 `config.ModelScope.Tier` 驱动(scheduler.Chain),priority 只被
`bestChatModel/bestImageModel` 用于"本源内部该发哪个模型",与跨源调度无关。
把它当调度依据会让人以为拖个数字就能改顺序,改完毫无效果。

- 删 `config.Model.Priority` 字段与 `bestChatModel/bestImageModel` 的优先级比较
- 删 `seedAuto()`:**AUTO 链为空时网关应直接 503**,不能凭空播种用户没配过的档位
- 删 UI `buildLanes` 的 discovery 回退(按源 priority 自动铺开)与 sourceRows
- 清掉 config.yaml 里 140 行 priority

## 二、一通道 = 一个适配器 = 一个源(channels 插件)

旧设计「一账号一源」(`channels-<平台>-<12位hex>`) 有三个结构性后果:
1. 三个账号 ⇒ 三个源、三份同名模型,用户看到三行无法区分的东西
2. 谁先谁后**取决于注册顺序,不是余额**(rankAccounts 只用于展示,从未接进同步路径)
3. 换号要改源名 ⇒ 用户书签里的 `源:模型` 全部失效

新设计:
- 源名只跟通道绑定:`channels-<平台>`,换号 = 同名 add_source 覆盖 api_key
  (内核 AddSource 是 UpsertSourceInYAML + 内存替换),对客户端完全透明
- `pickAccountForSource()`:凭据可用 → 余额分档(先快作废后永久)→
  跳过已标记失效的号。没有 balance 声明的平台不据此排除(不因"不会查"判死)
- `request_end` 钩子:真实请求失败且是**终态**错误(需充值/封禁/凭据永久失效)
  时给当前账号打 termErr,下次选号跳过;成功则清标记。
  ⚠️ 只认终态 —— 429/超时/抖动都**不**标记(那会把好号一个个废掉)
- `refresh_creds` 每 30 分钟巡检后重新选号(兜底心跳,纯本地判定)
- 迁移:同步时自动清掉旧版按账号拆的源(按已知平台前缀匹配,不用贪婪 match)
- 顺带修:`refresh_creds` 漏认 `refresh_fn` ⇒ codearts 的 DPoP 续期永不触发

## 三、discover 支持用已存凭据(真实缺口)

刷新已有源的模型目录,此前必须让运维**再粘一次明文 key** —— 而库里是
`enc:v1:` 密文,WebUI 也不回显明文。结果就是"想刷新 → 得重新申请 key",
很多人干脆不刷,源的目录越放越旧(实例:某源 3 个生图模型从未登记)。

- `{"name":"oin"}` ⇒ 从已存源取 base_url + 解密凭据 + adapter
- 安全边界:已要求 admin;只能探测**本网关已配置的**源(不能拿任意 URL+key
  做探测,那就成了 SSRF/密钥外带);响应不回显 key

## 四、image_models 显式声明(补元数据缺失)

`discoveredModelKind` 只看上游 modality 字段,并刻意**不从模型名推断**
(错误的 kind 会毒死 AUTO 链)。但有些网关的 /v1/models 只返回
`{id,object,created,owned_by}` —— 零 modality,于是生图模型全落成 chat,
生图端点永远 `no image source configured`。

不解这个两难:默认仍完全按元数据(不猜),但允许 `image_models` **显式声明**。
写错的 id 明确报 400,不静默造一个不存在的模型。

## 五、UI:对话与生图合并为一个导航项

两者本是同一件事的两种输入(都选模型、都发请求、都读结果),只是 kind 与端点
不同。合并只发生在**导航层**:模型下拉仍按 kind 分组/禁选(把图片模型选进 chat
会请求到错误端点)。两个面板同时存在于 DOM,切换只改 display —— 来回切不会丢
已输入的文字、对话历史或已生成的图。

## 测试

- `TestUI_ImageModeIsReachableFromChatTab`:改为钉"合并后仍可达"(分段控件、
  切换函数、面板容器、端点),并断言**旧 tab 三件套必须消失**(否则 goTab 会找
  一个不存在的面板)
- 测试夹具显式建 AUTO 链(内核不再 seedAuto):默认一源一 tier 倒序
  (TestChatAUTO 验优先级);TestChatAutoChainTierFailover 自己覆盖成同 tier
  (验 tier 内轮转)—— 两者验不同机制,不能共用一个默认
- core 的一批断言从"按账号 id 找源"改为"按平台名找源"

gateway/config/provider 全绿;core 的 channels 用例全绿。
TestRealMutants 需工作树干净后才跑(其自带的变异残留防护)。

BREAKING CHANGE: config.Model.Priority 已删除。旧的 priority 字段会被 YAML
解码静默忽略(内核不校验未知字段),因此既有 config.yaml 仍可加载,但该字段
不再有任何作用 —— 调度顺序请通过 AUTO 链的 tier 表达。

(cherry picked from commit 25970a2135)
2026-10-19 22:35:47 +08:00

370 lines
10 KiB
Go

package config
import (
"os"
"path/filepath"
"runtime"
"strings"
"testing"
)
func TestLoadAndApplyDefaults(t *testing.T) {
dir := t.TempDir()
path := filepath.Join(dir, "cfg.yaml")
content := `
listen: 127.0.0.1:9999
gateway_keys: [sk-1]
default_model: AUTO
adapter_dir: adapters
runtime_file: runtime.json
sources:
- name: deepseek
base_url: https://api.deepseek.com
api_key: sk-d
adapter: deepseek
models:
- id: deepseek-v4-flash
priority: 100
- name: ollama
base_url: http://127.0.0.1:11434
adapter: ollama
endpoint: /api/chat
models:
- id: llama3
priority: 50
`
if err := os.WriteFile(path, []byte(content), 0644); err != nil {
t.Fatal(err)
}
cfg, err := Load(path)
if err != nil {
t.Fatalf("load: %v", err)
}
if len(cfg.Sources) != 2 {
t.Fatalf("sources = %d", len(cfg.Sources))
}
if cfg.Sources[1].Endpoint != "/api/chat" {
t.Fatalf("endpoint = %q", cfg.Sources[1].Endpoint)
}
if cfg.Sources[1].Timeout == 0 {
t.Fatal("default timeout not applied")
}
if cfg.Sources[1].MaxConcurrent == 0 {
t.Fatal("default max_concurrent not applied")
}
if cfg.DefaultModel != "AUTO" {
t.Fatalf("default model = %q", cfg.DefaultModel)
}
}
func TestEnsureDefaultGeneratesOnMissingFile(t *testing.T) {
dir := t.TempDir()
path := filepath.Join(dir, "nested", "config.yaml")
created, err := EnsureDefault(path)
if err != nil {
t.Fatalf("ensure: %v", err)
}
if !created {
t.Fatal("expected creation for missing file")
}
raw, err := os.ReadFile(path)
if err != nil {
t.Fatalf("read generated: %v", err)
}
if fi, err := os.Stat(path); err != nil || (runtime.GOOS != "windows" && fi.Mode().Perm() != 0600) {
t.Fatalf("generated config must be 0600 (holds plaintext key), got %v", fi.Mode().Perm())
}
// generated file must load and be safe-by-default
cfg, err := Load(path)
if err != nil {
t.Fatalf("load generated: %v", err)
}
if len(cfg.GatewayKeys) != 1 || !strings.HasPrefix(cfg.GatewayKeys[0], "sk-gw-") {
t.Fatalf("gateway keys = %v", cfg.GatewayKeys)
}
if strings.Contains(string(raw), cfg.GatewayKeys[0]) == false {
t.Fatal("generated key must be written into the file")
}
if cfg.Listen != "127.0.0.1:8080" {
t.Fatalf("listen = %q, want loopback-only", cfg.Listen)
}
if len(cfg.Sources) != 0 {
t.Fatalf("default config must ship no sources (user adds them), got %+v", cfg.Sources)
}
// adapter_dir / runtime_file resolve next to the config file
if !strings.HasPrefix(cfg.AdapterDir, dir) || !strings.HasPrefix(cfg.RuntimeFile, dir) {
t.Fatalf("paths must live next to the config: adapter_dir=%s runtime_file=%s", cfg.AdapterDir, cfg.RuntimeFile)
}
}
func TestEnsureDefaultDoesNotOverwriteExisting(t *testing.T) {
dir := t.TempDir()
path := filepath.Join(dir, "cfg.yaml")
content := "listen: 127.0.0.1:9999\ngateway_keys: [sk-keep]\n"
if err := os.WriteFile(path, []byte(content), 0644); err != nil {
t.Fatal(err)
}
created, err := EnsureDefault(path)
if err != nil {
t.Fatalf("ensure: %v", err)
}
if created {
t.Fatal("existing file must not be reported as created")
}
raw, _ := os.ReadFile(path)
if string(raw) != content {
t.Fatalf("existing file was overwritten: %q", raw)
}
}
func TestNewGatewayKeyIsRandom(t *testing.T) {
a, err := NewGatewayKey()
if err != nil {
t.Fatal(err)
}
b, err := NewGatewayKey()
if err != nil {
t.Fatal(err)
}
if a == b {
t.Fatal("two generated keys must differ")
}
if !strings.HasPrefix(a, "sk-gw-") || len(a) != len("sk-gw-")+32 {
t.Fatalf("unexpected key format: %q", a)
}
}
func TestApplyDefaultsDuplicateSource(t *testing.T) {
cfg := Config{Sources: []Source{
{Name: "a", BaseURL: "http://x", Models: []Model{{ID: "m1"}}},
{Name: "a", BaseURL: "http://y", Models: []Model{{ID: "m2"}}},
}}
if err := cfg.ApplyDefaults(); err == nil {
t.Fatal("expected duplicate source error")
}
}
func TestApplyDefaultsNoSources(t *testing.T) {
// empty source list is valid (sources may be added later via the Web UI)
cfg := Config{}
if err := cfg.ApplyDefaults(); err != nil {
t.Fatal(err)
}
if cfg.Listen != ":8080" || cfg.DefaultModel != "AUTO" {
t.Fatalf("defaults not applied: %+v", cfg)
}
}
func TestApplyDefaultsDuplicateModel(t *testing.T) {
cfg := Config{Sources: []Source{
{Name: "a", BaseURL: "http://x", Models: []Model{{ID: "m1"}}},
{Name: "b", BaseURL: "http://y", Models: []Model{{ID: "m1"}}},
}}
if err := cfg.ApplyDefaults(); err != nil {
t.Fatalf("duplicate model across sources should be allowed: %v", err)
}
}
func TestStoreUpsertRemove(t *testing.T) {
path := filepath.Join(t.TempDir(), "runtime.json")
s := NewStore(path)
if err := s.Load(); err != nil {
t.Fatal(err)
}
if err := s.Upsert(Source{Name: "a", BaseURL: "http://a", APIKey: "sk-a", Models: []Model{{ID: "m"}}}); err != nil {
t.Fatal(err)
}
if err := s.Upsert(Source{Name: "b", BaseURL: "http://b", Models: []Model{{ID: "m2"}}}); err != nil {
t.Fatal(err)
}
if len(s.List()) != 2 {
t.Fatalf("list = %d", len(s.List()))
}
removed, err := s.Remove("a")
if err != nil || !removed {
t.Fatalf("remove: %v %v", removed, err)
}
if len(s.List()) != 1 {
t.Fatalf("after remove list = %d", len(s.List()))
}
// reload from disk
s2 := NewStore(path)
if err := s2.Load(); err != nil {
t.Fatal(err)
}
if len(s2.List()) != 1 {
t.Fatalf("reloaded list = %d", len(s2.List()))
}
}
func TestStoreSecretEncryption(t *testing.T) {
t.Setenv("LLMS_PROXY_MASTER_KEY", "")
dir := t.TempDir()
path := filepath.Join(dir, "runtime.json")
s := NewStore(path)
if s.box == nil {
t.Fatal("expected secret box")
}
if err := s.Load(); err != nil {
t.Fatal(err)
}
headers := map[string]string{"Authorization": "Bearer sk-hdr", "X-Custom": "plain"}
if err := s.Upsert(Source{Name: "a", BaseURL: "http://a", APIKey: "sk-secret-123", Headers: headers}); err != nil {
t.Fatal(err)
}
// file on disk must not contain plaintext secrets
raw, err := os.ReadFile(path)
if err != nil {
t.Fatal(err)
}
for _, plain := range []string{"sk-secret-123", "Bearer sk-hdr"} {
if strings.Contains(string(raw), plain) {
t.Fatalf("secret %q stored in plaintext on disk", plain)
}
}
// in-memory stays plaintext after the writes
src := s.List()[0]
if src.APIKey != "sk-secret-123" {
t.Fatalf("in-memory api_key = %q", src.APIKey)
}
if src.Headers["Authorization"] != "Bearer sk-hdr" {
t.Fatal("in-memory header not plaintext")
}
// reload: decrypted back
s2 := NewStore(path)
if err := s2.Load(); err != nil {
t.Fatal(err)
}
if s2.List()[0].APIKey != "sk-secret-123" {
t.Fatalf("reloaded api_key = %q", s2.List()[0].APIKey)
}
}
func TestSecretBoxRoundTrip(t *testing.T) {
dir := t.TempDir()
box, err := NewSecretBox(filepath.Join(dir, "runtime.json"))
if err != nil {
t.Fatal(err)
}
v, err := box.Encrypt("sk-abc-xyz")
if err != nil {
t.Fatal(err)
}
if strings.HasPrefix(v, "sk-") || strings.Contains(v, "abc-xyz") {
t.Fatalf("ciphertext leaked plaintext: %q", v)
}
out, err := box.Decrypt(v)
if err != nil || out != "sk-abc-xyz" {
t.Fatalf("roundtrip: %q %v", out, err)
}
if plain, err := box.Decrypt("sk-plain"); err != nil || plain != "sk-plain" {
t.Fatalf("plain passthrough: %q %v", plain, err)
}
// wrong key must error
bad, _ := NewSecretBox(filepath.Join(t.TempDir(), "runtime.json"))
if _, err := bad.Decrypt(v); err == nil {
t.Fatal("expected decrypt failure with wrong key")
}
}
func TestRemoveSourceFromYAML(t *testing.T) {
dir := t.TempDir()
path := filepath.Join(dir, "cfg.yaml")
content := `
listen: 127.0.0.1:9999
gateway_keys: [sk-1]
default_model: AUTO
adapter_dir: adapters
runtime_file: runtime.json
sources:
- name: deepseek
base_url: https://api.deepseek.com
api_key: sk-d
adapter: deepseek
models:
- id: deepseek-v4-flash
- name: ollama
base_url: http://127.0.0.1:11434
adapter: ollama
models:
- id: llama3
`
if err := os.WriteFile(path, []byte(content), 0644); err != nil {
t.Fatal(err)
}
if err := RemoveSourceFromYAML(path, "deepseek"); err != nil {
t.Fatalf("remove: %v", err)
}
reloaded, err := Load(path)
if err != nil {
t.Fatalf("reload: %v", err)
}
if len(reloaded.Sources) != 1 {
t.Fatalf("sources = %d, want 1", len(reloaded.Sources))
}
if reloaded.Sources[0].Name != "ollama" {
t.Fatalf("remaining = %q, want ollama", reloaded.Sources[0].Name)
}
if reloaded.Sources[0].Models[0].ID != "llama3" {
t.Fatalf("remaining models broken: %+v", reloaded.Sources[0].Models)
}
// removing a non-existent name is a no-op that keeps the file valid
if err := RemoveSourceFromYAML(path, "nope"); err != nil {
t.Fatalf("remove missing: %v", err)
}
if cfg, err := Load(path); err != nil || len(cfg.Sources) != 1 {
t.Fatalf("after no-op: %v %v", len(cfg.Sources), err)
}
}
// TestSeedTemplatesOnce verifies preset templates are seeded exactly once:
// a user's edit survives a restart, and a deliberately deleted preset does
// not silently come back.
func TestSeedTemplatesOnce(t *testing.T) {
dir := t.TempDir()
path := filepath.Join(dir, "runtime.json")
presets := []SourceTemplate{
{Name: "DeepSeek", BaseURL: "https://api.deepseek.com", Adapter: "deepseek",
Models: []Model{{ID: "deepseek-chat", Kind: "chat"}}},
{Name: "OpenAI", BaseURL: "https://api.openai.com/v1", Adapter: "openai",
Models: []Model{{ID: "gpt-4o", Kind: "chat"}}},
}
// first run: both presets land in the store
s1 := NewStore(path)
if err := s1.Load(); err != nil {
t.Fatal(err)
}
if err := s1.SeedTemplates(presets); err != nil {
t.Fatalf("seed: %v", err)
}
if got := len(s1.ListTemplates()); got != 2 {
t.Fatalf("after seed len = %d, want 2", got)
}
// user edits one preset, deletes the other
edited := presets[0]
edited.BaseURL = "https://my-proxy.internal/v1"
if err := s1.UpsertTemplate(edited); err != nil {
t.Fatal(err)
}
if _, err := s1.RemoveTemplate("OpenAI"); err != nil {
t.Fatal(err)
}
// restart: re-seeding must be a no-op for both
s2 := NewStore(path)
if err := s2.Load(); err != nil {
t.Fatal(err)
}
if err := s2.SeedTemplates(presets); err != nil {
t.Fatalf("reseed: %v", err)
}
tpls := s2.ListTemplates()
if len(tpls) != 1 {
t.Fatalf("after restart len = %d, want 1 (deleted preset must not return): %+v", len(tpls), tpls)
}
if tpls[0].Name != "DeepSeek" || tpls[0].BaseURL != "https://my-proxy.internal/v1" {
t.Fatalf("user edit lost on restart: %+v", tpls[0])
}
}