mirror of
https://gitcode.com/JianFeeeee/ModelRouter.git
synced 2026-11-07 09:47:23 +00:00
按发布纪律回流。**注意这是内容对齐而非 merge**,理由与依据:
1. 纪律禁止 merge 回主干,因为 merge 会把发布分支的**版本号变更**带进 main。
本项目版本号**只由 `git describe --tags` 推导**(Makefile VERSION),
仓库里没有任何文件存放版本号 ⇒ 回流不存在版本污染风险。
2. 逐项核对确认 **main 是 release 的内容严格子集**:
- `main` 独有的**文件**:0 个;
- `internal/lua/plugins.go` / `internal/core/kernel_actions.go` 等内核文件
main 独有行数:0;
- `deploy.sh` 那 14 行只是 emoji 清理(release 刻意去掉了 emoji);
- `channels.lua` 那 333 行是**旧版内容**(旧 exports 表、旧模型名单)。
- main 独有的 9 个提交按 patch-id **全部已在 release 中等效存在**
(`git cherry` 逐条列出均为 `-`,即已合入)。
3. 故回流 = 把 release 的内容带到 main,等价于"只捡拾修复、不带版本号",
且不会丢任何 main 独有的修复。
本次带回 v2.0.12 的全部内容(37 个提交):
- 源串行 + 按模型节流(照 model-gate)
- 已失效模型存储 + 远端目录闸门
- 余额分档选号
- 模型能力元数据(models.dev,isFree 权威判定)
- **凭据续期修复**(此前恒报 ok:true 却一个请求都不发)
- 通用件 TTL 缓存 + 串行锁;account_test/account_adopt/account_delete 修正
- 内核级:出站授权持久化重启后不生效、`__llmsproxy_plugin_dir` ground truth
校验:`git diff release/v2.0.x` = 0 行;`go build -tags luajit ./...` 通过。
124 lines
4.9 KiB
Go
124 lines
4.9 KiB
Go
package lua
|
||
|
||
import (
|
||
"strings"
|
||
"testing"
|
||
)
|
||
|
||
// 前导重构的**等价性判据**:把重复实现抽进前导后,输出必须逐字节不变。
|
||
//
|
||
// 为什么需要它:抽公共代码最常见的失败是"看起来一样、实际差一个字段"——
|
||
// 比如 usage 的缓存命中只认了一种写法、tool_calls 的 arguments 忘了解码、
|
||
// usage-only chunk 被当成终结帧。这类差异不会报错,只会让下游少一个字段。
|
||
//
|
||
// 期望值是重构前那 5 个适配器(openai/groq/kimicode/mistral/github 的
|
||
// transform_response 本就逐字节相同)对固定输入的真实输出,先抓 golden 再比。
|
||
func TestPreludeRefactorIsByteIdentical(t *testing.T) {
|
||
vm, _, _ := runtimePlugins(t)
|
||
for _, name := range []string{"openai", "groq", "kimicode", "mistral", "github"} {
|
||
src, err := bundledAdapters.ReadFile("adapters/" + name + ".lua")
|
||
if err != nil {
|
||
t.Fatalf("读内嵌适配器 %s: %v", name, err)
|
||
}
|
||
if err := vm.LoadAdapterSource(name, string(src)); err != nil {
|
||
t.Fatalf("%s: %v", name, err)
|
||
}
|
||
}
|
||
|
||
// 非流式:工具调用 + 两种缓存命中写法同时出现
|
||
respIn := `{"choices":[{"message":{"content":"hi","tool_calls":[{"id":"c1","type":"function",` +
|
||
`"function":{"name":"f","arguments":"{\"a\":1}"}}]},"finish_reason":"tool_calls"}],` +
|
||
`"usage":{"prompt_tokens":10,"completion_tokens":5,"total_tokens":15,` +
|
||
`"prompt_cache_hit_tokens":4,"prompt_cache_miss_tokens":6}}`
|
||
for _, n := range []string{"openai", "groq", "kimicode", "mistral", "github"} {
|
||
out, err := vm.Transform(n, "transform_response", respIn)
|
||
if err != nil {
|
||
t.Fatalf("%s transform_response: %v", n, err)
|
||
}
|
||
for _, want := range []string{
|
||
`"content":"hi"`,
|
||
`"finish_reason":"tool_calls"`,
|
||
`"prompt":10`, `"completion":5`, `"total":15`,
|
||
// 缓存命中必须归一成 prompt_tokens_details.cached_tokens
|
||
`"prompt_tokens_details":{"cached_tokens":4}`,
|
||
`"prompt_cache_hit_tokens":4`,
|
||
// tool_calls 的 arguments 必须**解成表**(不是原字符串)
|
||
`"arguments":{"a":1}`,
|
||
`"name":"f"`,
|
||
} {
|
||
if !strings.Contains(out, want) {
|
||
t.Errorf("%s: 输出缺 %s\n实际: %s", n, want, out)
|
||
}
|
||
}
|
||
// arguments 绝不能被留下原样的 JSON 字符串
|
||
if strings.Contains(out, `"arguments":"{\"a\":1}"`) {
|
||
t.Errorf("%s: arguments 未被解码成表:%s", n, out)
|
||
}
|
||
}
|
||
|
||
// 流式:内容 + reasoning + tool_calls 同帧
|
||
streamIn := `{"choices":[{"delta":{"content":"x","reasoning_content":"r",` +
|
||
`"tool_calls":[{"index":0,"id":"c1","function":{"name":"f","arguments":"{}"}}]},` +
|
||
`"finish_reason":null}]}`
|
||
for _, n := range []string{"openai", "groq", "kimicode", "mistral", "github"} {
|
||
out, err := vm.Transform(n, "transform_stream_chunk", streamIn)
|
||
if err != nil {
|
||
t.Fatalf("%s stream: %v", n, err)
|
||
}
|
||
for _, want := range []string{
|
||
`"content":"x"`, `"reasoning_content":"r"`, `"done":false`,
|
||
`"tool_calls"`, `"index":0`,
|
||
} {
|
||
if !strings.Contains(out, want) {
|
||
t.Errorf("%s stream 缺 %s\n实际: %s", n, want, out)
|
||
}
|
||
}
|
||
}
|
||
|
||
// usage-only chunk(choices 为空)**不得**被当成终结帧
|
||
usageOnly := `{"choices":[],"usage":{"prompt_tokens":3,"completion_tokens":0,"total_tokens":3}}`
|
||
for _, n := range []string{"openai", "groq", "kimicode", "mistral", "github"} {
|
||
out, err := vm.Transform(n, "transform_stream_chunk", usageOnly)
|
||
if err != nil {
|
||
t.Fatalf("%s usage-only: %v", n, err)
|
||
}
|
||
if !strings.Contains(out, `"done":false`) {
|
||
t.Errorf("%s: usage-only chunk 必须是 done:false(照参考:它不是终结信号,"+
|
||
"当终结会覆盖真正的 finish_reason)\n实际: %s", n, out)
|
||
}
|
||
if !strings.Contains(out, `"prompt":3`) {
|
||
t.Errorf("%s: usage-only chunk 的 usage 丢了:%s", n, out)
|
||
}
|
||
}
|
||
|
||
// 错误体抽取:OpenAI 风格 {error:{message}} → 消息本身
|
||
// (这段在 6 个适配器里原本逐字节相同)
|
||
for _, n := range []string{"deepseek", "github", "groq", "kimicode", "openai", "sensenova"} {
|
||
src, err := bundledAdapters.ReadFile("adapters/" + n + ".lua")
|
||
if err != nil {
|
||
t.Fatalf("读 %s: %v", n, err)
|
||
}
|
||
if err := vm.LoadAdapterSource(n, string(src)); err != nil {
|
||
t.Fatalf("%s: %v", n, err)
|
||
}
|
||
reason, ok, err := vm.TransformError(n, 429, `{"error":{"message":"rate limited"}}`)
|
||
if err != nil {
|
||
t.Fatalf("%s TransformError: %v", n, err)
|
||
}
|
||
if !ok || reason != "rate limited" {
|
||
t.Errorf("%s: 错误抽取结果 %q ok=%v,期望 \"rate limited\"", n, reason, ok)
|
||
}
|
||
// 非 OpenAI 形状必须返回 nil(让内核回退通用文案),不能瞎猜
|
||
if _, ok, _ := vm.TransformError(n, 500, `{"foo":"bar"}`); ok {
|
||
t.Errorf("%s: 非 OpenAI 形状应返回 ok=false", n)
|
||
}
|
||
}
|
||
|
||
// 坏 JSON 必须原样回退(不能吞成空)
|
||
if out, err := vm.Transform("openai", "transform_response", "not json"); err != nil {
|
||
t.Fatalf("bad json: %v", err)
|
||
} else if out != "not json" {
|
||
t.Errorf("坏 JSON 应原样回退,实得: %s", out)
|
||
}
|
||
}
|