ModelRouter

jianf/ModelRouter

Fork 0

mirror of https://gitcode.com/JianFeeeee/ModelRouter.git synced 2026-11-12 04:07:25 +00:00

Commit Graph

Author	SHA1	Message	Date
JianFeeeee	9bec158d2e	chore(main): 回流 release/v2.0.x（v2.0.12）—— 内容对齐，main 无独有内容按发布纪律回流。注意这是内容对齐而非 merge，理由与依据： 1. 纪律禁止 merge 回主干，因为 merge 会把发布分支的版本号变更带进 main。本项目版本号只由 `git describe --tags` 推导（Makefile VERSION），仓库里没有任何文件存放版本号 ⇒ 回流不存在版本污染风险。 2. 逐项核对确认 main 是 release 的内容严格子集： - `main` 独有的文件：0 个； - `internal/lua/plugins.go` / `internal/core/kernel_actions.go` 等内核文件 main 独有行数：0； - `deploy.sh` 那 14 行只是 emoji 清理（release 刻意去掉了 emoji）； - `channels.lua` 那 333 行是旧版内容（旧 exports 表、旧模型名单）。 - main 独有的 9 个提交按 patch-id 全部已在 release 中等效存在（`git cherry` 逐条列出均为 `-`，即已合入）。 3. 故回流 = 把 release 的内容带到 main，等价于"只捡拾修复、不带版本号"，且不会丢任何 main 独有的修复。本次带回 v2.0.12 的全部内容（37 个提交）： - 源串行 + 按模型节流（照 model-gate） - 已失效模型存储 + 远端目录闸门 - 余额分档选号 - 模型能力元数据（models.dev，isFree 权威判定） - 凭据续期修复（此前恒报 ok:true 却一个请求都不发） - 通用件 TTL 缓存 + 串行锁；account_test/account_adopt/account_delete 修正 - 内核级：出站授权持久化重启后不生效、`__llmsproxy_plugin_dir` ground truth 校验：`git diff release/v2.0.x` = 0 行；`go build -tags luajit ./...` 通过。	2026-10-14 16:52:58 +08:00
JianFeeeee	c19b8e6394	fix(scheduler): AUTO 遇空内容响应降级到下一个 slot（客户端曾报 "no content"）生产故障：pi 客户端报 `model "AUTO" returned a completed response with no content`，重试延迟 8 秒。实测 AUTO 20 次有 2 次返回空 content，全部是 claude-opus-4-8。根因（直连上游抓包确认）：思考型模型先吐 reasoning_content，max_tokens 小到思考阶段就把预算用完时，上游返回 200 / finish_reason=length，28 个 chunk 全是 reasoning_content、content 一片空白。runTier 只看 err == nil 就当成功返回，客户端拿到一个空响应。修复： - resultIsEmpty：非流式路径把「无 content、无 tool_calls、无 image」的响应当作 slot 失败继续降级。注意 ReasoningContent 不算内容——客户端要的是文本，为另一个模型的思考阶段扣住请求比降级更糟。 - peekStream：流式路径在出现首个真实内容前缓冲 reasoning 前导，流结束仍无内容则回报空结果，让 chainDrive 换 slot。缓冲只覆盖思考前导，拿到内容后立即转发。tool_calls delta 算内容，agent 回合不会被误判。 - 3 条判据 + 3 个变异（恒 false / 恒 true / reasoning 算内容）全部被捕获。同时修三个 WebUI 布局缺陷（都靠截图而非 DOM 断言发现）： - 插件侧栏项只渲染图标没有标题：btn.innerHTML 只塞 pluginIconHTML(pg.icon)，与原生页的「图标 + <span>标题</span>」不一致，侧栏是一排无名图标。 - 计费维度表 8 列挤在 465px 卡片里：table-layout:fixed 把每列压到 62px， 23/80 个单元格溢出、数字互相重叠。改为 6 列（token 细分合并为「输入(新鲜+缓存)」，细分进 title）+ table-layout:auto，实测 0/60 溢出。 - 数字列 word-break:break-all 让每个字符独占一行（USD 0.56 竖排成 U/S/D），改 nowrap + 容器横向滚动。	2026-10-02 15:10:01 +08:00

Author

SHA1

Message

Date

JianFeeeee

9bec158d2e

chore(main): 回流 release/v2.0.x（v2.0.12）—— 内容对齐，main 无独有内容

按发布纪律回流。**注意这是内容对齐而非 merge**，理由与依据：

1. 纪律禁止 merge 回主干，因为 merge 会把发布分支的**版本号变更**带进 main。
   本项目版本号**只由 `git describe --tags` 推导**（Makefile VERSION），
   仓库里没有任何文件存放版本号 ⇒ 回流不存在版本污染风险。
2. 逐项核对确认 **main 是 release 的内容严格子集**：
   - `main` 独有的**文件**：0 个；
   - `internal/lua/plugins.go` / `internal/core/kernel_actions.go` 等内核文件
     main 独有行数：0；
   - `deploy.sh` 那 14 行只是 emoji 清理（release 刻意去掉了 emoji）；
   - `channels.lua` 那 333 行是**旧版内容**（旧 exports 表、旧模型名单）。
   - main 独有的 9 个提交按 patch-id **全部已在 release 中等效存在**
     （`git cherry` 逐条列出均为 `-`，即已合入）。
3. 故回流 = 把 release 的内容带到 main，等价于"只捡拾修复、不带版本号"，
   且不会丢任何 main 独有的修复。

本次带回 v2.0.12 的全部内容（37 个提交）：
- 源串行 + 按模型节流（照 model-gate）
- 已失效模型存储 + 远端目录闸门
- 余额分档选号
- 模型能力元数据（models.dev，isFree 权威判定）
- **凭据续期修复**（此前恒报 ok:true 却一个请求都不发）
- 通用件 TTL 缓存 + 串行锁；account_test/account_adopt/account_delete 修正
- 内核级：出站授权持久化重启后不生效、`__llmsproxy_plugin_dir` ground truth

校验：`git diff release/v2.0.x` = 0 行；`go build -tags luajit ./...` 通过。

2026-10-14 16:52:58 +08:00

JianFeeeee

c19b8e6394

fix(scheduler): AUTO 遇空内容响应降级到下一个 slot（客户端曾报 "no content"）

生产故障：pi 客户端报 `model "AUTO" returned a completed response with no content`，
重试延迟 8 秒。实测 AUTO 20 次有 2 次返回空 content，全部是 claude-opus-4-8。

根因（直连上游抓包确认）：思考型模型先吐 reasoning_content，max_tokens 小到
思考阶段就把预算用完时，上游返回 200 / finish_reason=length，28 个 chunk 全是
reasoning_content、content 一片空白。runTier 只看 err == nil 就当成功返回，
客户端拿到一个空响应。

修复：
- resultIsEmpty：非流式路径把「无 content、无 tool_calls、无 image」的响应当作
  slot 失败继续降级。注意 ReasoningContent 不算内容——客户端要的是文本，为
  另一个模型的思考阶段扣住请求比降级更糟。
- peekStream：流式路径在出现首个真实内容前缓冲 reasoning 前导，流结束仍无内容
  则回报空结果，让 chainDrive 换 slot。缓冲只覆盖思考前导，拿到内容后立即
  转发。tool_calls delta 算内容，agent 回合不会被误判。
- 3 条判据 + 3 个变异（恒 false / 恒 true / reasoning 算内容）全部被捕获。

同时修三个 WebUI 布局缺陷（都靠截图而非 DOM 断言发现）：
- 插件侧栏项只渲染图标没有标题：btn.innerHTML 只塞 pluginIconHTML(pg.icon)，
  与原生页的「图标 + <span>标题</span>」不一致，侧栏是一排无名图标。
- 计费维度表 8 列挤在 465px 卡片里：table-layout:fixed 把每列压到 62px，
  23/80 个单元格溢出、数字互相重叠。改为 6 列（token 细分合并为
  「输入(新鲜+缓存)」，细分进 title）+ table-layout:auto，实测 0/60 溢出。
- 数字列 word-break:break-all 让每个字符独占一行（USD 0.56 竖排成 U/S/D），
  改 nowrap + 容器横向滚动。

2026-10-02 15:10:01 +08:00

2 Commits