ModelRouter

jianf/ModelRouter

Fork 0

mirror of https://gitcode.com/JianFeeeee/ModelRouter.git synced 2026-11-12 20:27:23 +00:00

Commit Graph

Author	SHA1	Message	Date
JianFeeeee	1c6a2821e4	feat(provider): 端点机制去厂商化 —— 适配器声明 endpoint_stream 内核不再知道 Gemini 的流式动词。之前 provider.ChatURL 对 ":generateContent" 做字符串替换（注释自认 "Gemini is the only such adapter"），把厂商协议知识放进了调度器。现在适配器自己声明： adapter.endpoint_stream = "/v1beta/models/{model}:streamGenerateContent" 内核只比较两个不透明字符串，四级优先级： source.endpoint_stream > source.endpoint > adapter.endpoint_stream > adapter.endpoint - staticInfo.endpointStream + VM.StreamEndpoint() 编译期提取 - config.Source.StreamEndpoint（yaml: endpoint_stream） - gemini.lua 声明 endpoint_stream - 内核代码 generateContent 计数归零（仅注释/适配器持有）首版实现踩了一个回归并当场修掉：源自定义 endpoint 时适配器的 stream endpoint 会错误覆盖用户的显式路径。TestEndpointPrecedence 把四级优先级钉死，防止再犯。验证：go test -tags luajit ./... 全绿；golden 字节级未漂移。	2026-10-11 08:30:39 +08:00
JianFeeeee	a2e1adc2d8	fix(gemini): endpoint 自相矛盾导致预置模板必失败 gemini.lua 里 adapter.endpoint = "/v1/models"，而它自己的注释写的是 POST /v1/models/{model}:generateContent 两者矛盾，而 Go 侧是静态拼接（provider.URL = base_url + endpoint），拼不出模型名。预置模板 "Google Gemini"（base_url=.../v1beta）于是会 POST 到 https://generativelanguage.googleapis.com/v1beta/v1/models 既多一段 /v1，又缺 :generateContent——那是 Gemini 的模型列表端点，对 POST 返 405。所以任何用户从模板建这个源，拿到的都是必定失败的源。实测确认影响范围：线上 21 个源里没有 gemini（openai×15 / trae / sensenova / opencodezen / deepseek / anthropic / agentrouter），所以是潜伏缺陷。修法：endpoint 改成模板 `/v1beta/models/{model}:generateContent`，新增 provider.ChatURL(model, stream)： - 用 PathEscape 替换 {model}——模型 id 进的是 URL 路径，不转义的话一个 "/" 就会静默指向另一个资源（判据里用 RequestURI 而非 URL.Path 断言，因为后者是解码后的，看不出 %2F）； - 流式把 ":generateContent" 换成 ":streamGenerateContent"（同一个路径、不同动词，也在路径里）。替换刻意只认这个精确后缀，免得别的适配器仅仅提到这个词就被改写； - source 自己设的 endpoint: 仍然优先，模板被整体跳过。 Chat / ChatStream / probeChat 三处调用点改为传本次请求真实的 model——AUTO 按槽位把 req.Model 钉死，所以 URL 必须跟随请求的模型，用源默认模型会让多模型源每次都打同一个（还记到别的模型的账上）。判定静态 endpoint 的其他 10 个适配器零影响（TestNonGeminiEndpointsAreUntouched）。顺带：Stats 的 mutex 不是可重入的，导出方法自己加锁、*Locked 后缀要求调用方持锁。持锁调导出方法会死锁——我的探针真卡死过一次（直到 10 分钟超时）。补上 LOCKING 注释，并加判据把这条规则钉住（含一个 20 秒上限的行为判据，让未来的重构撞死锁时快速失败而不是拖满整个套件）。	2026-10-01 23:37:17 +08:00

Author

SHA1

Message

Date

JianFeeeee

1c6a2821e4

feat(provider): 端点机制去厂商化 —— 适配器声明 endpoint_stream

内核不再知道 Gemini 的流式动词。之前 provider.ChatURL 对
":generateContent" 做字符串替换（注释自认 "Gemini is the only such
adapter"），把厂商协议知识放进了调度器。

现在适配器自己声明：

    adapter.endpoint_stream = "/v1beta/models/{model}:streamGenerateContent"

内核只比较两个不透明字符串，四级优先级：

    source.endpoint_stream > source.endpoint > adapter.endpoint_stream
                                          > adapter.endpoint

- staticInfo.endpointStream + VM.StreamEndpoint() 编译期提取
- config.Source.StreamEndpoint（yaml: endpoint_stream）
- gemini.lua 声明 endpoint_stream
- 内核代码 generateContent 计数归零（仅注释/适配器持有）

首版实现踩了一个回归并当场修掉：源自定义 endpoint 时适配器的 stream
endpoint 会错误覆盖用户的显式路径。TestEndpointPrecedence 把四级优先级
钉死，防止再犯。

验证：go test -tags luajit ./... 全绿；golden 字节级未漂移。

2026-10-11 08:30:39 +08:00

JianFeeeee

a2e1adc2d8

fix(gemini): endpoint 自相矛盾导致预置模板必失败

gemini.lua 里 adapter.endpoint = "/v1/models"，而它自己的注释写的是
  POST /v1/models/{model}:generateContent
两者矛盾，而 Go 侧是静态拼接（provider.URL = base_url + endpoint），拼不出
模型名。预置模板 "Google Gemini"（base_url=.../v1beta）于是会 POST 到
  https://generativelanguage.googleapis.com/v1beta/v1/models
既多一段 /v1，又缺 :generateContent——那是 Gemini 的模型**列表**端点，
对 POST 返 405。所以任何用户从模板建这个源，拿到的都是必定失败的源。

实测确认影响范围：线上 21 个源里没有 gemini（openai×15 / trae / sensenova /
opencodezen / deepseek / anthropic / agentrouter），所以是潜伏缺陷。

修法：endpoint 改成模板 `/v1beta/models/{model}:generateContent`，新增
provider.ChatURL(model, stream)：
  - 用 **PathEscape** 替换 {model}——模型 id 进的是 URL 路径，不转义的话
    一个 "/" 就会静默指向另一个资源（判据里用 RequestURI 而非 URL.Path
    断言，因为后者是解码后的，看不出 %2F）；
  - 流式把 ":generateContent" 换成 ":streamGenerateContent"（同一个路径、
    不同动词，也在路径里）。替换刻意只认这个精确后缀，免得别的适配器
    仅仅提到这个词就被改写；
  - source 自己设的 endpoint: 仍然优先，模板被整体跳过。
Chat / ChatStream / probeChat 三处调用点改为传本次请求真实的 model——AUTO
按槽位把 req.Model 钉死，所以 URL 必须跟随**请求**的模型，用源默认模型会让
多模型源每次都打同一个（还记到别的模型的账上）。

判定静态 endpoint 的其他 10 个适配器零影响（TestNonGeminiEndpointsAreUntouched）。

顺带：Stats 的 mutex 不是可重入的，导出方法自己加锁、*Locked 后缀要求调用
方持锁。持锁调导出方法会死锁——我的探针真卡死过一次（直到 10 分钟超时）。
补上 LOCKING 注释，并加判据把这条规则钉住（含一个 20 秒上限的行为判据，
让未来的重构撞死锁时快速失败而不是拖满整个套件）。

2026-10-01 23:37:17 +08:00

2 Commits