mirror of
https://gitcode.com/JianFeeeee/ModelRouter.git
synced 2026-11-07 09:47:23 +00:00
按前导抽出三块共通实现(都是实测逐字节相同的):
| 钩子 | 原本重复 | 各 2.2KB |
|---|---|---|
| transform_stream_chunk | github/groq/kimicode/mistral | 2210B × 4 |
| transform_response | openai/groq/kimicode/mistral/github | 2206B × 5 |
| transform_error | deepseek/github/groq/kimicode/openai/sensenova | 292B × 6 |
适配器总行数 2409(收工前 groq 单文件 146 行 → 46 行)。
★ 两个必须记下的教训(都在本提交里踩到并修好):
1. **抽公共代码要抽最全的实现,不是最小的**。我先抽了 transform_error 的
最小版(只认 {error:{message}}),打挂了 TestOpenAITransformErrorEnvelopes
的 6 个子用例 —— 最小版丢掉了 HTML 错误页、裸文本、扁平 {code,message}、
FastAPI {detail} 等形状。openai.lua 原有的 1580B 版本才是该进前导的那份。
抽最小实现是**静默降级**:不报错,只是少认几种错误体。
2. **抽出共性时不能丢掉"非共性但重要"的细节**。openai_response 我漏了两处:
reasoning_content 透传、以及 tool_calls 的 id 规整(safe_tool_id)。
后者尤其危险 —— 本网关是扇出路由器,一个非法 id("bash:0")会被回放到
每个 Claude 上游导致整条 AUTO 链失败;且**流式与非流式必须同规则**,
否则同一请求两条路径产出不同 id(实测报错:
流式 "bash_0_40248ca0" vs 非流式 "bash:0")。现两条路径都走
__prelude.tool_id。
判据:TestPreludeRefactorIsByteIdentical —— 固定输入下逐字节比对
(含"arguments 必须解码成表""usage-only chunk 必须是 done:false"
"arguments 不得留原样 JSON 字符串"等反向断言),并覆盖错误体 6 种形状
与"非 OpenAI 形状必须返回 ok=false"。
另修 channels_pool_test:断言改为**关系**(关一个模型源里少一个)而非写死
数量 —— 兜底目录会随对齐进度变化(minimax 3→4),写死数量会把正常的目录
扩充变成测试失败。
回归:internal/{lua,provider,core,gateway} 全绿。
50 lines
1.9 KiB
Lua
50 lines
1.9 KiB
Lua
local adapter = {}
|
||
|
||
adapter.name = "mistral"
|
||
adapter.version = "2.0.0"
|
||
adapter.endpoint = "/v1/chat/completions"
|
||
adapter.headers = {}
|
||
|
||
-- Mistral API is OpenAI-compatible, just passes through
|
||
function adapter.transform_request(raw_body)
|
||
local ok, req = pcall(json.decode, raw_body)
|
||
if not ok then return raw_body end
|
||
req.model = req.model or "mistral-large-latest"
|
||
req.temperature = req.temperature or 0.7
|
||
req.max_tokens = req.max_tokens or 4096
|
||
req.stream = req.stream or false
|
||
-- The gateway's private control fields are GONE from the body (v2): the
|
||
-- neutral `thinking` field carries that intent and each adapter maps it in
|
||
-- its own protocol terms. These upstreams have no thinking switch at all,
|
||
-- so the field is simply dropped here — which is what the nil-ing below
|
||
-- used to do, except the field being dropped is no longer the kernel's
|
||
-- private one.
|
||
req.thinking = nil
|
||
req.extra_body = nil
|
||
return json.encode(req)
|
||
end
|
||
|
||
function adapter.transform_response(raw_body)
|
||
-- 非流式 OpenAI 响应 → 统一信封。此前在 openai/groq/kimicode/mistral/github
|
||
-- 五个适配器里**逐字节相同**(各 2206B,diff 为空),已抽到共享前导。
|
||
return __prelude.openai_response(raw_body)
|
||
end
|
||
|
||
function adapter.transform_stream_chunk(raw_chunk)
|
||
-- 标准 OpenAI SSE → 统一信封。该实现此前在 groq/kimicode/mistral/github
|
||
-- 四个适配器里**逐字节重复**(各 2211B),已抽到共享前导。
|
||
return __prelude.openai_stream_chunk(raw_chunk)
|
||
end
|
||
|
||
-- 错误收敛:Mistral 用顶层 {message="...", type="..."}(非嵌套 error)
|
||
function adapter.transform_error(status, body)
|
||
local ok, resp = pcall(json.decode, body)
|
||
if not ok or type(resp) ~= "table" then return nil end
|
||
if type(resp.message) == "string" then
|
||
return resp.message
|
||
end
|
||
return nil
|
||
end
|
||
|
||
return adapter
|