fix(memory,llm): L2 预填充并入召回主路 + 回退换 provider 时换 model(视觉失效真因)

## 1. L2(冷上下文)预填充此前只走「注入文本」,等于没有
设计:prune 与 recall 是一对 —— 工具声明 ContextPolicy=prune + RecallPolicy=auto
时,工具输出既触发裁剪、也触发预填充(memoryPass → recallTextFor)。
但 L2 那一路只写在 buildSystemPrompt 里,query 用的是**注入文本**;
QQ 注入的是「来自「X」的私聊消息(message_id=…),先用 qq_get_message 取正文」,
与用户真正说的话毫无相似度 ⇒ 冷上下文预填充恒为空。
(现场:头天晚上讲的冷笑话,第二天早上完全唤不回;14 小时里
 memory recall (input…) 只有 5 次、且 query 是元信息。)

改法:把 L2 检索并入 buildMemoryContext —— 输入路用输入文本、工具路用工具正文,
两条路共用同一次召回与预算;buildSystemPrompt 里那份重复注入删掉。
中断消息仍然 NoMemory + RecallPolicy=none(不裁剪、不召回、不进记忆),
这是设计要求,未改动。

## 2. 回退换 provider 时必须换 model(视觉失效的真因)
现场日志:
  deepseek 402 Insufficient Balance
  → 回退 llmsproxy,但 req 仍带 model=「deepseek-flash」
  → llmsproxy 403 model_not_allowed
  → llmsproxy 被整源标记 unavailable(冷却)
  → 视觉回退 resolveModalFallback 跳过它 ⇒「配置了视觉却说没有视觉」

两处修正:
  · 每个 provider 用自己的 model 发请求(model 是 provider 的属性)
  · 403 区分「模型不被该 key 允许」与「凭证失效」:前者只否一个 model,
    provider 仍可用于其他 model 与视觉回退

判据:internal/agent/core/provider_model_fallback_test.go
This commit is contained in:
JianFeeeee
2026-10-27 11:49:26 +08:00
parent 981b969f58
commit 4af07d08fe
9 changed files with 520 additions and 71 deletions

View File

@ -1353,6 +1353,24 @@ func (a *Agent) callLLMWithFallback(req *agentAPI.CompletionRequest, providers [
fbProvider.Name(), pi, len(providers)-1)
}
// ★ 每个 provider 必须用**自己的** model 发请求(2026-10-27 真机)。
//
// 现场:默认源 deepseek(model=deepseek-flash) 402 → 回退 llmsproxy(model=AUTO)
// 时复用了同一个 req ⇒ llmsproxy 收到 model="deepseek-flash" ⇒ 403
// model_not_allowed ⇒ 两个源全挂,且 llmsproxy 被整源标记不可用(冷却)
// ⇒ 视觉回退跳过它 ⇒ 用户看到"配置了视觉却说没有视觉"。
//
// model 是 **provider 的属性**,不是请求的共享字段。
if rp, ok := fbProvider.(agentAPI.RoutableProvider); ok {
if m := rp.Model(); m != "" && m != req.Model {
if pi > 0 {
log.Printf("[agent] fallback provider %q uses its own model %q (was %q)",
fbProvider.Name(), m, req.Model)
}
req.Model = m
}
}
// 同源瞬时错误重试:网关瞬断(502/503/504/429/网络抖动)通常秒级恢复,
// 直接跳下一个 provider(或直接报错)会丢掉本可成功的请求。
// 凭证错误(401/403)与用户中断不重试。
@ -1415,8 +1433,17 @@ func (a *Agent) callLLMWithFallback(req *agentAPI.CompletionRequest, providers [
}
var pe *agentAPI.ProviderError
if errors.As(llmErr, &pe) && (pe.StatusCode == 401 || pe.StatusCode == 403) {
a.providerManager.ReportStatus(fbProvider.Name(), pe.StatusCode)
log.Printf("[agent] provider %q marked unavailable (HTTP %d)", fbProvider.Name(), pe.StatusCode)
// 403 分两类:凭证/权限问题 ⇒ 整源不可用;**模型名不被该 key 允许**
// (model_not_allowed)⇒ 只是这个 model 不行,provider 仍可用于
// 其他 model,也包括视觉回退。混为一谈会让一次模型名不匹配把整源判死。
if isModelNotAllowed(llmErr) {
log.Printf("[agent] provider %q rejected model %q (HTTP %d) — "+
"model-level issue, provider stays available: %v",
fbProvider.Name(), req.Model, pe.StatusCode, llmErr)
} else {
a.providerManager.ReportStatus(fbProvider.Name(), pe.StatusCode)
log.Printf("[agent] provider %q marked unavailable (HTTP %d)", fbProvider.Name(), pe.StatusCode)
}
} else {
a.providerManager.MarkUnavailable(fbProvider.Name())
}
@ -1485,3 +1512,26 @@ func stageHint(ctx *sdk.StageContext, key string) string {
v, _ := ctx.Extra[key].(string)
return strings.TrimSpace(v)
}
// isModelNotAllowed 判断错误是不是"这个模型名不被该 key 允许"。
//
// 与"凭证失效"处置相反:前者只否掉一个 model(provider 仍可服务其他 model,
// 也仍可用于视觉回退),后者才该把整源标记不可用。
func isModelNotAllowed(err error) bool {
if err == nil {
return false
}
msg := strings.ToLower(err.Error())
for _, m := range []string{
"model_not_allowed",
"is not allowed for this key",
"model not allowed",
"model_not_found",
"does not exist or you do not have access",
} {
if strings.Contains(msg, m) {
return true
}
}
return false
}