mirror of
https://gitcode.com/JianFeeeee/HomeAgent.git
synced 2026-10-03 15:53:56 +00:00
feat(toolcall): 工具结果只统计不裁剪(方案 B),并治掉 seq 侧的静默截断
问题(核实过):工具结果进 f.Msgs 时**没有任何长度上限**(task.go 直接 `Content: result`),内核也**不预检**是否超长 —— 超限由上游 API 报错。 时间线那侧有预算(ContextTokens = 0.8×窗口,进消息前就裁过),但那只管 a.context 的历史事件,**不管单条工具结果** ⇒ 一条巨大结果可能直接冲破 预算而内核不会提前发现。 为什么**不裁剪**(与方案 A 的取舍): · 截断会让模型拿到**残缺**信息,而截断位置由内核武断决定; · 模型无法得知"这里被截断了",会基于残缺数据下结论 —— 与本仓反复 吃亏的「静默降级」同族(`20s` 少引号 → 静默降级 → cmd_run 失败率 34%); · 处置权应交给调度器/上层(告警、拒绝、或让模型自己换更窄的查询), 而不是内核单方面替模型决定。 改动: · core/toolresult_budget.go: checkToolResultSize 只**计数+报告**; 阈值默认 = ContextTokens/8(一条吃掉全部预算会把其它上下文全挤掉); 报告经 toolResultReporter(可替换),默认 logReporter —— **不给模型发 消息**:那是在已花掉的 token 之上再加一条 system,且对当前这轮决策无帮助。 · 接入点在 stepToolAfter 的 toolMsg 落定**之后**(那里才是模型最终看到的 内容;stepToolExec 拿到的尚未经 after_toolcall 改写)。 · TaskFrame 记 oversizeTools / oversizeToolNames,供调度器与状态面查询 "是否有工具在稳定产出超大结果"。 ★ 顺带治掉 seq 侧一处**我自己留下的静默截断**: handlers.go 里我当初随手写了 truncate(…, 160),把变量槽静默截到 160 字 且**无任何标注** —— 正是我批评过的静默降级。 改为 renderSlot:≤160 给全;超过则显式标注「已截断:共 N 字,此处显示前 160 字」并给出改法。**槽里存的始终是完整值**,截断只影响回填文本长度。 端到端判据 TestSeqRunDoesNotSilentlyTruncateSlot 抓到了这个缺陷 ("变量槽被截到 160/5000 字却没有任何标注")。 判据(toolresult_budget_test.go,4 条): · 400KB 结果触发超限报告(含工具名与 token 数) · ★ **默认不裁剪**:200KB 结果原样进 tool 消息(方案 B 的核心不变式) · 小结果不误报(噪音会淹没有效信号) · 报告文案可执行:带工具名、token 数、改法建议 变异验证:去掉统计调用 ⇒ 两条判据 FAIL("统计没生效" + "被裁剪了")。 另:检查项报 stepToolBatch 的 goroutine 竞态,-race 实测**误报**—— 循环变量显式传参(非闭包捕获)、且按索引写各自槽位(非共享 map), `-race` 下 20 轮并发判据全绿。
This commit is contained in:
@ -324,7 +324,7 @@ func (p *Plugin) runSequence(seq *Sequence, in map[string]interface{}, _ any) (i
|
||||
}
|
||||
sort.Strings(keys)
|
||||
for _, k := range keys {
|
||||
fmt.Fprintf(&sb, "\n %s = %s", k, truncate(renderResult(slots[k]), 160))
|
||||
fmt.Fprintf(&sb, "\n %s = %s", k, renderSlot(slots[k]))
|
||||
}
|
||||
}
|
||||
if failed {
|
||||
@ -428,15 +428,34 @@ func renderGroupResult(res GroupResult) string {
|
||||
sort.Strings(keys)
|
||||
sb.WriteString("\n出参:")
|
||||
for _, k := range keys {
|
||||
fmt.Fprintf(&sb, "\n %s = %s", k, truncate(renderResult(res.Slots[k]), 160))
|
||||
fmt.Fprintf(&sb, "\n %s = %s", k, renderSlot(res.Slots[k]))
|
||||
}
|
||||
}
|
||||
return sb.String()
|
||||
}
|
||||
|
||||
func truncate(s string, n int) string {
|
||||
if len(s) <= n {
|
||||
// renderSlot 渲染一个变量槽的值。
|
||||
//
|
||||
// ⚠️ 截断**必须显式标注**(方案 B:只统计不静默裁剪)。
|
||||
// 我此前在这里写了裸 truncate(…, 160) —— 那正是本仓反复吃亏的
|
||||
// 「静默降级」:模型拿到 160 字的残缺值却**不知道**后面还有内容,
|
||||
// 会基于残缺数据下结论。端到端判据 TestSeqRunDoesNotSilentlyTruncateSlot
|
||||
// 正是为此而写(它抓到过这个缺陷)。
|
||||
//
|
||||
// 行为:≤ slotDisplayLimit 时给全;超过时给前段 + 显式的「已截断,共 N 字」。
|
||||
// 标注让模型能自己决定是否改用更窄的查询重取。
|
||||
func renderSlot(v interface{}) string {
|
||||
s := renderResult(v)
|
||||
if len(s) <= slotDisplayLimit {
|
||||
return s
|
||||
}
|
||||
return s[:n] + "..."
|
||||
return fmt.Sprintf("%s …【已截断:共 %d 字,此处显示前 %d 字。"+
|
||||
"若需完整内容,请用更窄的查询条件重跑,或把大结果转存后按需取回】",
|
||||
s[:slotDisplayLimit], len(s), slotDisplayLimit)
|
||||
}
|
||||
|
||||
// slotDisplayLimit 是变量槽的单条显示上限。
|
||||
//
|
||||
// 它**只影响展示**,不影响执行:槽里存的始终是完整值(模型可在本轮内
|
||||
// 通过条件表达式读到完整内容)。截断仅为控制**回填文本**的长度。
|
||||
const slotDisplayLimit = 160
|
||||
|
||||
Reference in New Issue
Block a user