同一批多个 tool_call 的循环(StepToolBegin→Exec→After)此前只被 scheduler_critical_test.go:125 一条用例覆盖「按序执行」,缺的三条正是 阶段 2(并行执行层)要改的地方: · tool_call_id 配对完整性 —— 阶段 2 改消息落法(一个 assistant 带全部 tool_calls + N 条 tool)时,配对断裂上游会直接报错 · ContentOnce 批内语义 —— 同一段 assistant 文本在批内重复 N 次,撑爆上下文 · denied 后继续批内 —— 改成 abort 会丢掉本可执行的后续调用 判据 toolbatch_test.go(4 条),全部确定性断言:阶段 0 已消除 map 迭代随机性,同批工具的落序与配对可稳定断言。 变异验证:令 stepToolBegin 跳过批内最后一个工具后,4 条判据同时 FAIL (既有那条也 FAIL),报错直指 ToolsUsed=[tool_alpha]、 tool_call_id "c2" 被声明 0 次。 更正一处此前的不准确表述:我曾说「无任何测试直接驱动批内路径」—— 不准确。scheduler_critical_test.go:125 已驱动「同批两工具按序执行」; 漏查是因为只 grep 了 PendingTools/ToolIdx 字段名,没查断言内容。 真正缺的是上表三条。 过程中三次自伤(均由「判据先写」暴露):臆造不存在的 helper; stageHost 置 nil 后又使用;给 newTaskFrame 传 nil 导致 stepPrepare 于 task.go:519 nil 解引用 panic(改用仓内既有 a.stageCtxFromInput)。 顺带记录:生产两处 newTaskFrame 调用都传真实 ctx,但 stepPrepare 对 f.StageCtx 无 nil 兜底——本次不修(无生产触发路径),记为潜在缺口。 回归:internal/agent/... 与 internal/plugins/... 全绿。
13 KiB
工具调用并行化改造:执行计划
设计依据:
docs/zh/toolcall-contract-and-sequence-design.md(本文只讲怎么一步步做, 设计取舍与实证依据在那份文档里,不重复)。状态:阶段 0 已完成。阶段 0.5 起为待办。 纪律:每个阶段的「判据」必须先写且必须能失败,再改实现; 判据通过前不进入下一阶段(见文末「阶段纪律」)。
阶段总览与依赖
| 阶段 | 内容 | 依赖 | 状态 |
|---|---|---|---|
| 0 | 修 map 迭代顺序(flush 乱序) | — | ✅ 已完成 |
| 0.2 | 工具错误类型化(已完成) | — | ✅ 已完成 |
| 0.5 | 补多 tool_call 批内路径判据 | — | ✅ 已完成 |
| 1 | 结果契约 + 参数预校验 | — | ⬜ 待办 |
| 2 | 并行执行层 | 1 | ⬜ 待办 |
| 2.5 | 提示词改为「默认并行」 | 2 | ⬜ 待办 |
| 3 | 序列内核 | 2 | ⬜ 待办(设计已定,实现另议) |
| 4 | seq_* 插件 |
3 | ⬜ 待办(设计已定,实现另议) |
主线是 0.5 → 1 → 2 → 2.5。3/4 属序列特性,主线完成后另立。
⚠️ 顺序不可调换的两处
- 2.5 必须在 2 之后:先改提示词说「默认并行」而内核仍串行 = 提示词对模型说谎。
- 1 必须在 2 之前:并行化需要「诚实的 Success」与「结构化值」来判断结果与做条件; 先并行后补契约,等于把两处改动叠在同一段逻辑上,回归时无法定位是哪一处引起。
阶段 0 ✅ 已完成
问题:flushToolCall 由 for idx := range accs 驱动,Go map 迭代顺序随机化
⇒ 同一批并行 tool_call 进入 resp.ToolCalls 的顺序每次运行都可能不同。
对 output_send__ 这类用户可见通道 ⇒ 分段消息到达顺序不可复现。
改动:process.go —— 抽出闭包 flushAll,收集 index 后 sort.Ints 再 flush。
两个调用点(ch 关闭、ctx.Done())统一走它。
判据:stream_flush_order_test.go —— 8 工具 × 200 轮,断言输出严格按投递顺序。
已做变异验证:退回 map 遍历后判据于 round 0 即 FAIL(实际顺序 [tool_02…tool_00 tool_01])。
修复后 core 包全绿。
阶段 0.2 ✅ 工具错误类型化(已完成)
问题(两条,第二个是静默 bug):
- 内核用
strings.Contains(err, "not found in any plugin")判别「工具不存在」 (原toolcall.go:104)——约定不是契约。插件错误文案若含该子串即被误判。 - ⚠️
IOManager向父兜底时吞掉父的执行失败(channel.go:655-660), 误报为「工具不存在」。后果放大:设备离线这类本该 retry 的失败被判为 「工具没了」⇒ 整组被跳过,与「插件真没加载」无法区分。
改动:
io/channel.go:新增哨兵ErrToolNotFound+ToolNotFound(name)+IsToolNotFound(err)(沿用仓内ErrInputChannelUnknown的先例)。IOManager.ExecuteTool的父兜底 改为只传递「确实不存在」,其余错误如实上抛。core/stages.go:StageHost的 not-found 改用agentIO.ToolNotFound。core/toolcall.go:字符串匹配 →agentIO.IsToolNotFound;「不存在」时给出 可执行文案(提示get_plugin_tools/output_list_channels), 而非含糊的「执行失败」——后者会让模型反复重试同一个不存在的名字。
判据:toolcall_error_test.go(类型化 vs 诱饵子串、%w 穿透、执行期文案)+
channel_error_test.go(父失败不吞、真的不存在仍可判别)。
变异验证:退回父兜底吞噬后,TestExecuteTool_DoesNotSwallowParentFailureAsNotFound
FAIL(父的执行失败被误报为『工具不存在』);修复后全绿。
⚠️ 过程中的一次自伤:我先改了 channel.go 却漏了 stages.go 的 import,
导致整包 build 失败。已修。另:第一次写判据时只覆盖了类型化,没覆盖父兜底吞噬,
变异后仍绿 —— 说明「判据通过」不等于「修的东西被测到」。补了 channel_error_test.go 才闭合。
阶段 0.5 ✅ 补批内路径判据(已完成)
前提更正(此前我写「无任何测试直接驱动批内路径」——不准确):
scheduler_critical_test.go:125 的 TestBatch_NotAbandonedWithoutPreemption
已经驱动了「同批两个工具按序执行」。漏查是因为我只 grep 了
PendingTools / ToolIdx 这两个字段名,没查断言内容。
真正缺的是该测试未覆盖的三条(已核实全仓无对应断言):
| 缺口 | 风险 | 新增判据 |
|---|---|---|
tool_call_id 配对完整性 |
阶段 2 改消息落法时,配对一旦断裂上游直接报错 | TestBatchToolCallIDsAllPaired |
ContentOnce 批内语义 |
同一段 assistant 文本在批内重复 N 次,撑爆上下文 | TestBatchAssistantTextAppearsOnce |
| denied 后继续批内 | 改成 abort 会丢掉本可执行的后续调用 | TestBatchContinuesAfterDeniedTool |
另加 TestBatchExecutesEveryToolCall(批内全序列 + 顺序 + ToolResults 完整性)。
判据:toolbatch_test.go(4 条)+ 复用既有 TestBatch_NotAbandonedWithoutPreemption。
全部确定性断言(阶段 0 已消除 map 随机性)。
变异验证:令 stepToolBegin 跳过批内最后一个工具后,4 条判据同时 FAIL
(既有那条也 FAIL),报错直指 ToolsUsed = [tool_alpha]、tool_call_id "c2" 被声明 0 次。
⚠️ 过程中三次自伤(都靠"判据先写"暴露):
- 臆造了不存在的 helper(
sdkToolDef/sdkStageCtx)⇒ build 失败 - 把
a.stageHost = nil后又用它注册 stage handler - 给
newTaskFrame传nil⇒stepPrepare于task.go:519nil 解引用 panic ⇒ 改用仓内既有的a.stageCtxFromInput(...)(与scheduler_preempt_test一致) ★ 顺带记录:生产路径两处newTaskFrame调用(task.go:228/422)都传真实 ctx, 但stepPrepare对f.StageCtx无 nil 兜底。本次不修(无生产触发路径), 记为潜在健壮性缺口。
阶段 1 ⬜ 结果契约 + 参数预校验
对应设计文档 §4。动机:Success 硬编码 true(task.go:757 唯一赋值点)、
required 无消费方、结果被降级为 string——这三项让阶段 2/3 都缺地基。
1a. SDK 侧新增(纯新增,无签名变更)
third_party/homeagent-sdk/sdk/plugin.go:
// ToolError 描述失败原因。存在的理由:失败若只表达为文本,模型无法定位到字段,
// 只能原样重试(实测 cmd_run 失败率 34%~48% 源于同一成因)。
type ToolError struct {
Field string `json:"field,omitempty"`
Reason string `json:"reason"` // required/type/unauthorized/timeout/not_found
Detail string `json:"detail,omitempty"`
Hint string `json:"hint,omitempty"`
}
ToolDef增ParallelSafe bool(零值false= 不可并行 = 现状行为, 刻意让存量插件升级后得到保守行为)。- 仓内
internal/sdk/plugin.go补对应别名再导出。
1b. 诚实化 Success
Success = (err == nil) && !isToolError(result)。
判据必须同时覆盖新旧两种形态:存量插件返回 map[string]interface{}{"error": ...}
(如 files/plugin.go:228)要判为失败,而返回普通 map/string 仍算成功。
漏了后者 = 升级会把存量插件的成功误判成失败,这是本阶段最大的回归风险。
1c. 参数预校验
在 executeToolCallInner(toolcall.go:47)分派之前执行:逐项查 required、
逐项查 properties.type。失败返回结构化 ToolError,不进分派。
⚠️ getBool(utils.go:26)的注释记载 bool/string/float 三种都出现过 ⇒
校验不能把合法的 "true" 判为非法。判据必须覆盖这一点。
1d. 保留结构化值
executeToolCall 内部保留 rawResult interface{}(不降级为 string),
渲染交给统一函数:紧凑 JSON,禁止 fmt.Sprintf("%v")(那会产出
map[status:sent id:123] 这种模型读不懂的 Go 语法)。
顺带修一个静默失效:task.go:771 的 ToolResults[0].Result.(string) 断言
几乎恒失败(插件返回的多是 map)⇒ after_toolcall 阶段插件对结构化结果的改写当前无效。
阶段 1 判据
toolerror_test.go:isToolError对新旧两种形态的判定(各 3 例:失败 map / 成功 map / 成功 string)argvalidate_test.go:缺 required、类型不符、"true"宽松放行- 回归:core 包全绿;存量插件 smoke(
internal/plugins不得新增 FAIL)
阶段 2 ⬜ 并行执行层
对应设计文档 §6。三处结构性改动,按耦合从松到紧推进:
2a. 消息落法(最松,先做)
现状:每工具一对 assistant + tool 消息。
改为:一个 assistant 消息携带全部 tool_calls,后接 N 条 tool 消息,
按 index 升序。
独立价值:这本身是协议上更正确的形态(现状的「N 个 assistant 各带 1 个 tool_call」 不表达「这是一批」)。阶段 0.5 判据 2 在此直接生效。
2b. ConsumeToolBlocks 改 per-call(最硬的耦合)
io/channel.go:974 现为 IOManager 级单队列(取走即清空)。
多模态插件在 3 处调用 SetToolBlocks(multimodal/plugin.go:136,246,320)。
并发下会抢走彼此的媒体 ⇒ 挂到错误的 tool 消息上 ⇒ 直接破坏 task.go:818
那条花了三轮实测才定下的结论(媒体必须走 user message、紧跟 toolMsg)。
改法:blocks 按 call_id 归档,ConsumeToolBlocks(callID) 按 id 取。
判据:toolblocks_concurrent_test.go —— 2 个工具各自注入媒体,
断言各自拿到自己的块(当前必失败:第二个抢走第一个的)。
2c. StageContext 拆 per-tool
f.StageCtx 是单槽,每工具覆写(task.go:697-698, 714, 755, 769-771)。
并发下 N 个 goroutine 同写一个 ctx = 数据竞争。
改法:每工具一份独立 StageContext。Extra 必须逐份复制——
现载有 input_source / output_channel / media_blocks / media_type
(task.go:371-375),stage.go:18 依赖 output_channel。
判据:-race 下跑 2 工具并发批,断言无 race 且两个 before_toolcall
handler 各自看到正确的 ToolCalls[0].Name。
2d. 批次调度与保序
- 全批
ParallelSafe⇒ 并发;否则整批串行(整批降级,不做部分并发—— 部分并发的收益不抵其不可预测性)。 - 同
output_send__<通道>多次发送保序(用户可见顺序敏感)。
阶段 2.5 ⬜ 提示词改为「默认并行」
⚠️ 必须在阶段 2 落地之后(见「顺序不可调换的两处」)。
对应设计文档 §6.5。buildSystemPrompt(tooldefs.go)新增一段,表达四件事:
默认并行 / 不可依赖顺序 / 例外:同通道输出保序 / 例外:写类工具不并发。
同时必改:spawn_child 描述里那句「应并行 spawn 多个子 Agent,不要自己串行逐个执行」
(tooldefs.go:466)——它在改造前是落空的(模型照做,内核仍串行);
改造后应改为机制性表述。
判据:提示词内容断言(prompt_contract_test.go)——四要点各自在文本中命中;
且负判据:串行阶段的提示词不含「默认并行」字样,防止再次跑反顺序。
阶段 3 / 4 ⬜ 序列(设计已定,实现另议)
设计见 docs/zh/toolcall-contract-and-sequence-design.md §7/§8。
依赖阶段 2(组内并行)与阶段 1(结构化条件 + 诚实 Success)。
待定项 D2(parallel: false 是否构成闸门后门)需先拍板。
阶段纪律 [沿用本仓既有教训]
- 判据先写,且必须能失败。写完先跑一次确认 FAIL,再改实现。
- 变异验证:改完把修复回退一次,确认判据重新 FAIL。 「判据全绿」不等于「判据有效」——本仓 T23 教训(fixture 照臆测字段编, 判据全绿而实现全错)就是跳过这一步。
- 判据只断言代码真实产出的字段。我本次就栽过一次:先写了
assert tc.StreamIndex == i,而flushToolCall根本不给ToolCall赋StreamIndex⇒ 恒假信号。判据必须对着实际输出写。 - 期望值由独立来源算出,不引用被测代码。
- 每阶段结束跑全包
go test ./internal/agent/core/ -count=1, 并检查存量插件 smoke 无新增 FAIL。