Files
HomeAgent/internal/agent/core/parallelsched_test.go
JianFeeeee 34c0df2705 feat(toolcall): 批次并发调度与同通道保序(阶段 2d,闭合 2c 判据缺口)
规则(三条全满足才并发):
  1. 批内 >1 个工具
  2. **全部**工具声明 ParallelSafe —— 一个不声明就整批降级,不做部分并发
  3. 不含需保序的同通道输出发送

SDK:
· ToolDef 加 ParallelSafe bool。⚠️ 零值 false 是刻意的:存量插件不改一行
  就得到**保守**行为(整批串行),不会因升级被意外并发。声明它是责任
  而非特权。纯新增字段,无签名变更。
· io.ToolDef 同步加该字段(设备/通道工具走 io 路径,只查 StageHost 会漏)。

core:
· 新增 StepToolBatch —— runTaskSteps 是单线程驱动状态机的,
  「每步一个工具」的游标模型无法表达「一批同时跑」,故需独立 step。
· stepToolBatch:fan-out(每工具一 goroutine,各写自己的 toolCtxs[i])
  → join → **按索引顺序**串行收尾(after_toolcall / 落消息 / 事件)。
  收尾必须串行且按索引:f.Msgs 是共享切片,且按索引落才能让模型读到的
  上下文顺序与它自己发出的顺序一致。
· runOneTool 抽出「before_toolcall + 执行」的单工具逻辑,串行/并发两条路共用。
· toolParallelSafe / batchRunnable 判据函数。

★ 修掉一个我自己引入的竞争:resolveTurnScenes 会把结果记进**共享**的
f.sceneDone / f.turnScene(memorypass.go:289)。最初在每个 goroutine 里
各调一次 —— 既是数据竞争,又会各自触发一次 EnterSceneWithHint,
重复计入场景强度(正是 sceneDone 注释警告过的问题)。改为在 fan-out
**之前**解析一次,goroutine 内只读。

判据(parallelsched_test.go,4 条):
· 全批 ParallelSafe ⇒ 并发峰值 >= 2(用阻塞设备观察真实并发)
· 一个非 ParallelSafe ⇒ 整批串行,但**仍全部执行**
· 同 output_send__<通道> 连发 3 条 ⇒ 严格按声明顺序到达
· ★ 并发下每个工具的 ctx 只带自己的 ToolCalls、after 读到自己结果

★ 并关闭了 2c 的判据缺口:此前两条 2c 判据在**串行**下无法区分
per-tool 与单槽(变体验证后仍全绿)。新增的并发版判据在退回单槽时
触发 **6 处 DATA RACE 报告 + 串味断言失败**(dup:k_a 与 k_a 撞名)。
至此 2c 可记为已验证。

过程中三次自伤:
· resolveTurnScenes 竞争(上述);
· 我的 harness 用 StageHost 注册 handler 遮蔽了设备工具,
  slowDevice 根本没被调用("实际 0")——改为在 io.ToolDef 上声明;
· 批内并发峰值判据最初用 StageHost 声明 ParallelSafe,掩盖了
  「设备工具也需要该字段」这一真实缺口。

回归:internal/agent/... internal/sdk/... internal/plugin/...
      internal/plugins/... 全绿(17 包);core 包 -race 全绿。
2026-09-27 11:27:24 +08:00

319 lines
11 KiB
Go
Raw Blame History

This file contains ambiguous Unicode characters

This file contains Unicode characters that might be confused with other characters. If you think that this is intentional, you can safely ignore this warning. Use the Escape button to reveal them.

package core
import (
"fmt"
"strings"
"sync"
"sync/atomic"
"testing"
"time"
agentAPI "gitcode.com/JianFeeeee/HomeAgent/internal/agent/api"
agentIO "gitcode.com/JianFeeeee/HomeAgent/internal/agent/io"
sdk "gitcode.com/JianFeeeee/HomeAgent/internal/sdk"
)
// 阶段 2d:批次调度与保序。
//
// 三条规则:
// 1. 全批 ParallelSafe ⇒ 并发;否则**整批**降级串行(不做部分并发——
// 收益不抵不可预测性)。
// 2. 同一 output_send__<通道> 的多次发送**保序**(用户可见消息顺序敏感)。
// 3. 并发时每个工具只写自己的 per-tool ctx(这同时闭合 2c 的判据缺口)。
// slowDevice 是一个"可并发"的测试设备:每个 Execute 阻塞到被显式放行,
// 用来观察多个工具是否**同时**在执行中。
type slowDevice struct {
name string
toolNames []string
safe []string // 声明为 ParallelSafe 的工具名
entered *int32
active *int32
maxActive *int32
release chan struct{}
delay time.Duration
}
func (d *slowDevice) Name() string { return d.name }
func (d *slowDevice) Type() agentIO.DeviceType { return agentIO.DeviceOutput }
func (d *slowDevice) Description() string { return "slow test device" }
func (d *slowDevice) Tools() []agentIO.ToolDef {
safe := map[string]bool{}
for _, n := range d.safe {
safe[n] = true
}
out := make([]agentIO.ToolDef, 0, len(d.toolNames))
for _, n := range d.toolNames {
out = append(out, agentIO.ToolDef{Name: n, ParallelSafe: safe[n]})
}
return out
}
func (d *slowDevice) Execute(tool string, args map[string]interface{}) (interface{}, error) {
atomic.AddInt32(d.entered, 1)
cur := atomic.AddInt32(d.active, 1)
// 记录并发峰值
for {
old := atomic.LoadInt32(d.maxActive)
if cur <= old || atomic.CompareAndSwapInt32(d.maxActive, old, cur) {
break
}
}
if d.release != nil {
<-d.release // 阻塞,直到测试放行
} else if d.delay > 0 {
time.Sleep(d.delay)
}
atomic.AddInt32(d.active, -1)
return "ran:" + tool, nil
}
func (d *slowDevice) Start() error { return nil }
func (d *slowDevice) Stop() error { return nil }
func (d *slowDevice) OutputCapabilities() agentIO.OutputCapability { return agentIO.CapText }
func (d *slowDevice) ChannelDef() agentIO.ChannelDef { return agentIO.ChannelDef{} }
// ① 并发:全批 ParallelSafe ⇒ 同一时刻有多个工具在执行。
func TestBatchParallelWhenAllToolsParallelSafe(t *testing.T) {
var entered, active, maxActive int32
release := make(chan struct{})
names := []string{"p_a", "p_b", "p_c"}
sp := &batchProvider{responses: []*agentAPI.CompletionResponse{
{ToolCalls: []agentAPI.ToolCall{
{ID: "c1", Name: "p_a", Arguments: map[string]interface{}{}},
{ID: "c2", Name: "p_b", Arguments: map[string]interface{}{}},
{ID: "c3", Name: "p_c", Arguments: map[string]interface{}{}},
}},
{Content: "final"},
}}
a := newParallelAgent(t, sp, names, names, &entered, &active, &maxActive, release)
done := make(chan struct{})
go func() {
defer close(done)
if out := a.runTaskSteps(a.newTaskFrame("go", a.stageCtxFromInput("go", "", ""))); out != outcomeDone {
t.Errorf("runTaskSteps=%v", out)
}
}()
// 等到**至少两个**同时进入执行;若串行则永远只有一个,会超时。
deadline := time.Now().Add(3 * time.Second)
for atomic.LoadInt32(&maxActive) < 2 && time.Now().Before(deadline) {
time.Sleep(5 * time.Millisecond)
}
close(release)
<-done
if got := atomic.LoadInt32(&maxActive); got < 2 {
t.Errorf("全批 ParallelSafe 却未并发(并发峰值=%d,应 >=2)", got)
}
if entered != int32(len(names)) {
t.Errorf("应执行 %d 个工具,实际 %d", len(names), entered)
}
}
// ② 整批降级:只要有一个**非** ParallelSafe ⇒ 整批串行(不做部分并发)。
func TestBatchFallsBackToSerialIfAnyToolNotParallelSafe(t *testing.T) {
var entered, active, maxActive int32
release := make(chan struct{})
names := []string{"s_a", "s_b", "s_c"}
sp := &batchProvider{responses: []*agentAPI.CompletionResponse{
{ToolCalls: []agentAPI.ToolCall{
{ID: "c1", Name: "s_a", Arguments: map[string]interface{}{}},
{ID: "c2", Name: "s_b", Arguments: map[string]interface{}{}},
{ID: "c3", Name: "s_c", Arguments: map[string]interface{}{}},
}},
{Content: "final"},
}}
// 只声明前两个可并发 —— 第三个不声明 ⇒ 整批必须串行
a := newParallelAgent(t, sp, names, names[:2], &entered, &active, &maxActive, release)
done := make(chan struct{})
go func() {
defer close(done)
a.runTaskSteps(a.newTaskFrame("go", a.stageCtxFromInput("go", "", "")))
}()
// 给串行留出充分时间:让第一个工具走完并进入第二个
time.Sleep(150 * time.Millisecond)
observed := atomic.LoadInt32(&maxActive)
close(release)
<-done
if observed > 1 {
t.Errorf("存在非 ParallelSafe 工具时不应部分并发(并发峰值=%d)", observed)
}
if atomic.LoadInt32(&entered) != int32(len(names)) {
t.Errorf("整批仍应全部执行,实际 %d", entered)
}
}
// ③ 保序:同一 output_send__<通道> 的多次发送**必须**按声明顺序到达。
//
// 这是用户可见的语义:同一条通道连发 3 条消息,顺序颠倒用户就读错了。
func TestBatchSameOutputChannelKeepsOrder(t *testing.T) {
sp := &batchProvider{responses: []*agentAPI.CompletionResponse{
{ToolCalls: []agentAPI.ToolCall{
{ID: "c1", Name: "output_send__testch", Arguments: map[string]interface{}{"payload": "first"}},
{ID: "c2", Name: "output_send__testch", Arguments: map[string]interface{}{"payload": "second"}},
{ID: "c3", Name: "output_send__testch", Arguments: map[string]interface{}{"payload": "third"}},
}},
{Content: "final"},
}}
a := newPreemptAgent(t, sp)
var mu sync.Mutex
var got []string
dev := &recordingDevice{name: "testch", caps: agentIO.CapText,
tools: []agentIO.ToolDef{{Name: "output_send__testch"}}}
dev.onExec = func(payload string) {
mu.Lock()
got = append(got, payload)
mu.Unlock()
// 每条之间加延迟:若并发执行,顺序会被打乱
time.Sleep(20 * time.Millisecond)
}
if err := a.io.RegisterDevice(dev); err != nil {
t.Fatalf("注册设备失败: %v", err)
}
if out := a.runTaskSteps(a.newTaskFrame("go", a.stageCtxFromInput("go", "", ""))); out != outcomeDone {
t.Fatalf("runTaskSteps=%v", out)
}
want := []string{"first", "second", "third"}
if len(got) != len(want) {
t.Fatalf("应发送 %d 条,实际 %d(%v)", len(want), len(got), got)
}
for i := range want {
if got[i] != want[i] {
t.Errorf("第 %d 条应是 %q,实际 %q —— 同通道发送未保序(完整 %v)", i, want[i], got[i], got)
}
}
}
// recordingDevice 记录 output 工具的 payload 顺序。
type recordingDevice struct {
name string
caps agentIO.OutputCapability
tools []agentIO.ToolDef
onExec func(payload string)
}
func (d *recordingDevice) Name() string { return d.name }
func (d *recordingDevice) Type() agentIO.DeviceType { return agentIO.DeviceOutput }
func (d *recordingDevice) Description() string { return "recording test device" }
func (d *recordingDevice) Tools() []agentIO.ToolDef { return d.tools }
func (d *recordingDevice) Execute(tool string, args map[string]interface{}) (interface{}, error) {
if d.onExec != nil {
p, _ := args["payload"].(string)
d.onExec(p)
}
return map[string]interface{}{"status": "sent"}, nil
}
func (d *recordingDevice) Start() error { return nil }
func (d *recordingDevice) Stop() error { return nil }
func (d *recordingDevice) OutputCapabilities() agentIO.OutputCapability { return d.caps }
func (d *recordingDevice) ChannelDef() agentIO.ChannelDef { return agentIO.ChannelDef{} }
// newParallelAgent 建一个带 slowDevice 的 agent。
func newParallelAgent(t *testing.T, sp agentAPI.Provider, names, safe []string,
entered, active, maxActive *int32, release chan struct{}) *Agent {
t.Helper()
a := New(AgentConfig{
ID: "paragent",
Provider: sp,
ProviderManager: agentAPI.NewProviderManager(),
IO: agentIO.NewIOManager(),
StageHost: NewStageHost(),
})
if err := a.io.RegisterDevice(&slowDevice{
name: "slowdev", toolNames: names, safe: safe,
entered: entered, active: active, maxActive: maxActive, release: release,
}); err != nil {
t.Fatalf("注册设备失败: %v", err)
}
return a
}
// 阶段 2c 判据的**并发版**(闭合此前"串行下测不出差别"的缺口)。
//
// 此前两条 2c 判据在串行路径下无法区分「per-tool ctx」与「单槽」——
// 变体验证(toolCtxFor 退回单槽)后仍然全绿。差别只在并发下显现。
// 本判据在**真实并发批次**下断言:
//
// · 每个工具的 before_toolcall ctx 只带自己的 ToolCalls[0].Name
// · after_toolcall 读到的 Result 属于当前工具,不是批内另一个的
// · 全程 -race 无数据竞争
func TestBatchConcurrentEachToolSeesOwnContext(t *testing.T) {
names := []string{"k_a", "k_b", "k_c", "k_d"}
var entered, active, maxActive int32
release := make(chan struct{})
sp := &batchProvider{responses: []*agentAPI.CompletionResponse{
{ToolCalls: []agentAPI.ToolCall{
{ID: "c1", Name: names[0], Arguments: map[string]interface{}{}},
{ID: "c2", Name: names[1], Arguments: map[string]interface{}{}},
{ID: "c3", Name: names[2], Arguments: map[string]interface{}{}},
{ID: "c4", Name: names[3], Arguments: map[string]interface{}{}},
}},
{Content: "final"},
}}
a := newParallelAgent(t, sp, names, names, &entered, &active, &maxActive, release)
var mu sync.Mutex
beforeNames := map[string]string{}
crossTalk := map[string]string{}
a.stageHost.RegisterStage(sdk.StageBeforeToolcall, func(ctx *sdk.StageContext) error {
if len(ctx.ToolCalls) != 1 {
t.Errorf("并发下 before_toolcall 的 ctx 应只带 1 个 ToolCall,实际 %d", len(ctx.ToolCalls))
}
name := ""
if len(ctx.ToolCalls) > 0 {
name = ctx.ToolCalls[0].Name
}
mu.Lock()
if prev, dup := beforeNames[name]; dup {
crossTalk["dup:"+name] = "与 " + prev + " 撞名"
}
beforeNames[name] = name
mu.Unlock()
return nil
})
a.stageHost.RegisterStage(sdk.StageAfterToolcall, func(ctx *sdk.StageContext) error {
if len(ctx.ToolResults) == 0 {
return nil
}
name := ctx.ToolResults[0].Name
res := fmt.Sprint(ctx.ToolResults[0].Result)
// 结果必须含**自己**的名字("ran:k_a"),否则读到的是别人的
if !strings.Contains(res, name) {
mu.Lock()
crossTalk["after:"+name] = res
mu.Unlock()
}
return nil
})
done := make(chan struct{})
go func() {
defer close(done)
if out := a.runTaskSteps(a.newTaskFrame("go", a.stageCtxFromInput("go", "", ""))); out != outcomeDone {
t.Errorf("runTaskSteps=%v", out)
}
}()
deadline := time.Now().Add(3 * time.Second)
for atomic.LoadInt32(&maxActive) < 2 && time.Now().Before(deadline) {
time.Sleep(5 * time.Millisecond)
}
close(release)
<-done
if len(crossTalk) > 0 {
t.Errorf("并发下 StageContext 串味: %v", crossTalk)
}
if len(beforeNames) != len(names) {
t.Errorf("每个工具应各看到自己的 ctx,实际看到 %v(期望 %v)", beforeNames, names)
}
}