feat(commondev): 主管式多仓库开发流水线 + sidecar 后端抽象(pi/zcode) (#3)

* feat(commondev): 主管式多仓库开发流水线 + sidecar 后端抽象(pi/zcode)

## 是什么

agent 统筹开发流程的插件:登记项目 → 开工程线(每条线一个隔离工作目录 +
一个 sidecar 子进程 + 一对通道)→ 投递任务 → 同会话续投 → 评审/合入。

38 个工具:project_*/branch_*/workdir_*/job_*/review_*/test_*/
endpoint_*/agent_*/pi_*/conflict_check。

## sidecar 后端抽象(本轮核心)

传输层(local/ssh)与后端(pi/zcode/自定义)**正交**,四个自由组合:

  driver.json 描述一个后端:script / cliPath / env / args / llmConfig
  三级查找:插件数据目录 → **随包 rawfile** → 内置 pi 描述
  占位符:{workdir} {dataDir} {pluginDir} {rawfile} {sessionId}

★ 内置 pi 回退**与默认后端解耦**(2026-10-17 修):原实现写
`if cli == defaultAgentCLI { return builtinPiDriver() }`,把"给谁兜底"
和"默认选谁"耦合到同一常量 —— 一旦有人改默认,pi 当场失去兜底,
显式 cli="pi" 开始报「驱动不存在」。现在判断字面 "pi"。

默认后端保持 **pi**(我们本地主用);交付方用 zcode 走两种局部开关:
 · 单线:commondev_branch_open(cli="zcode")
 · 按机器:commondev_endpoint_set(host=..., cli="zcode")

## zcode 接入(三条真机判据,全部要求真改工程文件)

 · TestZcodeFullPipeline(29-34s):随包 driver + 真实 ZCode CLI
 · TestZcodeOverSSH(39s):真 ssh + scp,远端 node 跑 zcode
 · TestZcodeOverSSHWithPerHostEndpoints(68s):两个 host 别名配不同
   cli_path,走端点表而不是全局 settings

★ 会话库必须隔离到工作区(sidecar.mjs 的 ensureWorkspaceSessionStore):
实测 ZCode 的会话库路径**硬编码 homedir()**,`ZCODE_DATA_BASE_DIR` 对它
完全无效(26 个会话全落全局库)。但 `<workdir>/.zcode/config.json` 的
`storage.sessionDbPath` **确实生效**。所以启动前写一份工作区配置,
一举解决:多线不共用历史 / 不污染全局 ~/.zcode / 删线不留孤儿会话。
只在不存在时写 —— 用户手工放的要尊重。

## 其他

 · rawfile:项目根 rawfile/ 默认全收,解到 <插件目录>/rawfile/,绝对路径拒绝
 · 凭证:命名引用 + ${ENV_VAR},独立 0600 文件,绝不进 config.db(0644)
 · secretshell:给不受信 agent 用的安全 shell(ackey + safeshell)
 · 冲突检查 / 评审判据 / 镜像 / 每条线独立 workdir(hash 命名,合并后删除)

判据 30+ 条,含 4 条「判据本身的判据」(防止判据假绿)。

* fix(sdk): 协议通道纪律 + hmapdev 模板升级 + 示例插件 stdout 污染

## 核心缺陷:插件往 stdout 打日志 = 污染 JSON-RPC 协议通道

子进程插件与内核用 stdout 传 NDJSON 帧,stderr 才是日志通道。
脚手架模板(及 4 个示例插件)用 `fmt.Printf` 打日志 ⇒ 内核收到非 JSON 文本:

    [proc] weather 收到非法 JSON 帧(21 字节): invalid character 'i'

**生产实测 1038 条**(huawei_smarthome 720 / weather 113 / rss 103 / calendar 102)。
后果不只是日志噪音:那一行日志被**丢弃**,插件看起来"没启动"。

修法:
- hmapdev 模板 `fmt.Printf` → `log.Printf`(9 处)
- 示例插件 4 个 14 处:ai_image(2) calendar(5) rss(4) weather(3)
  + 补 "log" import
- 内核侧(主仓)同步让报错可定位:内容摘要 + 可能原因 + 修法

判别法:`package main` = 子进程(协议通道,禁用 stdout 打日志);
普通库包 = 进程内插件(编译进内核,写真实终端,**不是**缺陷)——
`internal/plugins/cli` 的 `fmt.Println` 属后者。

## hmapdev

- `cmd_build.go` +136:平台产物精确匹配(`--target` 是**append** 语义,
  原脚本 `ls dist/*.hmap | head -1` 会按字典序抓到 amd64,
  **导致 arm64 包里装的是 x86-64 二进制**,且退出码 0、校验和通过)
- `cmd_init.go` +46:脚手架 stdio 纪律
- `templates/proc_main.go.tmpl`:补齐 mgrStop/mgrStart/mgrIsRuntimeStopped
  三态能力(插件管理器运行态停启)
- `templates/plg.json.tmpl` 删除(合并进 cmd_init)

## 判据

- `scaffold_stdout_test.go`(3 条):扫模板生成的代码不得写 stdout。
  ★ 判据自身先假红过一次:**模板的注释里就写了 `fmt.Printf`** ⇒
  必须 `stripTemplateComments()` 之后才判
- `example_stdout_test.go`(2 条):扫全部 20 个子进程示例插件,
  报错给**文件:行号**;变异咬住并给出准确行号
- `package_examples_test.go`(2 条):**执行真实打包脚本**
  (第一版测的是 hmapdev 而不是脚本 ⇒ 变异不咬)
- `cmd_build` / `cmd_init` 新判据

## 其他

- sdk/settings.go +15(三态能力透传)
- `docs/versions.md` +§示例插件协议通道纪律(含生产 1038 条实测表格)
- `skills/homeagent-plugin-dev/SKILL.md` +§协议通道纪律(正误代码对比)

* fix(examples): 恢复 go.mod 相对路径 + 移除 plg.json 的 sdk 固定(修 CI 红)

CI 上 `Examples (linux/amd64)` 与 `(darwin/arm64)` 双红,只有两个失败:

  ✗ commondev   构建失败
  ✗ editdoc     构建失败
  error: 项目声明 sdk=1.4.0,但本地 SDK 存储里没有这个版本

其余 20 个示例全部成功 —— 说明不是通用问题,而是这两个被改坏了。

## 根因(两个叠加)

**① go.mod 被本机绝对路径污染**

我在上一个提交里用 `git add -A`,把本机 `go build` **自动改写**过的
go.mod 一并提交了:

  require github.com/JianFeeeee/homeagentsdk v1.4.0
  replace github.com/JianFeeeee/homeagentsdk => /root/.homeagent/hmapdev/sdk/v1.4.0

基线(origin/main)是:

  require github.com/JianFeeeee/homeagentsdk v0.0.0
  replace github.com/JianFeeeee/homeagentsdk => ../../

本机那个目录真的存在 ⇒ 本地全绿;CI 没有 ⇒ 必红。

**② plg.json 声明了 `"sdk": "1.4.0"`**

一声明版本,hmapdev 就去**本地 SDK store** 找它,找不到直接拒绝构建。
全仓 20+ 示例**都不声明**,只有我改过的这两个声明了。
示例的正确依赖表达是 go.mod 的 `v0.0.0` + `replace ../../`。

## 修法

两个文件都恢复到与其余示例一致的写法。

## 判据(3 条,都是新加的)

 · `TestExampleGoModHasNoAbsoluteReplace`:任何示例 go.mod 不得含
   `/root/`、`/home/`、`/Users/`、`C:\`
 · `TestExampleGoModUsesRelativeSDKReplace`:replace 必须是相对路径 `../../`
 · `TestExamplePlgJsonDoesNotPinSDKVersion`:plg.json 不得声明 sdk

变异 2/2 咬住(重新引入绝对路径 / 重新声明 sdk,都准确报出文件路径)。

## 本地验证(模拟 CI 干净环境)

用干净 HOME 跑 `package/build-examples.sh`:
 · 修复前:成功 18 / 失败 4(commondev, editdoc, browser, rss)
 · 修复后:成功 20 / 失败 2(browser, rss —— **本机代理不通**,
   `proxy.golang.org` 超时;用本地 modcache 验证这两个可正常构建)

即 22/22 源码都能构建,CI 有网络不受影响。

## 教训

`git add -A` 会把「构建工具自动改写的文件」一起提交。
提交前必须 `git status` 逐个看,尤其 go.mod / go.sum。

---------

Co-authored-by: JianFeeeee <JianFeeeee@users.noreply.gitcode.com>
This commit is contained in:
JianFeeeee
2026-10-17 19:44:15 +08:00
committed by GitHub
parent 65d2bd9e61
commit 81a3efa4df
91 changed files with 21184 additions and 224 deletions

View File

@ -159,19 +159,19 @@ const (
)
type Plugin struct {
name string
sdk *sdk.PluginSDK
listenAddr string
napcatURL string
remoteDir string
filesDir string
webhookToken string
ownerIDs []int64
botID int64
botNickname string
dmPolicy string
groupPolicy string
httpClient *http.Client
name string
sdk *sdk.PluginSDK
listenAddr string
napcatURL string
remoteDir string
filesDir string
webhookToken string
ownerIDs []int64
botID int64
botNickname string
dmPolicy string
groupPolicy string
httpClient *http.Client
// sendClient 专用于**发送类**端点(send_private_msg / send_group_msg)。
//
// ★ 为何与查询类分开(2026-10-13 实测):QQ 发送要经过 NapCat 的
@ -188,7 +188,7 @@ type Plugin struct {
//
// 发送超时给足 120s(与插件内 TTS/下载同量级);查询类保持 30s
// (它们是幂等的,超时就是真超时,快速失败更有利于排查)。
sendClient *http.Client
sendClient *http.Client
allowFrom map[int64]struct{}
groupAllowFrom map[int64]struct{}
srv *http.Server
@ -1302,6 +1302,36 @@ func (p *Plugin) currentToolAllowed(ctx *sdk.StageContext, name string) (bool, q
return matchesToolAllowlist(name, patterns), auth
}
// extraKeyComeFrom 是内核写在帧上的「来源标识」键。
//
// 契约(见内核 internal/agent/core/comefrom.go):
//
// "user" 用户请求在边界上发起(默认语义,本插件的权限门只应管这类)
// "internal" agent 体系内部发起(驻留子/转投/自主续跑)⇒ 不走用户权限模型
// 缺失 旧内核 ⇒ 按 "user" 处理,**行为必须与改动前逐字一致**
//
// 为什么用 Extra 而不是具名字段:内核用 Extra 的通用袋跨进程透传插件自建键
// (proc 桥的 fExtraBag),与既有 `input_source` / `qq_auth` 同一读法。
const extraKeyComeFrom = "comefrom"
// isInternalToolCall 报告本帧的工具调用是否由 agent 内部委派发起。
//
// ★ 保守默认:**只有明确读到 "internal" 才算内部**。
// 缺失、空串、类型不对、未知取值 —— 全部当作 "user"(旧行为)。
// 这个方向不能反:把用户请求误判成 internal 就是**权限门整体失效**,
// 那比"多拦一次内部调用"严重得多。
func isInternalToolCall(ctx *sdk.StageContext) bool {
if ctx == nil || ctx.Extra == nil {
return false
}
v, ok := ctx.Extra[extraKeyComeFrom]
if !ok {
return false
}
s, _ := v.(string)
return s == "internal"
}
// isAtBot checks if the message contains an @-mention of the bot.
func (p *Plugin) isAtBot(msg interface{}) bool {
segments, ok := msg.([]interface{})
@ -1391,6 +1421,37 @@ func (p *Plugin) beforeToolcall(ctx *sdk.StageContext) error {
if len(ctx.ToolCalls) == 0 {
return nil
}
// ★ **内部委派的工具调用不走用户权限模型**(2026-10-16)。
//
// 内核在帧上写了 `comefrom`:
// "user" = 用户请求在边界上发起(**本插件要管的就是这类**)
// "internal" = agent 体系内部发起(驻留子/转投/自主续跑)
// 缺失 = 旧内核,按 "user" 处理(保持既有行为,勿改)
//
// ## 为何这是正确的(实测故障 + 语义)
//
// 现场(2026-10-16):驻留子 `dev-br-jianf-NextAgent-fix_abs-path` 自报 running
// 但**零产出**,它那一轮 8 个工具(cmd_run/files_ls/notify_parent/…)全被
// 本门拦下。日志实证:每个工具调用前都有
// `[proc] qq stage before_toolcall 改写了 1 个字段`(= 写入了拒绝响应)。
//
// 根因:驻留子的输入**继承自父**(转投刻意保留原事件,否则同步调用方永久
// 挂起),于是 `input_source` 仍是 "qq" ⇒ 本门把驻留子当成"那位 QQ 用户
// 在提请求" ⇒ 按用户白名单判 ⇒ 开发工具一条都不在白名单里 ⇒ 全拒。
//
// 但用户请求**已经过了这道门**(父按真实身份判定过)。驻留子做的是
// **父自己的委派决定**;对已经准入的工作再查一次"用户白名单",既拦掉合法
// 工作、又零安全增益(同一次请求,父已判定)。
//
// 为何不"只跳白名单、仍查硬私有":硬私有(calendar_/email_/memory_…)
// 防的是用户偷看私人数据;驻留子是父的内部执行体,父对它本就有完整
// 权限 —— 再查一遍等于"机器人自己派出去的活被自己拦住",同样荒谬。
//
// 为何放在 `auth.Active` 判断**之前**:internal 与"非本插件来源"在语义上
// 是同一类(都不是"一条 QQ 用户消息"),走同一条放行路径最不容易出错。
if isInternalToolCall(ctx) {
return nil
}
tc := &ctx.ToolCalls[0]
allowed, auth := p.currentToolAllowed(ctx, tc.Name)
if !auth.Active {

View File

@ -725,6 +725,7 @@ func TestNapcatConvertsOneBotFailureToError(t *testing.T) {
// 与我修过的 HTTP 客户端超时是**两条不同路径**:
// - HTTP 超时:client.Post 返回 err(已有告警)
// - NapCat 超时:HTTP 200 + 响应体里带 NTEvent 字样(本次才补)
//
// 只报警「失败」而不说「可能已送出」,模型必重发。
//
// 判据必须穿过 napcat() 真实调用链(单测 isNapcatSendUnconfirmed 测不出
@ -816,3 +817,151 @@ func TestNapcatSendActionTimeoutRegardlessOfServiceName(t *testing.T) {
t.Errorf("服务名不是 sendMsg 的 NTEvent 超时也要套用发送超时语义,实为 %v", err)
}
}
// ===========================================================================
// 「来源标识」(comefrom)与用户权限门的关系(2026-10-16)
//
// 现场故障:驻留子 `dev-br-jianf-NextAgent-fix_abs-path` 自报 running 但
// **零产出** —— 它那一轮 8 个工具(cmd_run / files_ls / notify_parent /
// output_send__commondev_* / inputch_note …)**全部**被本插件的
// before_toolcall 拦下。它自己的处理表原文:
//
// 本轮所有需要的工具都被权限策略挡下了,实测被拒的有:
// - cmd_run —— 无法进入工作目录、无法看 git 状态
//
// 日志实证(09:21:25~09:21:40,每个工具调用前都紧跟):
//
// [agent] executing tool: cmd_run (plugin=cmd)
// [proc] qq stage before_toolcall 改写了 1 个字段 ← 写入了拒绝响应
//
// 而同一时段父 main 的工具调用**有 result**、驻留子的**零 result**。
//
// 根因:驻留子的输入继承自父(转投刻意保留原事件),`input_source` 仍是
// "qq",于是本门把“父的内部委派”误当成“那位 QQ 用户新提的请求”,
// 按用户白名单判定 ⇒ 开发工具一条都不在白名单里 ⇒ 全拒。
// ===========================================================================
// ★★★ **核心回归判据**:内部委派的工具调用**不得**被用户权限门拦。
//
// 这条直接覆盖现场故障:用同一份身份(非 owner)、同一个被拒工具(cmd_run),
// 只改 comefrom 一个键 —— internal 必须放行、user 必须拦。
func TestInternalToolCallBypassesUserPermissionGate(t *testing.T) {
// 基准:非 owner 私聊 ⇒ cmd_run 不在白名单 ⇒ 必须被拦
base := func() *sdk.StageContext {
ctx := toolCallContext("cmd_run", nil)
ctx.Extra = map[string]interface{}{}
return ctx
}
p := newPermissionTestPlugin(t)
p.auth = qqAuthContext{Active: true, UserID: 2198972886}
ctxUser := base()
if err := p.beforeToolcall(ctxUser); err != nil {
t.Fatal(err)
}
if ctxUser.Response == nil {
t.Fatal("前置条件错:非 owner 调 cmd_run 本应被拦(判据基线不成立)")
}
// ① comefrom=internal(驻留子)⇒ 必须放行
p2 := newPermissionTestPlugin(t)
p2.auth = qqAuthContext{Active: true, UserID: 2198972886}
ctxInternal := base()
ctxInternal.Extra[extraKeyComeFrom] = "internal"
if err := p2.beforeToolcall(ctxInternal); err != nil {
t.Fatal(err)
}
if ctxInternal.Response != nil {
t.Fatalf("★ 内部委派的 cmd_run 仍被用户权限门拦住(缺陷回归): %s", *ctxInternal.Response)
}
// ② 硬私有工具同样放行(驻留子是父的内部执行体,父本就有完整权限)
p3 := newPermissionTestPlugin(t)
p3.auth = qqAuthContext{Active: true, UserID: 2198972886}
ctxHard := toolCallContext("memory_recall", nil)
ctxHard.Extra = map[string]interface{}{extraKeyComeFrom: "internal"}
if err := p3.beforeToolcall(ctxHard); err != nil {
t.Fatal(err)
}
if ctxHard.Response != nil {
t.Fatalf("★ 内部委派的硬私有工具被拦: %s", *ctxHard.Response)
}
}
// ★★★ 判据:**只有**明确 "internal" 才放行 —— 其余一律按用户处理。
//
// 这个方向绝不能反:把用户请求误判成 internal = 权限门整体失效,
// 比"多拦一次内部调用"严重得多。
func TestComeFromOnlyInternalIsTrusted(t *testing.T) {
for _, tc := range []struct {
name string
setup func(m map[string]interface{})
trusted bool
}{
{"internal", func(m map[string]interface{}) { m[extraKeyComeFrom] = "internal" }, true},
{"user", func(m map[string]interface{}) { m[extraKeyComeFrom] = "user" }, false},
{"缺失(旧内核)", func(m map[string]interface{}) {}, false},
{"空串", func(m map[string]interface{}) { m[extraKeyComeFrom] = "" }, false},
{"未知取值", func(m map[string]interface{}) { m[extraKeyComeFrom] = "internal-ish" }, false},
{"大小写不同", func(m map[string]interface{}) { m[extraKeyComeFrom] = "INTERNAL" }, false},
{"类型错(bool)", func(m map[string]interface{}) { m[extraKeyComeFrom] = true }, false},
{"类型错(数字)", func(m map[string]interface{}) { m[extraKeyComeFrom] = 1.0 }, false},
} {
t.Run(tc.name, func(t *testing.T) {
p := newPermissionTestPlugin(t)
p.auth = qqAuthContext{Active: true, UserID: 2198972886}
ctx := toolCallContext("cmd_run", nil)
ctx.Extra = map[string]interface{}{}
tc.setup(ctx.Extra)
if err := p.beforeToolcall(ctx); err != nil {
t.Fatal(err)
}
blocked := ctx.Response != nil
if tc.trusted && blocked {
t.Errorf("★ 应放行却拦了: %s", *ctx.Response)
}
if !tc.trusted && !blocked {
t.Error("★ 应拦却放行了(权限门失效)")
}
})
}
}
// ★★★ 判据:**owner 的请求行为不变**(comefrom=user 时不得因为改动而放宽)。
//
// 防的是"为了让驻留子通过,把门整体放松"这类错误修法。
func TestComeFromUserKeepsOwnerAndNonOwnerSemantics(t *testing.T) {
// owner + comefrom=user ⇒ 完整放行(含硬私有)
p := newPermissionTestPlugin(t)
p.auth = qqAuthContext{Active: true, Owner: true, UserID: 2198972886}
ctx := toolCallContext("calendar_list", nil)
ctx.Extra = map[string]interface{}{extraKeyComeFrom: "user"}
if err := p.beforeToolcall(ctx); err != nil {
t.Fatal(err)
}
if ctx.Response != nil {
t.Fatalf("★ owner 的请求被拦(权限门被收紧了): %s", *ctx.Response)
}
// 非 owner + comefrom=user + 硬私有 ⇒ 仍必须拒
p2 := newPermissionTestPlugin(t)
p2.auth = qqAuthContext{Active: true, UserID: 10001}
ctx2 := toolCallContext("calendar_list", nil)
ctx2.Extra = map[string]interface{}{extraKeyComeFrom: "user"}
if err := p2.beforeToolcall(ctx2); err != nil {
t.Fatal(err)
}
if ctx2.Response == nil {
t.Fatal("★ 非 owner 的硬私有调用应仍被拒(改动把门放松了)")
}
// 无身份(auth.Active=false)+ 有 comefrom=user ⇒ 本门不介入(旧行为)
p3 := newPermissionTestPlugin(t)
ctx3 := toolCallContext("cmd_run", nil)
ctx3.Extra = map[string]interface{}{extraKeyComeFrom: "user"}
if err := p3.beforeToolcall(ctx3); err != nil {
t.Fatal(err)
}
if ctx3.Response != nil {
t.Fatalf("非本插件来源不该被本门拦: %s", *ctx3.Response)
}
}