mirror of
https://gitcode.com/JianFeeeee/homeagent-sdk.git
synced 2026-10-31 14:27:30 +00:00
feat(commondev): 主管式多仓库开发流水线 + sidecar 后端抽象(pi/zcode) (#3)
* feat(commondev): 主管式多仓库开发流水线 + sidecar 后端抽象(pi/zcode)
## 是什么
agent 统筹开发流程的插件:登记项目 → 开工程线(每条线一个隔离工作目录 +
一个 sidecar 子进程 + 一对通道)→ 投递任务 → 同会话续投 → 评审/合入。
38 个工具:project_*/branch_*/workdir_*/job_*/review_*/test_*/
endpoint_*/agent_*/pi_*/conflict_check。
## sidecar 后端抽象(本轮核心)
传输层(local/ssh)与后端(pi/zcode/自定义)**正交**,四个自由组合:
driver.json 描述一个后端:script / cliPath / env / args / llmConfig
三级查找:插件数据目录 → **随包 rawfile** → 内置 pi 描述
占位符:{workdir} {dataDir} {pluginDir} {rawfile} {sessionId}
★ 内置 pi 回退**与默认后端解耦**(2026-10-17 修):原实现写
`if cli == defaultAgentCLI { return builtinPiDriver() }`,把"给谁兜底"
和"默认选谁"耦合到同一常量 —— 一旦有人改默认,pi 当场失去兜底,
显式 cli="pi" 开始报「驱动不存在」。现在判断字面 "pi"。
默认后端保持 **pi**(我们本地主用);交付方用 zcode 走两种局部开关:
· 单线:commondev_branch_open(cli="zcode")
· 按机器:commondev_endpoint_set(host=..., cli="zcode")
## zcode 接入(三条真机判据,全部要求真改工程文件)
· TestZcodeFullPipeline(29-34s):随包 driver + 真实 ZCode CLI
· TestZcodeOverSSH(39s):真 ssh + scp,远端 node 跑 zcode
· TestZcodeOverSSHWithPerHostEndpoints(68s):两个 host 别名配不同
cli_path,走端点表而不是全局 settings
★ 会话库必须隔离到工作区(sidecar.mjs 的 ensureWorkspaceSessionStore):
实测 ZCode 的会话库路径**硬编码 homedir()**,`ZCODE_DATA_BASE_DIR` 对它
完全无效(26 个会话全落全局库)。但 `<workdir>/.zcode/config.json` 的
`storage.sessionDbPath` **确实生效**。所以启动前写一份工作区配置,
一举解决:多线不共用历史 / 不污染全局 ~/.zcode / 删线不留孤儿会话。
只在不存在时写 —— 用户手工放的要尊重。
## 其他
· rawfile:项目根 rawfile/ 默认全收,解到 <插件目录>/rawfile/,绝对路径拒绝
· 凭证:命名引用 + ${ENV_VAR},独立 0600 文件,绝不进 config.db(0644)
· secretshell:给不受信 agent 用的安全 shell(ackey + safeshell)
· 冲突检查 / 评审判据 / 镜像 / 每条线独立 workdir(hash 命名,合并后删除)
判据 30+ 条,含 4 条「判据本身的判据」(防止判据假绿)。
* fix(sdk): 协议通道纪律 + hmapdev 模板升级 + 示例插件 stdout 污染
## 核心缺陷:插件往 stdout 打日志 = 污染 JSON-RPC 协议通道
子进程插件与内核用 stdout 传 NDJSON 帧,stderr 才是日志通道。
脚手架模板(及 4 个示例插件)用 `fmt.Printf` 打日志 ⇒ 内核收到非 JSON 文本:
[proc] weather 收到非法 JSON 帧(21 字节): invalid character 'i'
**生产实测 1038 条**(huawei_smarthome 720 / weather 113 / rss 103 / calendar 102)。
后果不只是日志噪音:那一行日志被**丢弃**,插件看起来"没启动"。
修法:
- hmapdev 模板 `fmt.Printf` → `log.Printf`(9 处)
- 示例插件 4 个 14 处:ai_image(2) calendar(5) rss(4) weather(3)
+ 补 "log" import
- 内核侧(主仓)同步让报错可定位:内容摘要 + 可能原因 + 修法
判别法:`package main` = 子进程(协议通道,禁用 stdout 打日志);
普通库包 = 进程内插件(编译进内核,写真实终端,**不是**缺陷)——
`internal/plugins/cli` 的 `fmt.Println` 属后者。
## hmapdev
- `cmd_build.go` +136:平台产物精确匹配(`--target` 是**append** 语义,
原脚本 `ls dist/*.hmap | head -1` 会按字典序抓到 amd64,
**导致 arm64 包里装的是 x86-64 二进制**,且退出码 0、校验和通过)
- `cmd_init.go` +46:脚手架 stdio 纪律
- `templates/proc_main.go.tmpl`:补齐 mgrStop/mgrStart/mgrIsRuntimeStopped
三态能力(插件管理器运行态停启)
- `templates/plg.json.tmpl` 删除(合并进 cmd_init)
## 判据
- `scaffold_stdout_test.go`(3 条):扫模板生成的代码不得写 stdout。
★ 判据自身先假红过一次:**模板的注释里就写了 `fmt.Printf`** ⇒
必须 `stripTemplateComments()` 之后才判
- `example_stdout_test.go`(2 条):扫全部 20 个子进程示例插件,
报错给**文件:行号**;变异咬住并给出准确行号
- `package_examples_test.go`(2 条):**执行真实打包脚本**
(第一版测的是 hmapdev 而不是脚本 ⇒ 变异不咬)
- `cmd_build` / `cmd_init` 新判据
## 其他
- sdk/settings.go +15(三态能力透传)
- `docs/versions.md` +§示例插件协议通道纪律(含生产 1038 条实测表格)
- `skills/homeagent-plugin-dev/SKILL.md` +§协议通道纪律(正误代码对比)
* fix(examples): 恢复 go.mod 相对路径 + 移除 plg.json 的 sdk 固定(修 CI 红)
CI 上 `Examples (linux/amd64)` 与 `(darwin/arm64)` 双红,只有两个失败:
✗ commondev 构建失败
✗ editdoc 构建失败
error: 项目声明 sdk=1.4.0,但本地 SDK 存储里没有这个版本
其余 20 个示例全部成功 —— 说明不是通用问题,而是这两个被改坏了。
## 根因(两个叠加)
**① go.mod 被本机绝对路径污染**
我在上一个提交里用 `git add -A`,把本机 `go build` **自动改写**过的
go.mod 一并提交了:
require github.com/JianFeeeee/homeagentsdk v1.4.0
replace github.com/JianFeeeee/homeagentsdk => /root/.homeagent/hmapdev/sdk/v1.4.0
基线(origin/main)是:
require github.com/JianFeeeee/homeagentsdk v0.0.0
replace github.com/JianFeeeee/homeagentsdk => ../../
本机那个目录真的存在 ⇒ 本地全绿;CI 没有 ⇒ 必红。
**② plg.json 声明了 `"sdk": "1.4.0"`**
一声明版本,hmapdev 就去**本地 SDK store** 找它,找不到直接拒绝构建。
全仓 20+ 示例**都不声明**,只有我改过的这两个声明了。
示例的正确依赖表达是 go.mod 的 `v0.0.0` + `replace ../../`。
## 修法
两个文件都恢复到与其余示例一致的写法。
## 判据(3 条,都是新加的)
· `TestExampleGoModHasNoAbsoluteReplace`:任何示例 go.mod 不得含
`/root/`、`/home/`、`/Users/`、`C:\`
· `TestExampleGoModUsesRelativeSDKReplace`:replace 必须是相对路径 `../../`
· `TestExamplePlgJsonDoesNotPinSDKVersion`:plg.json 不得声明 sdk
变异 2/2 咬住(重新引入绝对路径 / 重新声明 sdk,都准确报出文件路径)。
## 本地验证(模拟 CI 干净环境)
用干净 HOME 跑 `package/build-examples.sh`:
· 修复前:成功 18 / 失败 4(commondev, editdoc, browser, rss)
· 修复后:成功 20 / 失败 2(browser, rss —— **本机代理不通**,
`proxy.golang.org` 超时;用本地 modcache 验证这两个可正常构建)
即 22/22 源码都能构建,CI 有网络不受影响。
## 教训
`git add -A` 会把「构建工具自动改写的文件」一起提交。
提交前必须 `git status` 逐个看,尤其 go.mod / go.sum。
---------
Co-authored-by: JianFeeeee <JianFeeeee@users.noreply.gitcode.com>
This commit is contained in:
216
example/commondev/audit_test.go
Normal file
216
example/commondev/audit_test.go
Normal file
@ -0,0 +1,216 @@
|
||||
package main
|
||||
|
||||
// 审计补全项的判据。
|
||||
//
|
||||
// 这些判据对应审计发现的**真问题**(不是补全功能的装饰):
|
||||
// · push 的凭据纪律(设计 §7.2)—— 曾经 pushURLWithToken 是死代码,
|
||||
// 意味着「凭据不进 remote URL」这条纪律**从未被真正执行过**
|
||||
// · 孤儿清理(listOrphanDirs 曾是死代码)
|
||||
// · pi 配置写入的备份/回滚(设计 §3.6.4 纪律 2)
|
||||
|
||||
import (
|
||||
"encoding/json"
|
||||
"os"
|
||||
"path/filepath"
|
||||
"strings"
|
||||
"testing"
|
||||
)
|
||||
|
||||
func newAuditPlugin(t *testing.T) *Plugin {
|
||||
t.Helper()
|
||||
p := newTestPluginForCriteria(t)
|
||||
return p
|
||||
}
|
||||
|
||||
// ★★ 判据:凭据残留检查能识别 `scheme://user:pass@host` 形态。
|
||||
func TestGitConfigCredentialResidueDetection(t *testing.T) {
|
||||
dir := t.TempDir()
|
||||
os.MkdirAll(filepath.Join(dir, ".git"), 0o755)
|
||||
os.WriteFile(filepath.Join(dir, ".git", "config"),
|
||||
[]byte("[remote \"origin\"]\n\turl = https://user:tok3n@example.com/o/r.git\n"), 0o644)
|
||||
if got := gitConfigCredentialResidue(dir); got == "" {
|
||||
t.Fatal("★ 未检出内嵌凭据(设计 §7.2 要求 workdir_clean 内置此检查)")
|
||||
}
|
||||
// 干净的不应误报
|
||||
dir2 := t.TempDir()
|
||||
os.MkdirAll(filepath.Join(dir2, ".git"), 0o755)
|
||||
os.WriteFile(filepath.Join(dir2, ".git", "config"),
|
||||
[]byte("[remote \"origin\"]\n\turl = https://example.com/o/r.git\n"), 0o644)
|
||||
if got := gitConfigCredentialResidue(dir2); got != "" {
|
||||
t.Errorf("干净 remote 被误报: %s", got)
|
||||
}
|
||||
// scp 形态的 git@host 不是凭据(用户提示有误伤风险)
|
||||
dir3 := t.TempDir()
|
||||
os.MkdirAll(filepath.Join(dir3, ".git"), 0o755)
|
||||
os.WriteFile(filepath.Join(dir3, ".git", "config"),
|
||||
[]byte("[remote \"origin\"]\n\turl = git@github.com:o/r.git\n"), 0o644)
|
||||
if got := gitConfigCredentialResidue(dir3); got != "" {
|
||||
t.Errorf("scp 形态 git@host 被误报成凭据: %s", got)
|
||||
}
|
||||
}
|
||||
|
||||
// ★★ 判据(设计 §7.2 + 审计发现):workdir_clean
|
||||
// - **默认 dry_run**(删除不可逆)
|
||||
// - 只删**本插件生成的孤儿目录**,不碰台账里的目录、不碰陌生目录
|
||||
func TestWorkdirCleanOnlyRemovesOrphans(t *testing.T) {
|
||||
p := newAuditPlugin(t)
|
||||
root := p.programRoot()
|
||||
os.MkdirAll(root, 0o700)
|
||||
|
||||
known := "aabbccdd-feat_known"
|
||||
orphan := "11223344-feat_orphan"
|
||||
stranger := "not-ours-just-a-dir"
|
||||
for _, d := range []string{known, orphan, stranger} {
|
||||
os.MkdirAll(filepath.Join(root, d), 0o755)
|
||||
}
|
||||
p.ledger.Branches["br-1"] = &Branch{
|
||||
ID: "br-1", ProjectID: "proj", Name: "feat/known",
|
||||
Workdir: filepath.Join(root, known), Status: "open"}
|
||||
|
||||
// ① dry_run 默认:什么都不删
|
||||
res, err := p.handleWorkdirClean(map[string]interface{}{})
|
||||
if err != nil {
|
||||
t.Fatal(err)
|
||||
}
|
||||
if res.(map[string]interface{})["status"] != "dry_run" {
|
||||
t.Fatalf("默认应为 dry_run,实际 %v", res.(map[string]interface{})["status"])
|
||||
}
|
||||
for _, d := range []string{known, orphan, stranger} {
|
||||
if _, err := os.Stat(filepath.Join(root, d)); err != nil {
|
||||
t.Fatalf("★ dry_run 却删掉了 %s", d)
|
||||
}
|
||||
}
|
||||
|
||||
// ② 实际清理:只删孤儿
|
||||
res2, err := p.handleWorkdirClean(map[string]interface{}{"dry_run": false})
|
||||
if err != nil {
|
||||
t.Fatal(err)
|
||||
}
|
||||
removed, _ := res2.(map[string]interface{})["removed"].([]string)
|
||||
if len(removed) != 1 || removed[0] != orphan {
|
||||
t.Fatalf("应只删 %s,实际 %v", orphan, removed)
|
||||
}
|
||||
if _, err := os.Stat(filepath.Join(root, known)); err != nil {
|
||||
t.Fatal("★ 删掉了台账里在用的目录")
|
||||
}
|
||||
if _, err := os.Stat(filepath.Join(root, stranger)); err != nil {
|
||||
t.Fatal("★ 删掉了不是本插件生成的目录(越界)")
|
||||
}
|
||||
}
|
||||
|
||||
// ★★ 判据:agent_down 清掉 session/通道绑定,但**保留工作目录与状态**。
|
||||
//
|
||||
// 它与 branch_close 的区别正是"暂停"vs"收尾";若 agent_down 也删目录,
|
||||
// 二者就没有区别了(而我实现时差点把两者写成一个)。
|
||||
func TestAgentDownKeepsWorkdir(t *testing.T) {
|
||||
p := newAuditPlugin(t)
|
||||
dir := t.TempDir()
|
||||
p.ledger.Branches["br-1"] = &Branch{
|
||||
ID: "br-1", ProjectID: "proj", Name: "feat/x", Workdir: dir,
|
||||
Status: "open", SessionID: "s1", InputCh: "commondev/br-1", OutputCh: "commondev_br-1"}
|
||||
|
||||
res, err := p.handleAgentDown(map[string]interface{}{"branch_id": "br-1"})
|
||||
if err != nil {
|
||||
t.Fatal(err)
|
||||
}
|
||||
if res.(map[string]interface{})["status"] != "ok" {
|
||||
t.Fatal("应成功")
|
||||
}
|
||||
b := p.ledger.Branches["br-1"]
|
||||
if b.SessionID != "" || b.InputCh != "" || b.OutputCh != "" {
|
||||
t.Errorf("★ session/通道绑定应被清掉(留着会让人以为进程还在): %+v", b)
|
||||
}
|
||||
if b.Status != "open" {
|
||||
t.Errorf("★ 状态不该变(这是暂停不是收尾),实际 %s", b.Status)
|
||||
}
|
||||
if _, err := os.Stat(dir); err != nil {
|
||||
t.Fatal("★ agent_down 不该删工作目录(那是 branch_close 的事)")
|
||||
}
|
||||
}
|
||||
|
||||
// ---------------- pi 配置写入纪律(设计 §3.6.4) ----------------
|
||||
|
||||
// ★★★ 判据:**损坏的 models.json 必须拒绝覆盖**(纪律 2)。
|
||||
//
|
||||
// 静默当空会**抹掉用户已有的全部源** —— 那是最坏的一种"静默降级"。
|
||||
func TestCorruptPiModelsIsNotSilentlyOverwritten(t *testing.T) {
|
||||
dir := t.TempDir()
|
||||
bad := "{ this is not json"
|
||||
os.WriteFile(filepath.Join(dir, "models.json"), []byte(bad), 0o600)
|
||||
|
||||
if _, err := loadPiModels(dir); err == nil {
|
||||
t.Fatal("★ 损坏的 models.json 未被拒绝 —— 静默当空会抹掉用户已有的源")
|
||||
}
|
||||
after, _ := os.ReadFile(filepath.Join(dir, "models.json"))
|
||||
if string(after) != bad {
|
||||
t.Fatal("损坏的文件被改动了")
|
||||
}
|
||||
}
|
||||
|
||||
// ★★ 判据:写坏时**回滚**(纪律 2:失败则回滚并响亮报错)。
|
||||
func TestPiConfigRollbackRestoresPrevious(t *testing.T) {
|
||||
dir := t.TempDir()
|
||||
orig := `{"providers":{"keep":{"baseUrl":"http://keep","api":"openai-completions","models":[{"id":"m"}]}}}`
|
||||
os.WriteFile(filepath.Join(dir, "models.json"), []byte(orig), 0o600)
|
||||
|
||||
backup, err := backupPiConfig(dir)
|
||||
if err != nil {
|
||||
t.Fatal(err)
|
||||
}
|
||||
// 模拟"写坏了"
|
||||
os.WriteFile(filepath.Join(dir, "models.json"), []byte("{broken"), 0o600)
|
||||
rollbackPiConfig(dir, backup)
|
||||
|
||||
back, _ := os.ReadFile(filepath.Join(dir, "models.json"))
|
||||
if string(back) != orig {
|
||||
t.Fatalf("★ 回滚未恢复原内容\n前: %s\n后: %s", orig, back)
|
||||
}
|
||||
}
|
||||
|
||||
// ★★ 判据:**api_key 绝不进任何返回结构**(纪律 3)。
|
||||
func TestPiConfigGetNeverReturnsKey(t *testing.T) {
|
||||
p := newAuditPlugin(t)
|
||||
dir := p.piAgentDir()
|
||||
os.MkdirAll(dir, 0o700)
|
||||
os.WriteFile(filepath.Join(dir, "models.json"), []byte(
|
||||
`{"providers":{"p1":{"baseUrl":"http://x","api":"openai-completions","apiKey":"SUPER_SECRET","models":[{"id":"m"}]}}}`), 0o600)
|
||||
|
||||
res, err := p.handlePiConfigGet(map[string]interface{}{})
|
||||
if err != nil {
|
||||
t.Fatal(err)
|
||||
}
|
||||
s := jsonDump(t, res)
|
||||
if strings.Contains(s, "SUPER_SECRET") {
|
||||
t.Fatalf("★★ api_key 泄漏到返回值里:%s", s)
|
||||
}
|
||||
if !strings.Contains(s, "key_set") {
|
||||
t.Errorf("应报 key_set 而不是值: %s", s)
|
||||
}
|
||||
}
|
||||
|
||||
// jsonDump 把任意返回值转成 JSON 串(用于断言"某串不得出现")。
|
||||
func jsonDump(t *testing.T, v interface{}) string {
|
||||
t.Helper()
|
||||
b, err := json.Marshal(v)
|
||||
if err != nil {
|
||||
t.Fatal(err)
|
||||
}
|
||||
return string(b)
|
||||
}
|
||||
|
||||
// ★ 判据:pi 插件工具的**两套命名都能到达同一实现**(早期稿用 plugin,细化稿用 package)。
|
||||
func TestPiPluginToolAliasesRegistered(t *testing.T) {
|
||||
src, err := os.ReadFile("plugin.go")
|
||||
if err != nil {
|
||||
t.Fatal(err)
|
||||
}
|
||||
s := string(src)
|
||||
for _, name := range []string{
|
||||
`"commondev_pi_plugin_install"`, `"commondev_pi_package_install"`,
|
||||
`"commondev_pi_plugin_list"`, `"commondev_pi_plugin_remove"`,
|
||||
} {
|
||||
if !strings.Contains(s, name) {
|
||||
t.Errorf("工具 %s 未注册(两套命名应都可用)", name)
|
||||
}
|
||||
}
|
||||
}
|
||||
Reference in New Issue
Block a user