mirror of
https://gitcode.com/JianFeeeee/homeagent-sdk.git
synced 2026-10-31 06:17:25 +00:00
* feat(commondev): 主管式多仓库开发流水线 + sidecar 后端抽象(pi/zcode)
## 是什么
agent 统筹开发流程的插件:登记项目 → 开工程线(每条线一个隔离工作目录 +
一个 sidecar 子进程 + 一对通道)→ 投递任务 → 同会话续投 → 评审/合入。
38 个工具:project_*/branch_*/workdir_*/job_*/review_*/test_*/
endpoint_*/agent_*/pi_*/conflict_check。
## sidecar 后端抽象(本轮核心)
传输层(local/ssh)与后端(pi/zcode/自定义)**正交**,四个自由组合:
driver.json 描述一个后端:script / cliPath / env / args / llmConfig
三级查找:插件数据目录 → **随包 rawfile** → 内置 pi 描述
占位符:{workdir} {dataDir} {pluginDir} {rawfile} {sessionId}
★ 内置 pi 回退**与默认后端解耦**(2026-10-17 修):原实现写
`if cli == defaultAgentCLI { return builtinPiDriver() }`,把"给谁兜底"
和"默认选谁"耦合到同一常量 —— 一旦有人改默认,pi 当场失去兜底,
显式 cli="pi" 开始报「驱动不存在」。现在判断字面 "pi"。
默认后端保持 **pi**(我们本地主用);交付方用 zcode 走两种局部开关:
· 单线:commondev_branch_open(cli="zcode")
· 按机器:commondev_endpoint_set(host=..., cli="zcode")
## zcode 接入(三条真机判据,全部要求真改工程文件)
· TestZcodeFullPipeline(29-34s):随包 driver + 真实 ZCode CLI
· TestZcodeOverSSH(39s):真 ssh + scp,远端 node 跑 zcode
· TestZcodeOverSSHWithPerHostEndpoints(68s):两个 host 别名配不同
cli_path,走端点表而不是全局 settings
★ 会话库必须隔离到工作区(sidecar.mjs 的 ensureWorkspaceSessionStore):
实测 ZCode 的会话库路径**硬编码 homedir()**,`ZCODE_DATA_BASE_DIR` 对它
完全无效(26 个会话全落全局库)。但 `<workdir>/.zcode/config.json` 的
`storage.sessionDbPath` **确实生效**。所以启动前写一份工作区配置,
一举解决:多线不共用历史 / 不污染全局 ~/.zcode / 删线不留孤儿会话。
只在不存在时写 —— 用户手工放的要尊重。
## 其他
· rawfile:项目根 rawfile/ 默认全收,解到 <插件目录>/rawfile/,绝对路径拒绝
· 凭证:命名引用 + ${ENV_VAR},独立 0600 文件,绝不进 config.db(0644)
· secretshell:给不受信 agent 用的安全 shell(ackey + safeshell)
· 冲突检查 / 评审判据 / 镜像 / 每条线独立 workdir(hash 命名,合并后删除)
判据 30+ 条,含 4 条「判据本身的判据」(防止判据假绿)。
* fix(sdk): 协议通道纪律 + hmapdev 模板升级 + 示例插件 stdout 污染
## 核心缺陷:插件往 stdout 打日志 = 污染 JSON-RPC 协议通道
子进程插件与内核用 stdout 传 NDJSON 帧,stderr 才是日志通道。
脚手架模板(及 4 个示例插件)用 `fmt.Printf` 打日志 ⇒ 内核收到非 JSON 文本:
[proc] weather 收到非法 JSON 帧(21 字节): invalid character 'i'
**生产实测 1038 条**(huawei_smarthome 720 / weather 113 / rss 103 / calendar 102)。
后果不只是日志噪音:那一行日志被**丢弃**,插件看起来"没启动"。
修法:
- hmapdev 模板 `fmt.Printf` → `log.Printf`(9 处)
- 示例插件 4 个 14 处:ai_image(2) calendar(5) rss(4) weather(3)
+ 补 "log" import
- 内核侧(主仓)同步让报错可定位:内容摘要 + 可能原因 + 修法
判别法:`package main` = 子进程(协议通道,禁用 stdout 打日志);
普通库包 = 进程内插件(编译进内核,写真实终端,**不是**缺陷)——
`internal/plugins/cli` 的 `fmt.Println` 属后者。
## hmapdev
- `cmd_build.go` +136:平台产物精确匹配(`--target` 是**append** 语义,
原脚本 `ls dist/*.hmap | head -1` 会按字典序抓到 amd64,
**导致 arm64 包里装的是 x86-64 二进制**,且退出码 0、校验和通过)
- `cmd_init.go` +46:脚手架 stdio 纪律
- `templates/proc_main.go.tmpl`:补齐 mgrStop/mgrStart/mgrIsRuntimeStopped
三态能力(插件管理器运行态停启)
- `templates/plg.json.tmpl` 删除(合并进 cmd_init)
## 判据
- `scaffold_stdout_test.go`(3 条):扫模板生成的代码不得写 stdout。
★ 判据自身先假红过一次:**模板的注释里就写了 `fmt.Printf`** ⇒
必须 `stripTemplateComments()` 之后才判
- `example_stdout_test.go`(2 条):扫全部 20 个子进程示例插件,
报错给**文件:行号**;变异咬住并给出准确行号
- `package_examples_test.go`(2 条):**执行真实打包脚本**
(第一版测的是 hmapdev 而不是脚本 ⇒ 变异不咬)
- `cmd_build` / `cmd_init` 新判据
## 其他
- sdk/settings.go +15(三态能力透传)
- `docs/versions.md` +§示例插件协议通道纪律(含生产 1038 条实测表格)
- `skills/homeagent-plugin-dev/SKILL.md` +§协议通道纪律(正误代码对比)
* fix(examples): 恢复 go.mod 相对路径 + 移除 plg.json 的 sdk 固定(修 CI 红)
CI 上 `Examples (linux/amd64)` 与 `(darwin/arm64)` 双红,只有两个失败:
✗ commondev 构建失败
✗ editdoc 构建失败
error: 项目声明 sdk=1.4.0,但本地 SDK 存储里没有这个版本
其余 20 个示例全部成功 —— 说明不是通用问题,而是这两个被改坏了。
## 根因(两个叠加)
**① go.mod 被本机绝对路径污染**
我在上一个提交里用 `git add -A`,把本机 `go build` **自动改写**过的
go.mod 一并提交了:
require github.com/JianFeeeee/homeagentsdk v1.4.0
replace github.com/JianFeeeee/homeagentsdk => /root/.homeagent/hmapdev/sdk/v1.4.0
基线(origin/main)是:
require github.com/JianFeeeee/homeagentsdk v0.0.0
replace github.com/JianFeeeee/homeagentsdk => ../../
本机那个目录真的存在 ⇒ 本地全绿;CI 没有 ⇒ 必红。
**② plg.json 声明了 `"sdk": "1.4.0"`**
一声明版本,hmapdev 就去**本地 SDK store** 找它,找不到直接拒绝构建。
全仓 20+ 示例**都不声明**,只有我改过的这两个声明了。
示例的正确依赖表达是 go.mod 的 `v0.0.0` + `replace ../../`。
## 修法
两个文件都恢复到与其余示例一致的写法。
## 判据(3 条,都是新加的)
· `TestExampleGoModHasNoAbsoluteReplace`:任何示例 go.mod 不得含
`/root/`、`/home/`、`/Users/`、`C:\`
· `TestExampleGoModUsesRelativeSDKReplace`:replace 必须是相对路径 `../../`
· `TestExamplePlgJsonDoesNotPinSDKVersion`:plg.json 不得声明 sdk
变异 2/2 咬住(重新引入绝对路径 / 重新声明 sdk,都准确报出文件路径)。
## 本地验证(模拟 CI 干净环境)
用干净 HOME 跑 `package/build-examples.sh`:
· 修复前:成功 18 / 失败 4(commondev, editdoc, browser, rss)
· 修复后:成功 20 / 失败 2(browser, rss —— **本机代理不通**,
`proxy.golang.org` 超时;用本地 modcache 验证这两个可正常构建)
即 22/22 源码都能构建,CI 有网络不受影响。
## 教训
`git add -A` 会把「构建工具自动改写的文件」一起提交。
提交前必须 `git status` 逐个看,尤其 go.mod / go.sum。
---------
Co-authored-by: JianFeeeee <JianFeeeee@users.noreply.gitcode.com>
244 lines
8.6 KiB
Go
244 lines
8.6 KiB
Go
package main
|
||
|
||
import (
|
||
"github.com/JianFeeeee/homeagentsdk/sdk"
|
||
"os"
|
||
"path/filepath"
|
||
"strings"
|
||
"testing"
|
||
)
|
||
|
||
// ★ 判据:加解密往返。
|
||
func TestSealOpenRoundTrip(t *testing.T) {
|
||
key := make([]byte, 32)
|
||
for i := range key {
|
||
key[i] = byte(i)
|
||
}
|
||
for _, plain := range []string{"token-abc", "含中文的凭据", strings.Repeat("x", 500)} {
|
||
enc, err := sealSecret(key, plain)
|
||
if err != nil {
|
||
t.Fatalf("seal: %v", err)
|
||
}
|
||
if strings.Contains(enc, plain) {
|
||
t.Fatal("密文里出现了明文")
|
||
}
|
||
got, err := openSecret(key, enc)
|
||
if err != nil {
|
||
t.Fatalf("open: %v", err)
|
||
}
|
||
if got != plain {
|
||
t.Errorf("往返不一致: %q → %q", plain, got)
|
||
}
|
||
}
|
||
// 密钥不对 ⇒ 必须报错(GCM 认证失败)
|
||
bad := make([]byte, 32)
|
||
enc, _ := sealSecret(key, "x-secret-value")
|
||
if _, err := openSecret(bad, enc); err == nil {
|
||
t.Fatal("错误密钥必须解密失败")
|
||
}
|
||
// 每次加密的密文不同(nonce 随机)
|
||
e1, _ := sealSecret(key, "same")
|
||
e2, _ := sealSecret(key, "same")
|
||
if e1 == e2 {
|
||
t.Error("相同明文两次加密应产生不同密文(nonce 必须随机)")
|
||
}
|
||
}
|
||
|
||
// ★ 判据:明文绝不进子进程 argv。
|
||
//
|
||
// 观测方法:让被测命令把**自己的 /proc/$$/cmdline 写到文件** ——
|
||
// 写文件**不经过输出脱敏**,所以这是干净的观测。
|
||
//
|
||
// 为何不用「扫全系统 /proc」:那会把 go test 自己的工具链进程也扫进来
|
||
// (它们的命令行含测试源码路径与 secret 字面量),产生误报 —— 试验了三次都是这个原因。
|
||
// 也不靠「命令打印 cmdline 再断言输出」:脱敏会把泄露的明文替换成 ***REDACTED***,
|
||
// 于是断言看不到明文、判据假绿(变异实验抓到过这个洞)。
|
||
func TestArgvNeverContainsSecret(t *testing.T) {
|
||
p := newTestPluginForShell(t)
|
||
const secret = "ARGV-CANARY-9911"
|
||
addSealedAccount(t, p, "canary", secret)
|
||
|
||
out := t.TempDir() + "/cmdline.txt"
|
||
os.Remove(out)
|
||
res := p.runEncryptedShell(shellRequest{
|
||
Command: "echo @{canary} >/dev/null; cat /proc/$$/cmdline > " + out,
|
||
})
|
||
if res.Err != "" {
|
||
t.Fatalf("执行失败: %s", res.Err)
|
||
}
|
||
b, err := os.ReadFile(out)
|
||
if err != nil {
|
||
t.Fatalf("未读到 cmdline 文件: %v", err)
|
||
}
|
||
if strings.Contains(string(b), secret) {
|
||
t.Fatalf("明文进了 argv: %q", string(b))
|
||
}
|
||
// 且脚本确实执行了(防“改成 argv 后静默失效”)
|
||
if res.Output != "" && !strings.Contains(res.Output, "") {
|
||
t.Fatal("unreachable")
|
||
}
|
||
}
|
||
|
||
// 填充确实生效(不回显,只验变量可用)。
|
||
func TestCredentialFillingWorks(t *testing.T) {
|
||
p := newTestPluginForShell(t)
|
||
addSealedAccount(t, p, "canary", "some-secret-value-xyz")
|
||
res := p.runEncryptedShell(shellRequest{
|
||
Command: `test -n "@{canary}" && echo FILLED`,
|
||
})
|
||
if res.Err != "" || !strings.Contains(res.Output, "FILLED") {
|
||
t.Fatalf("填充未生效: out=%q err=%q", res.Output, res.Err)
|
||
}
|
||
}
|
||
|
||
// ★★ 核心判据:输出脱敏。
|
||
//
|
||
// 命令回显凭据时,回传内容必须已被替换,且要有 redacted 计数(可观测)。
|
||
func TestEncryptedShellRedactsOutput(t *testing.T) {
|
||
p := newTestPluginForShell(t)
|
||
const secret = "OUTPUT-LEAK-CANARY-77a3"
|
||
addSealedAccount(t, p, "canary", secret)
|
||
|
||
res := p.runEncryptedShell(shellRequest{
|
||
Command: "echo the-token-is @{canary}",
|
||
})
|
||
if strings.Contains(res.Output, secret) {
|
||
t.Fatalf("输出未脱敏,明文被回传: %q", res.Output)
|
||
}
|
||
if !strings.Contains(res.Output, "REDACTED") {
|
||
t.Errorf("应留下脱敏标记: %q", res.Output)
|
||
}
|
||
if res.Redacted == 0 {
|
||
t.Error("redacted 计数应 > 0(这是可观测信号:命令试图回显凭据)")
|
||
}
|
||
}
|
||
|
||
// 引用不存在的凭据 ⇒ 响亮报错(不静默留空)。
|
||
func TestEncryptedShellRejectsUnknownRef(t *testing.T) {
|
||
p := newTestPluginForShell(t)
|
||
res := p.runEncryptedShell(shellRequest{Command: "echo @{no-such-account}"})
|
||
if res.Err == "" {
|
||
t.Fatal("引用不存在的凭据必须报错")
|
||
}
|
||
if !strings.Contains(res.Err, "不存在") {
|
||
t.Errorf("错误信息应指明凭据不存在: %s", res.Err)
|
||
}
|
||
}
|
||
|
||
// 凭据引用语法:@{name}(不与 shell 的 ${...} 冲突)。
|
||
func TestCredRefPattern(t *testing.T) {
|
||
got := listCredRefs("git push https://@{gitea-local}@h/o/r.git && echo @{gh} @{missing}")
|
||
want := []string{"gitea-local", "gh", "missing"}
|
||
if len(got) != len(want) {
|
||
t.Fatalf("解析到 %v,期望 %v", got, want)
|
||
}
|
||
for i := range want {
|
||
if got[i] != want[i] {
|
||
t.Errorf("第 %d 个引用: got %q want %q", i, got[i], want[i])
|
||
}
|
||
}
|
||
// ${...} 是 shell 变量,**不该**被当作凭据引用
|
||
if refs := listCredRefs("echo ${HOME}"); len(refs) != 0 {
|
||
t.Errorf("${HOME} 不应被当作凭据引用: %v", refs)
|
||
}
|
||
}
|
||
|
||
// ★ 判据:workdir 必须限制在 program/ 下(防用它去读任意目录)。
|
||
func TestShellWorkdirMustBeInsideProgramRoot(t *testing.T) {
|
||
p := newTestPluginForShell(t)
|
||
out, err := p.handleEncryptedShell(map[string]interface{}{
|
||
"command": "pwd",
|
||
"workdir": "/etc", // 明显在 program/ 之外
|
||
})
|
||
if err != nil {
|
||
t.Fatal(err)
|
||
}
|
||
m := out.(map[string]interface{})
|
||
if _, bad := m["error"]; !bad {
|
||
t.Fatalf("program/ 之外的 workdir 应被拒: %v", m)
|
||
}
|
||
}
|
||
|
||
// ---------------- 测试辅助 ----------------
|
||
|
||
func newTestPluginForShell(t *testing.T) *Plugin {
|
||
t.Helper()
|
||
dir := t.TempDir()
|
||
p := &Plugin{name: "commondev", path: filepath.Join(dir, "ledger.json")}
|
||
cs, err := newCredStore(filepath.Join(dir, "credentials.json"))
|
||
if err != nil {
|
||
t.Fatal(err)
|
||
}
|
||
cs.keyProvider = p.masterKey // 走真实密钥路径(环境变量优先/回退文件)
|
||
p.creds = cs
|
||
// ★ 装一个最小 SDK:生产里 p.sdk 永不为 nil,判据若在没有它的情况下
|
||
// 调用 handler,会因 p.sdk.Settings() 解引用 nil 而 panic —— 那是
|
||
// **判据的缺陷**(测的是不存在的状态),不是被测代码的缺陷。
|
||
p.sdk = sdk.New("commondev", newStubSettings(dir), nil, nil, nil, nil)
|
||
p.ledger = &Ledger{
|
||
Projects: map[string]*Project{}, Branches: map[string]*Branch{}, Jobs: map[string]*Job{},
|
||
}
|
||
return p
|
||
}
|
||
|
||
// stubSettings 是最小 SettingsAPI 替身(只支持判据用到的路径)。
|
||
type stubSettings struct {
|
||
dir string
|
||
vals map[string]interface{} // 需要旧全局键的判据会填它
|
||
}
|
||
|
||
func newStubSettings(dir string) *stubSettings { return &stubSettings{dir: dir} }
|
||
|
||
// newStubSettingsWith 造一个带指定键值的 stub(供端点表判据验证旧键兼容)。
|
||
func newStubSettingsWith(dir string, vals map[string]interface{}) *stubSettings {
|
||
return &stubSettings{dir: dir, vals: vals}
|
||
}
|
||
|
||
func (s *stubSettings) DataDir() string { return s.dir }
|
||
func (s *stubSettings) Get(key string) (interface{}, error) {
|
||
if s.vals != nil {
|
||
if v, ok := s.vals[key]; ok {
|
||
return v, nil
|
||
}
|
||
}
|
||
return nil, nil
|
||
}
|
||
func (s *stubSettings) Set(key string, value interface{}) error { return nil }
|
||
func (s *stubSettings) SetSecret(key string, v interface{}) error { return nil }
|
||
func (s *stubSettings) GetSecret(key string) (string, error) { return "", nil }
|
||
func (s *stubSettings) List(prefix string) ([]string, error) { return nil, nil }
|
||
func (s *stubSettings) GetCore(key string) (interface{}, error) { return nil, nil }
|
||
func (s *stubSettings) SetCore(key string, v interface{}) error { return nil }
|
||
func (s *stubSettings) ListCore(prefix string) ([]string, error) { return nil, nil }
|
||
func (s *stubSettings) GetPlugin(p, k string) (interface{}, error) { return nil, nil }
|
||
func (s *stubSettings) SetPlugin(p, k string, v interface{}) error { return nil }
|
||
func (s *stubSettings) ListPlugin(p, prefix string) ([]string, error) { return nil, nil }
|
||
func (s *stubSettings) RegisterDef(def sdk.ConfigDef) {}
|
||
func (s *stubSettings) Defs(prefix string) []*sdk.ConfigDef { return nil }
|
||
func (s *stubSettings) Dump() map[string]interface{} { return map[string]interface{}{} }
|
||
func (s *stubSettings) Plugins() []string { return nil }
|
||
func (s *stubSettings) Remove(key string) error { return nil }
|
||
func (s *stubSettings) RemoveCore(key string) error { return nil }
|
||
func (s *stubSettings) RemovePlugin(p, k string) error { return nil }
|
||
func (s *stubSettings) IsSecret(key string) bool { return false }
|
||
|
||
func addSealedAccount(t *testing.T, p *Plugin, name, secret string) {
|
||
t.Helper()
|
||
key, err := p.masterKey()
|
||
if err != nil {
|
||
t.Fatal(err)
|
||
}
|
||
enc, err := sealSecret(key, secret)
|
||
if err != nil {
|
||
t.Fatal(err)
|
||
}
|
||
p.creds.mu.Lock()
|
||
p.creds.data.Accounts[name] = &Account{Name: name, Sealed: enc}
|
||
p.creds.mu.Unlock()
|
||
}
|
||
|
||
// 确保 master.key 落在临时目录(不污染真实数据目录)
|
||
func TestMain(m *testing.M) {
|
||
os.Exit(m.Run())
|
||
}
|