feat(commondev): 主管式多仓库开发流水线 + sidecar 后端抽象(pi/zcode) (#3)

* feat(commondev): 主管式多仓库开发流水线 + sidecar 后端抽象(pi/zcode)

## 是什么

agent 统筹开发流程的插件:登记项目 → 开工程线(每条线一个隔离工作目录 +
一个 sidecar 子进程 + 一对通道)→ 投递任务 → 同会话续投 → 评审/合入。

38 个工具:project_*/branch_*/workdir_*/job_*/review_*/test_*/
endpoint_*/agent_*/pi_*/conflict_check。

## sidecar 后端抽象(本轮核心)

传输层(local/ssh)与后端(pi/zcode/自定义)**正交**,四个自由组合:

  driver.json 描述一个后端:script / cliPath / env / args / llmConfig
  三级查找:插件数据目录 → **随包 rawfile** → 内置 pi 描述
  占位符:{workdir} {dataDir} {pluginDir} {rawfile} {sessionId}

★ 内置 pi 回退**与默认后端解耦**(2026-10-17 修):原实现写
`if cli == defaultAgentCLI { return builtinPiDriver() }`,把"给谁兜底"
和"默认选谁"耦合到同一常量 —— 一旦有人改默认,pi 当场失去兜底,
显式 cli="pi" 开始报「驱动不存在」。现在判断字面 "pi"。

默认后端保持 **pi**(我们本地主用);交付方用 zcode 走两种局部开关:
 · 单线:commondev_branch_open(cli="zcode")
 · 按机器:commondev_endpoint_set(host=..., cli="zcode")

## zcode 接入(三条真机判据,全部要求真改工程文件)

 · TestZcodeFullPipeline(29-34s):随包 driver + 真实 ZCode CLI
 · TestZcodeOverSSH(39s):真 ssh + scp,远端 node 跑 zcode
 · TestZcodeOverSSHWithPerHostEndpoints(68s):两个 host 别名配不同
   cli_path,走端点表而不是全局 settings

★ 会话库必须隔离到工作区(sidecar.mjs 的 ensureWorkspaceSessionStore):
实测 ZCode 的会话库路径**硬编码 homedir()**,`ZCODE_DATA_BASE_DIR` 对它
完全无效(26 个会话全落全局库)。但 `<workdir>/.zcode/config.json` 的
`storage.sessionDbPath` **确实生效**。所以启动前写一份工作区配置,
一举解决:多线不共用历史 / 不污染全局 ~/.zcode / 删线不留孤儿会话。
只在不存在时写 —— 用户手工放的要尊重。

## 其他

 · rawfile:项目根 rawfile/ 默认全收,解到 <插件目录>/rawfile/,绝对路径拒绝
 · 凭证:命名引用 + ${ENV_VAR},独立 0600 文件,绝不进 config.db(0644)
 · secretshell:给不受信 agent 用的安全 shell(ackey + safeshell)
 · 冲突检查 / 评审判据 / 镜像 / 每条线独立 workdir(hash 命名,合并后删除)

判据 30+ 条,含 4 条「判据本身的判据」(防止判据假绿)。

* fix(sdk): 协议通道纪律 + hmapdev 模板升级 + 示例插件 stdout 污染

## 核心缺陷:插件往 stdout 打日志 = 污染 JSON-RPC 协议通道

子进程插件与内核用 stdout 传 NDJSON 帧,stderr 才是日志通道。
脚手架模板(及 4 个示例插件)用 `fmt.Printf` 打日志 ⇒ 内核收到非 JSON 文本:

    [proc] weather 收到非法 JSON 帧(21 字节): invalid character 'i'

**生产实测 1038 条**(huawei_smarthome 720 / weather 113 / rss 103 / calendar 102)。
后果不只是日志噪音:那一行日志被**丢弃**,插件看起来"没启动"。

修法:
- hmapdev 模板 `fmt.Printf` → `log.Printf`(9 处)
- 示例插件 4 个 14 处:ai_image(2) calendar(5) rss(4) weather(3)
  + 补 "log" import
- 内核侧(主仓)同步让报错可定位:内容摘要 + 可能原因 + 修法

判别法:`package main` = 子进程(协议通道,禁用 stdout 打日志);
普通库包 = 进程内插件(编译进内核,写真实终端,**不是**缺陷)——
`internal/plugins/cli` 的 `fmt.Println` 属后者。

## hmapdev

- `cmd_build.go` +136:平台产物精确匹配(`--target` 是**append** 语义,
  原脚本 `ls dist/*.hmap | head -1` 会按字典序抓到 amd64,
  **导致 arm64 包里装的是 x86-64 二进制**,且退出码 0、校验和通过)
- `cmd_init.go` +46:脚手架 stdio 纪律
- `templates/proc_main.go.tmpl`:补齐 mgrStop/mgrStart/mgrIsRuntimeStopped
  三态能力(插件管理器运行态停启)
- `templates/plg.json.tmpl` 删除(合并进 cmd_init)

## 判据

- `scaffold_stdout_test.go`(3 条):扫模板生成的代码不得写 stdout。
  ★ 判据自身先假红过一次:**模板的注释里就写了 `fmt.Printf`** ⇒
  必须 `stripTemplateComments()` 之后才判
- `example_stdout_test.go`(2 条):扫全部 20 个子进程示例插件,
  报错给**文件:行号**;变异咬住并给出准确行号
- `package_examples_test.go`(2 条):**执行真实打包脚本**
  (第一版测的是 hmapdev 而不是脚本 ⇒ 变异不咬)
- `cmd_build` / `cmd_init` 新判据

## 其他

- sdk/settings.go +15(三态能力透传)
- `docs/versions.md` +§示例插件协议通道纪律(含生产 1038 条实测表格)
- `skills/homeagent-plugin-dev/SKILL.md` +§协议通道纪律(正误代码对比)

* fix(examples): 恢复 go.mod 相对路径 + 移除 plg.json 的 sdk 固定(修 CI 红)

CI 上 `Examples (linux/amd64)` 与 `(darwin/arm64)` 双红,只有两个失败:

  ✗ commondev   构建失败
  ✗ editdoc     构建失败
  error: 项目声明 sdk=1.4.0,但本地 SDK 存储里没有这个版本

其余 20 个示例全部成功 —— 说明不是通用问题,而是这两个被改坏了。

## 根因(两个叠加)

**① go.mod 被本机绝对路径污染**

我在上一个提交里用 `git add -A`,把本机 `go build` **自动改写**过的
go.mod 一并提交了:

  require github.com/JianFeeeee/homeagentsdk v1.4.0
  replace github.com/JianFeeeee/homeagentsdk => /root/.homeagent/hmapdev/sdk/v1.4.0

基线(origin/main)是:

  require github.com/JianFeeeee/homeagentsdk v0.0.0
  replace github.com/JianFeeeee/homeagentsdk => ../../

本机那个目录真的存在 ⇒ 本地全绿;CI 没有 ⇒ 必红。

**② plg.json 声明了 `"sdk": "1.4.0"`**

一声明版本,hmapdev 就去**本地 SDK store** 找它,找不到直接拒绝构建。
全仓 20+ 示例**都不声明**,只有我改过的这两个声明了。
示例的正确依赖表达是 go.mod 的 `v0.0.0` + `replace ../../`。

## 修法

两个文件都恢复到与其余示例一致的写法。

## 判据(3 条,都是新加的)

 · `TestExampleGoModHasNoAbsoluteReplace`:任何示例 go.mod 不得含
   `/root/`、`/home/`、`/Users/`、`C:\`
 · `TestExampleGoModUsesRelativeSDKReplace`:replace 必须是相对路径 `../../`
 · `TestExamplePlgJsonDoesNotPinSDKVersion`:plg.json 不得声明 sdk

变异 2/2 咬住(重新引入绝对路径 / 重新声明 sdk,都准确报出文件路径)。

## 本地验证(模拟 CI 干净环境)

用干净 HOME 跑 `package/build-examples.sh`:
 · 修复前:成功 18 / 失败 4(commondev, editdoc, browser, rss)
 · 修复后:成功 20 / 失败 2(browser, rss —— **本机代理不通**,
   `proxy.golang.org` 超时;用本地 modcache 验证这两个可正常构建)

即 22/22 源码都能构建,CI 有网络不受影响。

## 教训

`git add -A` 会把「构建工具自动改写的文件」一起提交。
提交前必须 `git status` 逐个看,尤其 go.mod / go.sum。

---------

Co-authored-by: JianFeeeee <JianFeeeee@users.noreply.gitcode.com>
This commit is contained in:
JianFeeeee
2026-10-17 19:44:15 +08:00
committed by GitHub
parent 65d2bd9e61
commit 81a3efa4df
91 changed files with 21184 additions and 224 deletions

View File

@ -0,0 +1,352 @@
package main
// LLM 源端到端判据:**内核源 → 插件导入 → pi 配置 → 真实调用成功**。
//
// ## 为什么必须端到端而不能只测导入
//
// 导入逻辑正确 ≠ pi 能用。中间隔着三层容易各自出错:
//
// ① 源字段映射(内核 core.llm.sources.<n>.* → pi 的 providers.<n>.{baseUrl,api,apiKey})
// ② adapter → pi api 名的映射(openai → openai-completions)
// ③ 默认源写进 settings.json(defaultProvider/defaultModel)
//
// 任何一层错了,现象都是「pi 起不来 / 报 No API key found」——
// 而单元判据全绿。所以本文件用**真实源 + 真实 HTTP 调用**收口。
//
// ## 判据分层
//
// TestLLMSourceImportProducesValidPiConfig — 纯逻辑(不需要网络)
// TestLLMSourceRoundTripAgainstRealEndpoint — 真机(需要 HA_E2E_LLM=1)
import (
"bytes"
"encoding/json"
"net/http"
"os"
"os/exec"
"path/filepath"
"testing"
"time"
"github.com/JianFeeeee/homeagentsdk/sdk"
)
// coreSettings 是只答 GetCore 的最小替身 —— 内核配置面在这一层被使用。
type coreSettings struct {
stubSettings
core map[string]interface{}
}
func (c *coreSettings) GetCore(key string) (interface{}, error) {
if v, ok := c.core[key]; ok {
return v, nil
}
return nil, nil
}
func (c *coreSettings) ListCore(prefix string) ([]string, error) {
var out []string
for k := range c.core {
if len(k) >= len(prefix) && k[:len(prefix)] == prefix {
out = append(out, k)
}
}
return out, nil
}
// newPluginWithCore 造一个能读到「内核 LLM 源」的插件。
func newPluginWithCore(t *testing.T, core map[string]interface{}) *Plugin {
t.Helper()
p := newTestPluginForShell(t)
cs := &coreSettings{stubSettings: stubSettings{dir: filepath.Dir(p.path)}, core: core}
p.sdk = sdk.New("commondev", cs, nil, nil, nil, nil)
return p
}
// ★★ 判据:导入后生成的 models.json / auth.json / settings.json 必须自洽。
func TestLLMSourceImportProducesValidPiConfig(t *testing.T) {
core := map[string]interface{}{
"core.llm.provider": "mysrc",
"core.llm.model": "my-model",
"core.llm.sources.mysrc.base_url": "http://127.0.0.1:9999/v1",
"core.llm.sources.mysrc.api_key": "sk-test-123",
"core.llm.sources.mysrc.model": "my-model",
"core.llm.sources.mysrc.adapter": "openai",
"core.llm.sources.mysrc.context_window": float64(128000),
"core.llm.sources.mysrc.vision": "true",
}
p := newPluginWithCore(t, core)
agentDir := p.piAgentDir()
n, def, err := p.importKernelSources(agentDir)
if err != nil {
t.Fatal(err)
}
if n != 1 || def != "mysrc" {
t.Fatalf("导入数量/默认源不对: n=%d def=%q", n, def)
}
// models.json 必须是 pi 认识的形状
var models piModelsFile
b := mustRead(t, filepath.Join(agentDir, "models.json"))
if err := json.Unmarshal(b, &models); err != nil {
t.Fatalf("models.json 不是合法 JSON: %v", err)
}
pv, ok := models.Providers["mysrc"]
if !ok {
t.Fatal("models.json 缺少源")
}
if pv.BaseURL != "http://127.0.0.1:9999/v1" {
t.Errorf("baseUrl 错: %q", pv.BaseURL)
}
// ★ adapter 映射:openai → openai-completions(pi 的取值)
if pv.API != "openai-completions" {
t.Errorf("api 映射错(pi 需要 openai-completions): %q", pv.API)
}
if len(pv.Models) != 1 || pv.Models[0].ID != "my-model" {
t.Errorf("models 错: %+v", pv.Models)
}
if pv.Models[0].ContextWindow != 128000 {
t.Errorf("contextWindow 未透传: %d", pv.Models[0].ContextWindow)
}
// 权限:含明文 key ⇒ 必须 0600
if fi, err := os.Stat(filepath.Join(agentDir, "models.json")); err != nil || fi.Mode().Perm() != 0o600 {
t.Errorf("models.json 权限应为 0600")
}
// settings.json 的默认源
var settings map[string]interface{}
if err := json.Unmarshal(mustRead(t, filepath.Join(agentDir, "settings.json")), &settings); err != nil {
t.Fatal(err)
}
if settings["defaultProvider"] != "mysrc" {
t.Errorf("defaultProvider 错: %v", settings["defaultProvider"])
}
}
// ★★ 判据:**未知 adapter 必须报错**,不得猜一个默认值。
//
// 猜错会让 pi 用错的协议说话,现象是「模型不回复」—— 那是极难定位的失败。
func TestLLMSourceImportRejectsUnknownAdapter(t *testing.T) {
core := map[string]interface{}{
"core.llm.sources.weird.base_url": "http://x/v1",
"core.llm.sources.weird.model": "m",
"core.llm.sources.weird.adapter": "some-unknown-protocol",
}
p := newPluginWithCore(t, core)
if _, _, err := p.importKernelSources(p.piAgentDir()); err == nil {
t.Fatal("★ 未知 adapter 未报错 —— 猜默认值会让 pi 用错协议(现象是「模型不回复」)")
}
}
// ★★ 判据:内核**没有任何源**时必须报错(不静默造一个空的)。
func TestLLMSourceImportFailsWithoutKernelSources(t *testing.T) {
p := newPluginWithCore(t, map[string]interface{}{})
if _, _, err := p.importKernelSources(p.piAgentDir()); err == nil {
t.Fatal("内核无源时应报错,而不是生成一个空配置(pi 会起不来且原因不明)")
}
}
// ★★★ 真机判据:**导入的真实源必须真的能调通**。
//
// 这是端到端的最后一环:前面的判据只证明「配置写对了」,
// 这条证明「配置里的源可用」。
//
// 用 HA_E2E_LLM=1 打开(默认跳过:它依赖本机 llmsproxy)。
// 环境变量 HA_E2E_BASE_URL / HA_E2E_API_KEY / HA_E2E_MODEL 可覆盖。
func TestLLMSourceRoundTripAgainstRealEndpoint(t *testing.T) {
if os.Getenv("HA_E2E_LLM") != "1" {
t.Skip("跳过真机 LLM 判据(设 HA_E2E_LLM=1 打开)")
}
baseURL := envOr("HA_E2E_BASE_URL", "http://127.0.0.1:8081/v1")
apiKey := os.Getenv("HA_E2E_API_KEY")
model := envOr("HA_E2E_MODEL", "AUTO")
if apiKey == "" {
t.Fatal("需要 HA_E2E_API_KEY")
}
// ① 像真实内核那样配一个源,走**插件的导入路径**
core := map[string]interface{}{
"core.llm.provider": "e2e",
"core.llm.model": model,
"core.llm.sources.e2e.base_url": baseURL,
"core.llm.sources.e2e.api_key": apiKey,
"core.llm.sources.e2e.model": model,
"core.llm.sources.e2e.adapter": "openai",
"core.llm.sources.e2e.context_window": float64(1048576),
}
p := newPluginWithCore(t, core)
agentDir := p.piAgentDir()
n, def, err := p.importKernelSources(agentDir)
if err != nil || n != 1 || def != "e2e" {
t.Fatalf("导入失败: n=%d def=%q err=%v", n, def, err)
}
// ② 从**导入产物**(而不是从测试变量)读回连接信息 —— 这是端到端的要点:
// 若导入写错了字段,这里就会用错地址/错 key,调用会失败。
var models piModelsFile
b := mustRead(t, filepath.Join(agentDir, "models.json"))
if err := json.Unmarshal(b, &models); err != nil {
t.Fatal(err)
}
pv := models.Providers["e2e"]
if pv == nil {
t.Fatal("导入产物里没有 e2e 源")
}
var auth map[string]map[string]string
if err := json.Unmarshal(mustRead(t, filepath.Join(agentDir, "auth.json")), &auth); err != nil {
t.Fatal(err)
}
keyFromDisk := auth["e2e"]["apiKey"]
if keyFromDisk == "" {
t.Fatal("auth.json 里没有 key —— pi 会报 No API key found")
}
// ③ 用**磁盘上的**配置真调一次
body, _ := json.Marshal(map[string]interface{}{
"model": pv.Models[0].ID,
"max_tokens": 32,
"messages": []map[string]string{{"role": "user", "content": "只回答两个字:可用"}},
})
url := pv.BaseURL + "/chat/completions"
req, err := http.NewRequest(http.MethodPost, url, bytes.NewReader(body))
if err != nil {
t.Fatal(err)
}
req.Header.Set("Authorization", "Bearer "+keyFromDisk)
req.Header.Set("Content-Type", "application/json")
cli := &http.Client{Timeout: 90 * time.Second}
resp, err := cli.Do(req)
if err != nil {
t.Fatalf("调用导入配置里的源失败: %v", err)
}
defer resp.Body.Close()
var out struct {
Choices []struct {
Message struct{ Content string } `json:"message"`
} `json:"choices"`
Error interface{} `json:"error"`
}
_ = json.NewDecoder(resp.Body).Decode(&out)
if resp.StatusCode != 200 {
t.Fatalf("HTTP %d(用导入产物里的地址与 key): %v", resp.StatusCode, out.Error)
}
if len(out.Choices) == 0 {
t.Fatalf("无 choices: %+v", out)
}
t.Logf("✅ 端到端通过:内核源 → 插件导入 → 用磁盘配置真实调用成功(%s)", pv.Models[0].ID)
}
// ---------------- 对照真机内核配置 ----------------
// ★★★ 判据:**用真机生产 config.db 里的真实源**跑一遍导入。
//
// 与上一条的区别:上一条的源是测试构造的;这条读**生产配置**,
// 因此能发现「真实内核的字段形态与我们的假设不符」这类问题
// (例如字段名、类型、有没有 sources.* 子表)。
//
// 用 HA_E2E_REAL_DB=/home/newqqagent/config.db 打开。
func TestLLMSourceImportFromRealKernelConfig(t *testing.T) {
dbPath := os.Getenv("HA_E2E_REAL_DB")
if dbPath == "" {
t.Skip("跳过真机内核配置判据(设 HA_E2E_REAL_DB=<config.db> 打开)")
}
rows := readCoreLLMRows(t, dbPath)
if len(rows) == 0 {
t.Fatalf("%s 里没有任何 core.llm.* 配置", dbPath)
}
// 直接喂真实的字段形态给导入逻辑
core := map[string]interface{}{}
for k, v := range rows {
core[k] = v
}
p := newPluginWithCore(t, core)
agentDir := p.piAgentDir()
n, def, err := p.importKernelSources(agentDir)
if err != nil {
t.Fatalf("★ 用**真实内核配置**导入失败(说明字段形态与假设不符): %v", err)
}
if n == 0 {
t.Fatal("导入 0 个源")
}
var models piModelsFile
if err := json.Unmarshal(mustRead(t, filepath.Join(agentDir, "models.json")), &models); err != nil {
t.Fatal(err)
}
for name, pv := range models.Providers {
if pv.BaseURL == "" || pv.API == "" || len(pv.Models) == 0 {
t.Errorf("源 %s 导入不完整: %+v", name, pv)
}
// ★ api 必须是 pi 认识的值(否则 pi 起不来)
if pv.API != "openai-completions" && pv.API != "anthropic-messages" {
t.Errorf("源 %s 的 api=%q 不是 pi 的合法取值", name, pv.API)
}
}
t.Logf("✅ 真实内核配置导入成功:%d 个源,默认=%s", n, def)
}
func envOr(k, def string) string {
if v := os.Getenv(k); v != "" {
return v
}
return def
}
// readCoreLLMRows 读 config.db 的 core.llm.* 行(用 go-sqlite3)。
func readCoreLLMRows(t *testing.T, dbPath string) map[string]string {
t.Helper()
// 用 sqlite3 CLI(内核侧判据不引 cgo 依赖)
out, err := runCmd("sqlite3", dbPath, "select key||'\t'||value from config where key like 'core.llm.%';")
if err != nil {
t.Skipf("读 config.db 失败(缺 sqlite3?): %v", err)
}
rows := map[string]string{}
for _, line := range splitLines(out) {
if i := indexByte(line, '\t'); i > 0 {
rows[line[:i]] = line[i+1:]
}
}
return rows
}
func runCmd(name string, args ...string) (string, error) {
cmd := exec.Command(name, args...)
b, err := cmd.Output()
return string(b), err
}
func splitLines(s string) []string {
var out []string
cur := ""
for _, c := range s {
if c == '\n' {
if cur != "" {
out = append(out, cur)
}
cur = ""
continue
}
cur += string(c)
}
if cur != "" {
out = append(out, cur)
}
return out
}
func indexByte(s string, b byte) int {
for i := 0; i < len(s); i++ {
if s[i] == b {
return i
}
}
return -1
}
// mustRead 读文件(失败即 Fatal)。
func mustRead(t *testing.T, path string) []byte {
t.Helper()
b, err := os.ReadFile(path)
if err != nil {
t.Fatalf("读 %s 失败: %v", path, err)
}
return b
}