mirror of
https://gitcode.com/JianFeeeee/HomeAgent.git
synced 2026-11-01 06:47:29 +00:00
feat: 模块化内核（编译期依赖图定序）+ 密钥防火墙 + 插件三态生命周期 (#10)
* feat(kernel): 模块化内核 + 编译期依赖图定序
把单体 init 序列拆成「模块自声明依赖 + 编译期生成依赖图 + 运行期只读图」。
## 为什么
原 cmd/homed/main.go 里 17 步 init 是**手写顺序**，依赖关系只存在于
注释和人脑里。实测踩到的坑（见 docs/zh/kernel-modularization-design.md）：
· nlp.defaultParser 被 initONNXParser 写、被 distiller 读，两者相距 60 行，
只靠 ticker 10min 才没炸（隐式依赖，无声明）
· 加一个模块要人肉找"该插在哪"，插错的表现是运行期 nil 解引用
· 关停是 defer ks.CloseAll()，而热更新路径 os.Exit(42) **跳过 defer**
⇒ docStore/distiller/textMem 的 flush 全部丢失（每次热更新都发生）
## 怎么改
- internal/kernelboot/：KernelState（一个结构体收全部包级共享变量，字段
nil 安全）、Module 接口、graphfile（依赖图编解码 + 与二进制 hash 对账）、
scheduler（按 BFS 层并行 Init）、syncbus（层边界写通知）、
lifecycle（Quiesce/Resume 可逆伪关机，区别于一次性 CloseAll）
- internal/kernelmod/<name>/：每个模块一个文件夹，Requires/Provides 自声明；
all/all.go 是唯一的 import 清单（Go 循环导入约束）
- cmd/homed-depgraph：编译期生成依赖图，Makefile 注入 digest
- 运行期只**读**图，不计算顺序（顺序是编译期决定的，源码里没有中央清单）
## 判据
kernelboot 8 条 + 图失败模式 7 条（全部拒绝并给准确错误）+ 模块目录数
与注册表一致性。变异测试 15/15 咬住，含：
· 删掉 AddCloser 的锁 → -race 报数据竞争
· Scheduler 同批跑去重 → 203 vs 200
· 图 hash 不匹配 → 拒绝启动
## 顺带修的缺陷
热更新路径漏调模块关闭 ⇒ 显式 stopKernelModules()，并用 AST 判据钉住
"必须在 os.Exit 之前"（字符串检查在本仓已骗过我三次）。
实测：冷启动 1630ms（5 层/17 模块，原 17 步串行）；生产 22 插件全部建链。
* feat(security): 密钥防火墙 + 配置加密 + close 纪律
## 密钥防火墙
模型只见别名、不见明文；插件工具调用入口（StageHost.ExecuteTool）做入向
回填。三维能力：
· 出向：工具输出里的密钥被替换成 [[secret:name]] 别名后才进上下文
· 入向：模型传别名，入口处填回真值（插件完全无感知）
· 存储：config.db 里不存明文（0644 的库可读），敏感值独立 0600 文件
模式库「宁漏勿误伤」：宁可漏掉一次替换，也不把正常文本误当密钥。
## 配置加密
- internal/security/{codec,key,keyring,store,global}.go：AES-256-GCM，
enc:v1: 前缀，密钥轮换（OldKeys 解码 + 新钥加密）
- harden.go：数据目录权限收紧
- embedded.go：支持内嵌主密钥（可选，仍保留外部 key 文件路径）
- EncryptExistingSecrets / AuditSecrets：启动时幂等迁移 + 审计
## close 纪律（用户明确要求：只要调 close 就要有前置检查）
internal/safeclose：Safe / SafeFunc。全仓 37 处裸 close(chan) → 0。
关键教训（都写进注释和判据）：
· `select { case <-ch: default: close(ch) }` **不是**并发安全的
（两个 goroutine 可同时命中 default）—— healthcheck 原先是这种写法
· `sync.Once` **不可重入**：X.Do(func(){ Safe(&X, ...) }) 会自锁，
症状是 go test 直接挂住（3 个包 600s 超时），栈里只有嵌套的 Once.Do
· map 里按请求持有的 channel（mcp/stdio.go、clawhubadapter/sidecar.go）
改成 *pendingRPC 包装，每通道一个 once
## 判据
security 全量 + TestNoBareCloseOutsideSafeclose（AST 级扫描，含注释剥离）
+ TestNoNestedSelfOnceDeadlock（正则修正：\w+ 不匹配点号，捕获组要含 '.'）。
变异 2/2 咬住。全量 52 包 ok。
* feat(plugin+deploy): 插件三态生命周期、数据目录迁移、发行包修复
## 插件三态生命周期（用户要求：自动启动 / 启用但不自动启动 / 禁用）
- Manifest 新增 requires_facilities / auto_start（*bool，用于区分
"未声明"与"显式 false"）
- plugin-host 模块（internal/kernelmod/pluginhost）：用 kernelboot.Scheduler
按依赖时机拉起，**不再手写两阶段**
- 运行态停启 StopPlugin/StartPlugin **可逆**：不写 disabled_plugins
（不改用户决定）、不置 shuttingDown（之后还能加载）、会摘掉注册面
- 与 StopAll 的区别写进注释 —— StopAll 置 shuttingDown 后**永久无法加载**，
那是进程退出用的，误用于"暂停"就是关了就死
## 数据目录迁移（伪关机 → 迁移 → 唤醒）
- kernelboot/lifecycle.go：Quiesce/Resume（可逆，区别于一次性 CloseAll），
逆序暂停、逆序恢复、Pause 失败回滚
- kernelboot/migrate.go：BeginMigration/End 编排（先停插件 → 再停内核写者
→ 等在途归零）
- distiller/textmem 增 Pause/Resume 门（不是 cancel —— cancel 不可逆，
恢复要重建整个对象）
- 模块 migration：体检 + 生成可执行迁移脚本
★ 迁移脚本的三个实测教训（都写成了判据）：
1. 无条件改 /etc/systemd/system ⇒ 演练把**生产** -data 改成了演练目录。
加 --dry-run（零改动）+ 强制校验 systemd 当前 -data == OLD
2. 本机没装 rsync，脚本在"服务已停、数据未搬"处硬失败 ⇒ cp -a 回退，
并明确警告不保硬链接/ACL（生产 plugindev 有大量 git 硬链接）
## 发行包修复（全部经实测确认）
1. package-linux.sh **完全漏打 depgraph.bin** ⇒ 内核 exit 1
（"生产构建（内嵌 hash 非空）但读不到依赖图"）
2. build_homed 不走 Makefile ⇒ 单独修 Makefile 无效，必须同时生成图+注入
3. build.sh 的 LDFLAGS 用**历史模块路径 gitcode.com** ⇒ -X 静默 no-op
⇒ --version 显示 unknown
4. Makefile -ldflags 用**单引号** ⇒ 注入了字面 $GRAPH_HASH
## ★ build.sh 的版本号必须校验（真实事故）
原 `VERSION="$(git describe --tags --dirty)"`。无 tag 分支上它返回**分支名**
`backup/pre-identity-rewrite-20261005-51-g03d87a4e-dirty`，被注入 meta.Version
⇒ 插件握手判据 MajorVersion() 把整串当主版本 ⇒ **22 个子进程插件全部
握手失败**（"主版本不匹配"）。内核活着、systemd active、日志每条都像
插件的问题 —— 实际是发行包带着非法版本号。
修法：git describe 只在形如 vX.Y.Z 时采用，否则回退 meta.Version（权威源），
并对最终值做形态守卫。deploy/packaging/version_guard_test.go 3 条判据，
变异 2/2 咬住。
## deb 的 systemd unit 改为 guard 模式
ExecStart=/usr/bin/homed --role=guard --data /var/lib/homeagent
（worker exit 42 → guard 重拉，不经过 systemd、不计失败）
含 RestartSteps/RestartMaxDelaySec/TimeoutStopSec + 硬化
（NoNewPrivileges/ProtectSystem/ProtectHome/DevicePolicy/ReadWritePaths）。
## 其他
- internal/plugin/proc：非法 JSON 帧的报错**可定位**（内容摘要 + 可能原因 +
修法）。生产实测 1038 条非法帧（插件往 stdout 打日志 = 污染协议通道）
- 示例插件 4 个 14 处 fmt.Printf → log.Printf
- hmapdev 模板同步修复；scaffold 判据剥离注释（模板注释里就含 fmt.Printf）
* chore: 收尾（主密钥轮换命令、IPC/知识库加固、SDK 对齐）
- cmd/homed-key-rotate：把 security 里的 RotateKey/RotateKeyFile/RekeySecrets
串成一条**可执行**的运维路径。没有它，E-1 就只是库里的能力而不是
"出事时能做的事"，而轮换的价值恰恰在于能执行。
- cmd/homed：kmod_runtime（模块装配入口）、plugins_scheduled（failback
白名单）、memcandidate、bootstrap_order_test / shutdown_flush_test
- internal/ipc、internal/devicebridge、internal/knowledge：配套加固
- third_party/homeagent-sdk/sdk：PluginMgrAPI 增三态能力（mgrStop/mgrStart/
mgrIsRuntimeStopped）+ settings 对齐
判据：bootstrap_order_test（启动顺序不依赖手写序列）、
shutdown_flush_test（停机的两条路径必须对称 —— exit 42 会跳过 defer，
热更新路径下模块关闭/flush 曾全部丢失）。
* test(security): 测试夹具改用不可误认的占位值（修 push protection 拦截）
GitHub secret scanning 拦住了推送：三处测试夹具用了"看起来像真密钥"的
字面量：
internal/security/prefilter_test.go:39
internal/security/store_test.go:177
internal/security/survey_test.go:20
它们全是**假密钥**（`AKIAIOSFODNN7EXAMPLE` 是 AWS 官方文档的标准示例，
其余是 `abcdefghij...` 这类可读占位符），但扫描器无法区分 —— 它只看形态。
★ 不绕过（不用 unblock URL、不加 allowlist）：直接改夹具。
原因：一旦允许"假密钥可以通过"，真密钥混进来时就没有最后一道门了。
改法：保留**模式库匹配所需的结构**，把可识别内容换成 FAKE：
glpat-abcdefghijklmnopqrst → glpat-FAKE-TEST-TOKEN-NOT-REAL
sk-abcdefghij...012345 → sk-FAKE-TEST-KEY-NOT-REAL-0000000
AKIAIOSFODNN7EXAMPLE → AKIA0000FAKE0000TEST (保持 20 字符)
ASIAIOSFODNN7EXAMPLE → ASIA0000FAKE0000TEST
xoxb-123456789012-abcdefghijklmnop → xoxb-FAKE-TEST-TOKEN-NOT-REAL
★ 中途踩到一次：AWS 键的模式是 `\b(AKIA|ASIA)[0-9A-Z]{16}\b`（共 20 字符），
我第一次替换成 19 字符的 `AKIAFAKETESTKEY0000` ⇒ 模式匹配不上 ⇒
TestSurvey_WhatIsCaught / TestRecognizesCommonShapes /
TestPrefilterNeverBlocksRealMatches 三条当场变红。
判据正确地拒绝了"为了过扫描器而削弱覆盖"。
顺带核实：全仓 grep 无任何真实密钥泄漏。
* fix(packaging): package-linux.sh 的版本解析与 build.sh 统一
上一版只修了 build.sh，漏了 package-linux.sh —— 它仍只看 git describe：
VERSION="${VERSION:-$(git describe --tags --dirty)}"
无 tag 分支上 git describe 返回**分支名**
（backup/pre-identity-rewrite-20261005-56-g98850e1），守卫会正确拒绝，
但要求人**手动传 VERSION** 才能打包。而 build.sh 早已能自动回退 meta.Version
⇒ 同一个版本，走 build.sh 打得出来、走 package-linux.sh 打不出来。
危害不只是"要手动传参"：运维为了跑通会去掉守卫，而分支名一旦进
meta.Version 就是**插件协议主版本**的来源 ⇒ 22 个子进程插件全部握手失败
（这是真实发生过的事故，见 3efa4e5）。
修法：两个脚本用同一套规则（git describe 仅在 vX.Y.Z 形态时采用，
否则回退 meta.Version），并对最终值做形态守卫。
判据：TestBothPackagingScriptsShareVersionRules —— 逐个读两个脚本，
要求都能从 meta/meta.go 取权威版本、都校验 git describe 形态。
变异（把 package-linux.sh 改回旧规则）咬住并准确指出是哪个脚本。
实测：不传 VERSION 跑 package-linux.sh，输出
[PKG] warn: git describe 给出非版本串（...），改用 meta.Version=1.4.0
Version: 1.4.0
* fix(test): 跨仓判据在 CI 上应 skip 而非 fail（修 PR 双红）
CI 上 "Go build / vet / test" 与 "Build linux/amd64" 双红：
--- FAIL: TestHmapdevTemplateImplementsAllPluginMgrMethods
bridge_sync_test.go:170: 读模板: open
../../../third_party/homeagent-sdk/tools/hmapdev/templates/proc_main.go.tmpl:
no such file or directory
## 根因：判据依赖了一个**被 gitignore 的路径**
`.gitignore:33` 有 `third_party/homeagent-sdk/tools/`（SDK 仓自治，本仓不跟踪）。
于是：
· 本机（完整 SDK 检出）有该文件 ⇒ 判据通过
· CI（只 checkout 本仓）没有该文件 ⇒ Fatalf ⇒ **必红**
我提交时只在本机跑测试、没看 CI，所以这个问题拖到 PR 才暴露。
## 修法
文件缺失时 `t.Skipf` 而不是 `t.Fatalf`。
★ 这不是"放弃检查"：
· 跨仓一致性由 **SDK 仓自己的判据**守着
（tools/hmapdev/scaffold_stdout_test.go 等），那里才是模板的真实归属地
· 本判据在本机开发时**仍然生效**（已验证：有文件时 PASS，缺文件时 SKIP）
## 验证
· 本机（有文件） → PASS（判据真跑）
· 模拟 CI（移走 tools/）→ SKIP（不再 fail）
· 全量 53 包 ok / 0 fail
## 顺带
同目录还有 e2e_template_test.go 也读 tools/，但它是 `//go:build` 门控的
e2e 判据，CI 默认不跑，无需处理。
---------
Co-authored-by: JianFeeeee <JianFeeeee@users.noreply.gitcode.com>
This commit is contained in:
JianFeeeee
GitHub
@ -4,18 +4,17 @@ import (
|
||||
"context"
|
||||
"log"
|
||||
"path/filepath"
|
||||
"strings"
|
||||
|
||||
internalConfig "github.com/JianFeeeee/HomeAgent/internal/config"
|
||||
"github.com/JianFeeeee/HomeAgent/internal/memory"
|
||||
"github.com/JianFeeeee/HomeAgent/internal/kernelboot"
|
||||
"github.com/JianFeeeee/HomeAgent/internal/kernelmod/pluginhost"
|
||||
"github.com/JianFeeeee/HomeAgent/internal/meta"
|
||||
_ "github.com/JianFeeeee/HomeAgent/internal/plugins"
|
||||
_ "github.com/JianFeeeee/HomeAgent/internal/plugins/clawhubadapter"
|
||||
cli "github.com/JianFeeeee/HomeAgent/internal/plugins/cli"
|
||||
_ "github.com/JianFeeeee/HomeAgent/internal/plugins/healthcheck"
|
||||
_ "github.com/JianFeeeee/HomeAgent/internal/plugins/kbtree"
|
||||
_ "github.com/JianFeeeee/HomeAgent/internal/plugins/pluginmgr"
|
||||
webui "github.com/JianFeeeee/HomeAgent/internal/plugins/webui"
|
||||
"github.com/JianFeeeee/HomeAgent/internal/security"
|
||||
|
||||
// 空白导入内置 provider：它们各自在 init 里注册到 pkg/embedding。
|
||||
// 想把核心换成自己的模型，只需替换这一行（或另建一个发行版 main）。
|
||||
@ -89,102 +88,187 @@ func main() {
|
||||
defer cfgReg.Close()
|
||||
cfgReg.SeedDefaults(opt.dataDir)
|
||||
// LLM 配置写前留档（config_set 写 core.llm.* 前自动快照），guard 恢复用基线
|
||||
cfgReg.SetLLMSnapshotFile(filepath.Join(opt.dataDir, "llm_snapshot.json"))
|
||||
cfg := cfgReg.ToConfig()
|
||||
|
||||
// ---- 基础设施层：记忆、技能 ----
|
||||
|
||||
mem, closeMem := initMemoryStack(opt.dataDir, cfgReg)
|
||||
defer closeMem()
|
||||
|
||||
// 共享词嵌入：蒸馏提取（Phase 3 TransE 验证）与 Agent 上下文复用同一实例，
|
||||
// 避免同一模型被二次加载（约 200k×300 维 ≈ 数百 MB 内存）。
|
||||
embedder := memory.NewStaticEmbedder(strings.Split(cfgReg.GetString("core.agent.embedding_model_path", ""), ",")...)
|
||||
mem.distiller.SetEmbedder(embedder)
|
||||
|
||||
// ---- Lua VM（LLM 协议适配） ----
|
||||
|
||||
luaVM, closeLuaVM := initLuaVM(cfg)
|
||||
defer closeLuaVM()
|
||||
|
||||
// ---- 守护管理（代理生命周期管理） ----
|
||||
|
||||
sup := initSupervisor(cfg)
|
||||
|
||||
// ---- 变更追踪（overlayfs） ----
|
||||
|
||||
trk := initTracker(cfg, agentWorkDir)
|
||||
|
||||
// ★ 锚点：本块必须在 SetLLMSnapshotFile / ToConfig 之前（两者都会读 core.llm.*）。
|
||||
// ========================================================================
|
||||
// 内核 API：IOManager（IO 抽象层） + EventBus（事件总线）
|
||||
// 所有插件通过这两个通道与核心交互
|
||||
// ★ 安全模块必须在**任何读 core.llm.* 的操作之前**装配。
|
||||
//
|
||||
// 实测故障（2026-10-16，自己引入的）：安全块原先放在 ToConfig() 之后。
|
||||
// 于是 ToConfig() 在**没有主密钥**的情况下读 core.llm.*.api_key ——
|
||||
// 密文解不开，key 变成空串，而 initLLMProviders(cfg,...) 用的正是这份
|
||||
// 早期快照 ⇒ 所有 LLM 调用 401 invalid api key。
|
||||
//
|
||||
// 症状极具误导性：日志里只有一行 `Dump 解密 ... 失败: security: 无可用主密钥`，
|
||||
// 而 401 看起来像“key 配错了”。实际是**启动顺序**问题。
|
||||
//
|
||||
// 约束：安全块只依赖 cfgReg（不依赖 cfg），所以可以安全前移。
|
||||
// ========================================================================
|
||||
if cfgReg.GetBool("core.security.enabled", true) {
|
||||
// ★ 先收敛数据目录与敏感文件权限（幂等），再读密钥。
|
||||
//
|
||||
// 顺序有意为之：内嵌主密钥把密钥放进了 0755 的二进制里，
|
||||
// 而 config.db 出厂是 0644 —— 「能读二进制就能解密数据库」。
|
||||
// 收紧到 0600/0750 是本机缓解手段，必须在服务开始读写之前生效。
|
||||
//
|
||||
// 失败不 Fatal（权限问题不该让服务不可用），但会逐条响亮记录。
|
||||
if hr := security.HardenDataDir(opt.dataDir); len(hr.Changed) > 0 {
|
||||
log.Printf("[homed] 已收紧 %d 项权限（内嵌密钥场景的必要缓解）: %v",
|
||||
len(hr.Changed), hr.Changed)
|
||||
}
|
||||
key, keySrc, kerr := security.LoadOrCreateKey(opt.dataDir)
|
||||
if kerr != nil {
|
||||
log.Fatalf("[homed] 安全模块密钥初始化失败（拒绝以降级模式启动）: %v", kerr)
|
||||
}
|
||||
// E-1：若存在密钥环，装入历史钥（只读旧密文；当前钥仍由
|
||||
// systemd credential/env/security.key 提供）。密钥环损坏或 current 不一致
|
||||
// 必须响亮失败，不能猜一把钥继续启动。
|
||||
oldKeys, rerr := security.LoadKeyring(opt.dataDir, key)
|
||||
if rerr != nil {
|
||||
log.Fatalf("[homed] 安全模块密钥环加载失败（拒绝静默选错钥）: %v", rerr)
|
||||
}
|
||||
// ★ 内嵌钥上台时，磁盘钥必须继续参与**解密**。
|
||||
//
|
||||
// 否则一台用磁盘钥加密过的老机器升级到内嵌了另一把钥的二进制后，
|
||||
// 旧密文会全部解不开 ⇒ 服务起不来；用户此时若选择"重建库"，
|
||||
// 凭据就**一次性全丢** —— 那恰好与内嵌的初衷（防丢）相反。
|
||||
//
|
||||
// 与 E-1 同一套语义：当前钥负责 Seal，旧钥只参与 Open。
|
||||
if extra := security.AdditionalDecryptKeys(opt.dataDir, key); len(extra) > 0 {
|
||||
oldKeys = append(oldKeys, extra...)
|
||||
}
|
||||
if len(oldKeys) > 0 {
|
||||
log.Printf("[homed] 安全模块已装入 %d 把历史/额外密钥（E-1 平滑轮换 + 内嵌迁移）", len(oldKeys))
|
||||
}
|
||||
if _, serr := security.InitGlobal(security.Options{
|
||||
Path: filepath.Join(opt.dataDir, "security", "variables.json"),
|
||||
KeyFn: func() ([]byte, error) { return key, nil },
|
||||
OldKeys: oldKeys,
|
||||
Enabled: true,
|
||||
}); serr != nil {
|
||||
log.Fatalf("[homed] 安全模块变量库加载失败（不静默重建）: %v", serr)
|
||||
}
|
||||
// 配置落盘用的子密钥（域隔离：与别名密钥不共用）。
|
||||
// 必须早于 EncryptExistingSecrets，后者依赖它。
|
||||
if _, cerr := security.InitConfigCodecWithOldKeys(key, oldKeys); cerr != nil {
|
||||
log.Fatalf("[homed] 配置加密子密钥派生失败: %v", cerr)
|
||||
}
|
||||
// 把库里仍是明文的敏感项就地加密（幂等；升级路径必须跑）。
|
||||
if n, merr := cfgReg.EncryptExistingSecrets(); merr != nil {
|
||||
// 不 Fatal：库可能是只读/被锁，而“部分为明文”不等于服务不可用。
|
||||
// 但要**响亮告警**：这是用户必须知道的安全事实。
|
||||
log.Printf("[homed] 存量敏感配置加密未完成（部分项仍为明文）: %v", merr)
|
||||
} else if n > 0 {
|
||||
log.Printf("[homed] 已加密 %d 条存量敏感配置", n)
|
||||
}
|
||||
log.Printf("[homed] 安全模块已启用（密钥来源 %s，变量 %d 条，配置落盘加密已开启）",
|
||||
keySrc, security.Global().Count())
|
||||
|
||||
iom, evBus := initKernelAPI()
|
||||
|
||||
// ---- 文本记忆 + 记忆蒸馏管线 ----
|
||||
|
||||
textMem, closeTextMem := initTextMemory(cfg)
|
||||
defer closeTextMem()
|
||||
|
||||
ctx, stop := context.WithCancel(context.Background())
|
||||
defer stop()
|
||||
|
||||
startMemoryCandidateConsumer(ctx, iom, textMem, mem.db, mem.distiller)
|
||||
|
||||
// ---- LLM Provider 管理（多源，通过 Lua 适配器协议转换） ----
|
||||
|
||||
baseAPIKey := resolveBaseAPIKey(cfg)
|
||||
|
||||
providerMgr := initLLMProviders(cfg, luaVM, baseAPIKey)
|
||||
provider := providerMgr.Default()
|
||||
|
||||
// L1 failback：受限 worker 启动即跑恢复梯子（probe→还原DNS/proxy→还原config+ReloadFromConfig→probe），
|
||||
// 结果以退出码 exitRecovered=43 / exitRecoveryFailed=44 交回 guard，不进入主 agent 循环。
|
||||
if opt.boot == "failback" {
|
||||
runFailbackRecovery(opt.dataDir, cfgReg, luaVM, providerMgr, baseAPIKey)
|
||||
// ★ E-2：备份跨机器恢复的诊断。
|
||||
//
|
||||
// 场景：把 config.db 备份恢复到另一台机器，而主密钥没一起搬过来
|
||||
// ⇒ 库里密文是**旧机器密钥**加的，当前钥解不开。
|
||||
// 此前这种状态只在“读某一条配置”时才暴露成“某个功能坏了”，
|
||||
// 用户看到的是症状而不是原因。这里一次性说清事实与修复动作。
|
||||
if okN, badN, aerr := cfgReg.AuditSecrets(); aerr == nil && badN > 0 {
|
||||
log.Printf("[homed] ⚠ 检测到 %d 条密文无法用当前主密钥解开（可解 %d 条）—— "+
|
||||
"最常见原因是：这份 config.db 来自**另一台机器/另一个密钥**。"+
|
||||
"修复：把原机器的密钥一起带过来（systemd credential / %s / "+
|
||||
"%s），或用旧密钥启动一次并执行重加密迁移。",
|
||||
badN, okN, security.EnvKeyName, security.KeyringFileName)
|
||||
}
|
||||
} else {
|
||||
log.Printf("[homed] 安全模块被显式关闭（core.security.enabled=false）—— 明文落盘且中转无防护")
|
||||
}
|
||||
|
||||
// ---- 文档记忆 + 知识库 ----
|
||||
// ========================================================================
|
||||
// ★ 内核装配：公共结构体 + 模块注册表（用户设计）
|
||||
//
|
||||
// Group 0（上面到这里的部分：平台门/心跳/日志/配置库/安全块）是
|
||||
// **副作用顺序**要求，不进调度器 —— 依赖图表达不了"此动作必须在
|
||||
// 那个动作之前生效"（图表达的是"我产出数据给他"）。见 kmod_group0 说明
|
||||
// 与 bootstrap_order_test.go 的结构性判据。
|
||||
//
|
||||
// 从 cfg 起全部改为**模块自声明依赖 + 注册表 + BFS 分层**：
|
||||
// · 公共数据统一在 kernelboot.KernelState（不再散落各包包级变量）
|
||||
// · 每个模块在 internal/kernelmod/<name>/ 里**自己声明** Requires/Provides
|
||||
// · 注册表是乱序的（顺序无意义，仅供查询"内核有哪些模块"）
|
||||
ks := kernelboot.NewKernelState()
|
||||
ks.CfgReg = cfgReg
|
||||
ks.DataDir = opt.dataDir
|
||||
ks.AgentWorkDir = agentWorkDir
|
||||
ks.CLISocket = opt.cliSocket
|
||||
ks.HTTPAddr = opt.httpAddr
|
||||
ks.Ctx, ks.Stop = context.WithCancel(context.Background())
|
||||
|
||||
docStore, closeDocStore := initDocStore(cfg)
|
||||
defer closeDocStore()
|
||||
// ★ Group 0 的最后两步（读 core.llm.*，必须在安全块之后）：
|
||||
// 它们归 config 模块的产物路径，但**执行点**在这里 —— 阶段依赖。
|
||||
cfgReg.SetLLMSnapshotFile(filepath.Join(opt.dataDir, "llm_snapshot.json"))
|
||||
ks.Cfg = cfgReg.ToConfig()
|
||||
|
||||
multimodalSpace, mmProviderName, mmErr, closeMultimodal := initMultimodalSpace(cfgReg)
|
||||
defer closeMultimodal()
|
||||
// 装配全部内核模块（缺依赖/环/重名 ⇒ 这里就报错，不必等运行期）。
|
||||
//
|
||||
// ★ 插件调度已**归位到内核模块**（`internal/kernelmod/pluginhost`，
|
||||
// 用户方案 A）：它负责扫元数据缓存、按三形态分流、按依赖时机拉起。
|
||||
// main 这里不再有插件调度逻辑 —— 只保留装配后的一点点收尾。
|
||||
// ★★ failback 的插件**白名单必须在装配之前**设置。
|
||||
//
|
||||
// 原因：插件拉起已归位到 plugin-host 模块，而它在**装配期**执行
|
||||
// ⇒ 白名单若在装配后才设，插件早已按全量拉起了（受限启动就失效了）。
|
||||
//
|
||||
// 这是把调度搬进模块后引入的**新时序要求** —— 原先调度在装配后，
|
||||
// 所以把 allowlist 放在装配后也无害。迁移时必须重新核对这类顺序。
|
||||
//
|
||||
// 注意：白名单要的是 plugin.Registry，而它是 stage-host 的产物
|
||||
// ⇒ 装配前拿不到。所以这里传 nil 的 registry 只算白名单名（logged），
|
||||
// 真正的 SetLoadAllowlist 由装配期的钩子在 registry 就绪后执行。
|
||||
pendingAllowlist := resolveFailbackAllowlist(cfgReg, opt.boot, opt.dataDir)
|
||||
|
||||
// 迁移必须在 store 扫盘**之前**：改名后扫盘一次到位，
|
||||
// 避免先以旧名建索引、再改名造成内存键与盘上目录短暂不一致。
|
||||
initKnowledgeMigration(cfg)
|
||||
ks := initKnowledgeStore(cfg)
|
||||
// 装配全部内核模块（缺依赖/环/重名 ⇒ 这里就报错，不必等运行期）。
|
||||
//
|
||||
// ★ 插件调度已**归位到内核模块**（`internal/kernelmod/pluginhost`，
|
||||
// 用户方案 A）：它负责扫元数据缓存、按三形态分流、按依赖时机拉起。
|
||||
// main 这里不再有插件调度逻辑 —— 只保留装配后的一点点收尾。
|
||||
if _, err := RunKernelModules(ks, kernelAssembleHooks{
|
||||
// 在 stage-host 就绪、插件真正拉起**之前**把白名单设上。
|
||||
OnLayerDone: func(_ int, _ []kernelboot.Module) {
|
||||
if pendingAllowlist != nil && ks.PluginRegistry != nil {
|
||||
ks.PluginRegistry.SetLoadAllowlist(pendingAllowlist)
|
||||
}
|
||||
},
|
||||
}); err != nil {
|
||||
log.Fatalf("[homed] 内核装配失败: %v", err)
|
||||
}
|
||||
defer ks.CloseAll()
|
||||
|
||||
// ---- 人格设定 ----
|
||||
cfg := ks.Cfg
|
||||
luaVM := ks.LuaVM
|
||||
sup := ks.Supervisor
|
||||
trk := ks.Tracker
|
||||
ctx := ks.Ctx
|
||||
pluginReg := ks.PluginRegistry
|
||||
agent := ks.Agent
|
||||
|
||||
personality := loadPersonality(cfg, cfgReg)
|
||||
// 候选消费管线：常驻 goroutine，把 eventbus 的 memory_candidate 写进
|
||||
// 文本记忆并喂给蒸馏管线。原顺序里它在 textmem 之后、provider 之前。
|
||||
startMemoryCandidateConsumer(ctx, ks.IO, ks.TextMemory, ks.Memory.DB, ks.Memory.Distiller)
|
||||
|
||||
// ---- 阶段管道（StageHost）+ 插件系统（Registry） ----
|
||||
// L1 failback：受限 worker 启动即跑恢复梯子，结果以退出码交回 guard。
|
||||
if opt.boot == "failback" {
|
||||
runFailbackRecovery(opt.dataDir, cfgReg, luaVM, ks.LLMManager, ks.BaseAPIKey)
|
||||
}
|
||||
|
||||
stageHost, pluginReg := newStageAndRegistry(cfg, cfgReg, iom, evBus, mem.db, textMem,
|
||||
docStore, ks, providerMgr, opt.dataDir)
|
||||
|
||||
// ---- Agent Core (需在插件加载前创建，因为插件 Configure 需要 StatusProvider) ----
|
||||
|
||||
agent := newMainAgent(cfg, cfgReg, provider, providerMgr, iom, mem.db, mem.indexer, trk,
|
||||
docStore, ks, mem.social, textMem, personality, pluginReg, embedder,
|
||||
multimodalSpace, mmProviderName, mmErr, stageHost, evBus)
|
||||
|
||||
wirePluginSDK(pluginReg, luaVM, baseAPIKey, sup, trk, cfg, stageHost, mem.indexer, agent)
|
||||
|
||||
// 为内置插件注入内核依赖（各插件通过 init() 自注册工厂）
|
||||
cli.DefaultSocket = opt.cliSocket
|
||||
// webui 监听地址覆盖：必须在 loadPlugins 之前设置，插件 Start 时会读它。
|
||||
webui.SetListenOverride(resolveWebUIOverride(cfgReg, opt.httpAddr))
|
||||
|
||||
// ---- 依存句法分析器（内嵌 ONNX 模型 / 规则引擎） ----
|
||||
|
||||
initONNXParser(cfg, cfgReg)
|
||||
|
||||
loadPlugins(cfg, cfgReg, pluginReg, stageHost, opt.boot, opt.dataDir)
|
||||
// ---- 插件已完成调度（plugin-host 模块做的事）----
|
||||
//
|
||||
// 装配期 plugin-host 已：
|
||||
// ① 扫目录建元数据缓存（ks.PluginCatalog）
|
||||
// ② 按三形态分流（自动启动 / 不自动启动 / 禁用）
|
||||
// ③ 拉起"声明设施已就绪"的插件；挂起"等更晚设施（如 agent）"的
|
||||
// （挂起项经 syncbus 在 agent 就绪时自动拉起，见 pluginhost/waiter.go）
|
||||
if cat, ok := ks.PluginCatalog.(*pluginhost.PluginCatalog); ok {
|
||||
log.Printf("[homed] 插件调度完成：元数据缓存 %d 个，已加载 %d 个",
|
||||
cat.Size(), len(pluginReg.ListLoadedPlugins()))
|
||||
} else {
|
||||
log.Printf("[homed] 插件调度完成：已加载 %d 个", len(pluginReg.ListLoadedPlugins()))
|
||||
}
|
||||
|
||||
// 插件加载完成后再回收空闲页：大值（如老版聊天记录）可能在这一步被搬走/删除，
|
||||
// 而 SQLite 的 DELETE 不会缩小文件。
|
||||
@ -205,5 +289,12 @@ func main() {
|
||||
// ---- 等待退出信号 ----
|
||||
//
|
||||
// 心跳已在 main 早期启动（见文件头部 startHeartbeatEarly），此处不再重复启动。
|
||||
waitForShutdown(ctx, opt.dataDir, restartCh, stopHeartbeatEarly, pluginReg, trk, cfgReg, sup)
|
||||
// stopKernelModules：热更新路径（os.Exit 跳过 defer）下也要跑模块关闭。
|
||||
// CloseAll 幂等（第二次 Closers 已空）⇒ 与 defer 并存是安全的。
|
||||
waitForShutdown(ctx, opt.dataDir, restartCh, stopHeartbeatEarly, pluginReg, trk, cfgReg, sup,
|
||||
func() {
|
||||
if err := ks.CloseAll(); err != nil {
|
||||
log.Printf("[homed] 模块关闭: %v", err)
|
||||
}
|
||||
})
|
||||
}
|
||||
|
||||
Reference in New Issue
Block a user