mirror of
https://gitcode.com/JianFeeeee/HomeAgent.git
synced 2026-09-22 18:08:04 +00:00
两条都是我上一封里点出、你说继续的问题。
① 聊天记录:每条消息都整段重写 → 节流合并写
原来 persistChatLocked 每次变更就整段重写记录文件,而一轮对话会触发多次
(用户消息、每个工具事件、收尾消息)。200 条上限下文件可达数 MB,单轮就能
放大出几十 MB 写。文件里还留着一个 chatSaveThrottle=3s 常量——声明了但从未
被使用(疑似上次 revert 的遗留),等于节流从来没生效。
现在:persistChatLocked 只置脏 + 唤醒写盘协程;chatPersistLoop 去抖
chatSaveThrottle(3s)、并以 chatSaveMaxDelay(10s) 兜底(持续输出也不会无限拖延);
写盘前把快照拷出来,**不持 chatMu 做文件 IO**;写失败重新标脏下轮重试。
插件 Stop 里调 Handler.Close():停协程 + 强制落最后一次(幂等),否则丢最后一轮。
实测(临时实例,连发 3 条消息):3s 窗口内记录文件**尚未创建**(节流生效);
SIGTERM 后文件出现且 6 条(3 用户 + 3 助手,无 LLM key 故为错误回复)全在
——关停落盘没丢。
② config.db:SQLite 的 DELETE 不缩文件 → 空闲页够多时 VACUUM
新增 ConfigRegistry.MaybeCompact(minFreeBytes, minRatio):空闲页 >= 1MB 且
占页数 >= 25% 才做一次 VACUUM,避免每次启动都重写整库。库里是 WAL 模式,
VACUUM 之后必须再 wal_checkpoint(TRUNCATE),否则主库文件看着没变小。
调用点放在插件加载**之后**(大值的搬走/删除发生在插件 Start 里,之前调没意义)。
实测(一个刚被搬走 5MB 聊天记录的实例):
freelist 1288 页 × 4096B;启动日志「配置库已压缩: 5394432 -> 118784 字节」
config.db 5,394,432 → 118,784 字节;记录文件 5,279,491 字节完好未动。
测试:TestChatPersistenceIsThrottled(节流窗口内不写盘 + Close 必落盘 + Close 幂等)、
TestMaybeCompactReclaimsFreePages(删大值后文件确实变小 + 数据完好 + 阈值不达标时不白做功)。
186 lines
6.6 KiB
Go
186 lines
6.6 KiB
Go
package main
|
||
|
||
import (
|
||
"context"
|
||
"log"
|
||
"path/filepath"
|
||
"strings"
|
||
|
||
internalConfig "gitcode.com/JianFeeeee/HomeAgent/internal/config"
|
||
"gitcode.com/JianFeeeee/HomeAgent/internal/memory"
|
||
"gitcode.com/JianFeeeee/HomeAgent/internal/meta"
|
||
_ "gitcode.com/JianFeeeee/HomeAgent/internal/plugins"
|
||
_ "gitcode.com/JianFeeeee/HomeAgent/internal/plugins/clawhubadapter"
|
||
cli "gitcode.com/JianFeeeee/HomeAgent/internal/plugins/cli"
|
||
_ "gitcode.com/JianFeeeee/HomeAgent/internal/plugins/healthcheck"
|
||
_ "gitcode.com/JianFeeeee/HomeAgent/internal/plugins/pluginmgr"
|
||
webui "gitcode.com/JianFeeeee/HomeAgent/internal/plugins/webui"
|
||
|
||
// 空白导入内置 provider:它们各自在 init 里注册到 pkg/embedding。
|
||
// 想把核心换成自己的模型,只需替换这一行(或另建一个发行版 main)。
|
||
_ "gitcode.com/JianFeeeee/HomeAgent/providers/chineseclip"
|
||
_ "gitcode.com/JianFeeeee/HomeAgent/providers/qwen3vl"
|
||
)
|
||
|
||
// main 是 worker 进程的启动序列。
|
||
//
|
||
// 形状约定:本函数只保留「顺序编排 + 就地交接」——
|
||
// - 每个阶段一行调用,参数即该阶段的全部依赖(依赖顺序即调用顺序);
|
||
// - 阶段实现体在同包 bootstrap.go,与这里的调用一一对应;
|
||
// - 需要逆序释放的资源由阶段函数返回 cleanup,在**原位** defer 注册,
|
||
// 因此释放顺序与拆分前完全一致。
|
||
func main() {
|
||
// 平台门放在最前面:比 flag 解析还早,因为原生 Windows 上根本不应进入任何
|
||
// 初始化路径(会去建共享段、拉插件进程)。理由与 WSL 指引见
|
||
// platform_windows.go。
|
||
requireSupportedPlatform()
|
||
|
||
opt := parseFlags()
|
||
|
||
// 父守护模式:只负责拉起/守护 worker,不初始化 agent 内核
|
||
if opt.role == "guard" {
|
||
runGuard(resolveDataDir(opt.dataDir))
|
||
return
|
||
}
|
||
|
||
log.Printf("[homed] role=agent boot=%s", opt.boot)
|
||
|
||
if opt.dataDir == "" {
|
||
opt.dataDir = resolveDataDir(opt.dataDir)
|
||
}
|
||
|
||
if opt.cliSocket == "" {
|
||
opt.cliSocket = filepath.Join(opt.dataDir, "cli.sock")
|
||
}
|
||
|
||
logDir := setupLogging(opt.dataDir)
|
||
|
||
log.Printf("[homed] starting %s", meta.FullVersion())
|
||
|
||
agentWorkDir := ensureDataDirs(opt.dataDir)
|
||
|
||
// ---- 基础设施层:记忆、技能 ----
|
||
|
||
mem, closeMem := initMemoryStack(opt.dataDir)
|
||
defer closeMem()
|
||
|
||
// ---- 配置中心(SQLite 持久化,唯一配置源) ----
|
||
|
||
cfgReg := internalConfig.NewConfigRegistry(filepath.Join(opt.dataDir, "config.db"))
|
||
defer cfgReg.Close()
|
||
cfgReg.SeedDefaults(opt.dataDir)
|
||
// LLM 配置写前留档(config_set 写 core.llm.* 前自动快照),guard 恢复用基线
|
||
cfgReg.SetLLMSnapshotFile(filepath.Join(opt.dataDir, "llm_snapshot.json"))
|
||
cfg := cfgReg.ToConfig()
|
||
|
||
// 共享词嵌入:蒸馏提取(Phase 3 TransE 验证)与 Agent 上下文复用同一实例,
|
||
// 避免同一模型被二次加载(约 200k×300 维 ≈ 数百 MB 内存)。
|
||
embedder := memory.NewStaticEmbedder(strings.Split(cfgReg.GetString("core.agent.embedding_model_path", ""), ",")...)
|
||
mem.distiller.SetEmbedder(embedder)
|
||
|
||
// ---- Lua VM(LLM 协议适配) ----
|
||
|
||
luaVM, closeLuaVM := initLuaVM(cfg)
|
||
defer closeLuaVM()
|
||
|
||
// ---- 守护管理(代理生命周期管理) ----
|
||
|
||
sup := initSupervisor(cfg)
|
||
|
||
// ---- 变更追踪(overlayfs) ----
|
||
|
||
trk := initTracker(cfg, agentWorkDir)
|
||
|
||
// ========================================================================
|
||
// 内核 API:IOManager(IO 抽象层) + EventBus(事件总线)
|
||
// 所有插件通过这两个通道与核心交互
|
||
// ========================================================================
|
||
|
||
iom, evBus := initKernelAPI()
|
||
|
||
// ---- 文本记忆 + 记忆蒸馏管线 ----
|
||
|
||
textMem, closeTextMem := initTextMemory(cfg)
|
||
defer closeTextMem()
|
||
|
||
ctx, stop := context.WithCancel(context.Background())
|
||
defer stop()
|
||
|
||
startMemoryCandidateConsumer(ctx, iom, textMem, mem.db, mem.distiller)
|
||
|
||
// ---- LLM Provider 管理(多源,通过 Lua 适配器协议转换) ----
|
||
|
||
baseAPIKey := resolveBaseAPIKey(cfg)
|
||
|
||
providerMgr := initLLMProviders(cfg, luaVM, baseAPIKey)
|
||
provider := providerMgr.Default()
|
||
|
||
// L1 failback:受限 worker 启动即跑恢复梯子(probe→还原DNS/proxy→还原config+ReloadFromConfig→probe),
|
||
// 结果以退出码 exitRecovered=43 / exitRecoveryFailed=44 交回 guard,不进入主 agent 循环。
|
||
if opt.boot == "failback" {
|
||
runFailbackRecovery(opt.dataDir, cfgReg, luaVM, providerMgr, baseAPIKey)
|
||
}
|
||
|
||
// ---- 文档记忆 + 知识库 ----
|
||
|
||
docStore, closeDocStore := initDocStore(cfg)
|
||
defer closeDocStore()
|
||
|
||
mediaStore, closeMediaStore := initMediaStore(cfgReg, cfg)
|
||
defer closeMediaStore()
|
||
|
||
multimodalSpace, mmProviderName, mmErr, closeMultimodal := initMultimodalSpace(cfgReg)
|
||
defer closeMultimodal()
|
||
|
||
ks := initKnowledgeStore(cfg)
|
||
|
||
// ---- 人格设定 ----
|
||
|
||
personality := loadPersonality(cfg, cfgReg)
|
||
|
||
// ---- 阶段管道(StageHost)+ 插件系统(Registry) ----
|
||
|
||
stageHost, pluginReg := newStageAndRegistry(cfg, cfgReg, iom, evBus, mem.db, textMem,
|
||
docStore, mediaStore, ks, providerMgr, opt.dataDir)
|
||
|
||
// ---- Agent Core (需在插件加载前创建,因为插件 Configure 需要 StatusProvider) ----
|
||
|
||
agent := newMainAgent(cfg, cfgReg, provider, providerMgr, iom, mem.db, mem.indexer, trk,
|
||
docStore, ks, mem.social, textMem, mediaStore, personality, pluginReg, embedder,
|
||
multimodalSpace, mmProviderName, mmErr, stageHost, evBus)
|
||
|
||
wirePluginSDK(pluginReg, luaVM, baseAPIKey, sup, trk, cfg, stageHost, mem.indexer, agent)
|
||
|
||
// 为内置插件注入内核依赖(各插件通过 init() 自注册工厂)
|
||
cli.DefaultSocket = opt.cliSocket
|
||
// webui 监听地址覆盖:必须在 loadPlugins 之前设置,插件 Start 时会读它。
|
||
webui.SetListenOverride(resolveWebUIOverride(cfgReg, opt.httpAddr))
|
||
|
||
// ---- 依存句法分析器(内嵌 ONNX 模型 / 规则引擎) ----
|
||
|
||
initONNXParser(cfg, cfgReg)
|
||
|
||
loadPlugins(cfg, cfgReg, pluginReg, stageHost, opt.boot, opt.dataDir)
|
||
|
||
// 插件加载完成后再回收空闲页:大值(如老版聊天记录)可能在这一步被搬走/删除,
|
||
// 而 SQLite 的 DELETE 不会缩小文件。
|
||
compactConfigDB(cfgReg)
|
||
|
||
stopRuntime := startAgentRuntime(cfgReg, pluginReg, agent, logDir, ctx)
|
||
defer stopRuntime()
|
||
|
||
_, closeIPC := startIPCServer(opt.dataDir, opt.boot, agent)
|
||
defer closeIPC()
|
||
|
||
restartCh := startSupervisorRuntime(sup, trk, agent)
|
||
|
||
log.Printf("[homed] main agent started, model=%s base=%s sources=%d adapters=%d",
|
||
cfg.LLM.Model, cfg.LLM.BaseURL, len(cfg.LLM.Sources), len(luaVM.ListAdapters()))
|
||
log.Printf("[homed] kernel ready, waiting for plugin IO...")
|
||
|
||
// ---- 等待退出信号 ----
|
||
|
||
stopHeartbeat := startHeartbeat(opt.dataDir, ctx)
|
||
waitForShutdown(ctx, opt.dataDir, restartCh, stopHeartbeat, pluginReg, trk, cfgReg, sup)
|
||
}
|