mirror of
https://gitcode.com/JianFeeeee/HomeAgent.git
synced 2026-09-21 17:38:10 +00:00
feat(release): 发行版默认启用本地向量空间(onnxruntime 标签 + chineseclip 默认)
用户要求:后续发行版默认带 ONNX 模型能力。这条要求落到两处,并顺带修掉一个 被它**暴露出来**的真缺陷。 ## 1. 构建默认带 onnxruntime(deploy/packaging/build.sh) `HOMED_TAGS` 默认 `onnxruntime`,需要极简构建时显式 `HOMED_TAGS=` 关闭。 不带标签时 provider 仍注册、但打开即报「requires build tag」并优雅降级—— 不静默假装成功。运行期还需要 `libonnxruntime.so`(provider 按 /opt/onnxruntime、/usr/local/lib、/usr/lib 顺序查找),缺失时同样是 「日志里明确错误 + 降级」。 ## 2. 新装默认选 chineseclip(internal/config/registry.go) `SeedDefaults` 写入: core.memory.multimodal_space.provider = chineseclip core.memory.multimodal_space.options.model_dir = <dataDir>/models/chinese-clip-vit-b16-onnx 选它而不是 qwen3vl:后者实测常驻 9.4GB,多数机器装不下;chineseclip 是 1.99GB(实测,见下)。同时更新两个 ConfigDef 的默认值与描述(WebUI 显示用)。 **老安装不会自动拿到这两个默认值**,这是有意的:`seedDBValues` 对非空配置库 直接返回,`GetString` 缺键时回落到调用方默认值(main.go 传的是空串)。 升级就静默加载 ~1.8GB 模型不是无副作用的事,应由部署显式开启。已写进文档。 ## 3. 修掉 ORT 环境被重复初始化 + 误销毁(internal/nlp/onnx.go) 这是「默认带标签」才暴露的缺陷:此前不带标签时进程内不会有多个 ORT 消费者。 - `NewONNXParser` 无条件 `InitializeEnvironment()` → 若多模态 provider 先初始化, 这里报「The onnxruntime has already been initialized」并**降级**(实测日志: `ONNX parser init: init onnx env: ... using fallback`)。 - 更严重的是失败路径与 `Close()` 里的 `DestroyEnvironment()`:它会把别人 (多模态 provider)正在用的进程级环境一起拆掉,让对方的会话失效。 改为:初始化前先 `IsInitialized()`;**任何消费者都不销毁环境**(随进程存活), 只销毁自己的会话。providers/chineseclip 与 providers/qwen3vl 本来就是这个约定, 现在三处一致。 ## 验证(实测) - 全新数据目录启动:配置库出现上述两个默认值。 - 模型未安装:`multimodal space active` 不出现,代之以明确错误 (点名缺失的 embed_config.json 路径 + 已注册 provider 列表)+ 降级,不静默。 - 模型就位:`multimodal space active: provider=chineseclip dim=512 fp=cd2a495cf990 modalities=[text image]`。 - 内存:同一份 homed,启用时 RSS **1.99GB**(峰值 2.09GB),不启用 **0.17GB**。 - NLP 修复:日志由 `ONNX parser init: ... using fallback` 变为 `dep parser initialized`。 - 构建矩阵:`go build/vet ./...` 与 `-tags onnxruntime` 两种都过; `bash -n deploy/packaging/build.sh` 通过。 ## 未做(明确记录) - `libonnxruntime.so`(24MB)与 Chinese-CLIP 产物(754MB)目前都需自行安装/导出, 发行版尚未打包它们。若要让「默认启用」在干净机器上真正开箱可用,需要决定 是随包分发、安装时下载、还是保持文档指引。
This commit is contained in:
@ -118,8 +118,21 @@ build_homed() {
|
||||
# Go 用 CC 驱动 CGO 编译与链接,用 CC 指定的交叉工具链来决定目标架构。
|
||||
# 必须同时 export CC 给 Go 的 CGO 代码生成器,否则 CGO_ENABLED=1 下的
|
||||
# 目标文件与 host 的 ld 不兼容(如 arm64 的 .o 给了 x86_64 的 ld)。
|
||||
#
|
||||
# HOMED_TAGS 默认带 onnxruntime:发行版**默认启用**本地向量空间。
|
||||
# 不带这个标签时 providers/chineseclip 与 providers/qwen3vl 仍会注册,
|
||||
# 但打开时报「requires build tag」并优雅降级(不静默假装成功)。
|
||||
# 需要极简构建时可显式 HOMED_TAGS= 关掉。
|
||||
#
|
||||
# 运行期还需要 libonnxruntime.so(provider 按 /opt/onnxruntime、
|
||||
# /usr/local/lib、/usr/lib 顺序查找);缺失时同样是「日志里的明确错误 +
|
||||
# 降级」,不会假装启用。
|
||||
local _cc="${CC:-cc}"
|
||||
local _tags="${HOMED_TAGS-onnxruntime}"
|
||||
local -a _tagargs=()
|
||||
if [ -n "$_tags" ]; then _tagargs=(-tags "$_tags"); fi
|
||||
CGO_ENABLED=1 CC="$_cc" "$GO" build -trimpath -installsuffix dynlink \
|
||||
${_tagargs[@]+"${_tagargs[@]}"} \
|
||||
-ldflags "$LDFLAGS" -o "$out" ./cmd/homed/
|
||||
echo " OK ($(file "$out" | sed 's/.*: //') | $(du -h "$out" | cut -f1))"
|
||||
}
|
||||
|
||||
Reference in New Issue
Block a user