mirror of
https://gitcode.com/JianFeeeee/HomeAgent.git
synced 2026-11-01 14:57:38 +00:00
* feat(kernel): 模块化内核 + 编译期依赖图定序
把单体 init 序列拆成「模块自声明依赖 + 编译期生成依赖图 + 运行期只读图」。
## 为什么
原 cmd/homed/main.go 里 17 步 init 是**手写顺序**,依赖关系只存在于
注释和人脑里。实测踩到的坑(见 docs/zh/kernel-modularization-design.md):
· nlp.defaultParser 被 initONNXParser 写、被 distiller 读,两者相距 60 行,
只靠 ticker 10min 才没炸(隐式依赖,无声明)
· 加一个模块要人肉找"该插在哪",插错的表现是运行期 nil 解引用
· 关停是 defer ks.CloseAll(),而热更新路径 os.Exit(42) **跳过 defer**
⇒ docStore/distiller/textMem 的 flush 全部丢失(每次热更新都发生)
## 怎么改
- internal/kernelboot/:KernelState(一个结构体收全部包级共享变量,字段
nil 安全)、Module 接口、graphfile(依赖图编解码 + 与二进制 hash 对账)、
scheduler(按 BFS 层并行 Init)、syncbus(层边界写通知)、
lifecycle(Quiesce/Resume 可逆伪关机,区别于一次性 CloseAll)
- internal/kernelmod/<name>/:每个模块一个文件夹,Requires/Provides 自声明;
all/all.go 是唯一的 import 清单(Go 循环导入约束)
- cmd/homed-depgraph:编译期生成依赖图,Makefile 注入 digest
- 运行期只**读**图,不计算顺序(顺序是编译期决定的,源码里没有中央清单)
## 判据
kernelboot 8 条 + 图失败模式 7 条(全部拒绝并给准确错误)+ 模块目录数
与注册表一致性。变异测试 15/15 咬住,含:
· 删掉 AddCloser 的锁 → -race 报数据竞争
· Scheduler 同批跑去重 → 203 vs 200
· 图 hash 不匹配 → 拒绝启动
## 顺带修的缺陷
热更新路径漏调模块关闭 ⇒ 显式 stopKernelModules(),并用 AST 判据钉住
"必须在 os.Exit 之前"(字符串检查在本仓已骗过我三次)。
实测:冷启动 1630ms(5 层/17 模块,原 17 步串行);生产 22 插件全部建链。
* feat(security): 密钥防火墙 + 配置加密 + close 纪律
## 密钥防火墙
模型只见别名、不见明文;插件工具调用入口(StageHost.ExecuteTool)做入向
回填。三维能力:
· 出向:工具输出里的密钥被替换成 [[secret:name]] 别名后才进上下文
· 入向:模型传别名,入口处填回真值(插件完全无感知)
· 存储:config.db 里不存明文(0644 的库可读),敏感值独立 0600 文件
模式库「宁漏勿误伤」:宁可漏掉一次替换,也不把正常文本误当密钥。
## 配置加密
- internal/security/{codec,key,keyring,store,global}.go:AES-256-GCM,
enc:v1: 前缀,密钥轮换(OldKeys 解码 + 新钥加密)
- harden.go:数据目录权限收紧
- embedded.go:支持内嵌主密钥(可选,仍保留外部 key 文件路径)
- EncryptExistingSecrets / AuditSecrets:启动时幂等迁移 + 审计
## close 纪律(用户明确要求:只要调 close 就要有前置检查)
internal/safeclose:Safe / SafeFunc。全仓 37 处裸 close(chan) → 0。
关键教训(都写进注释和判据):
· `select { case <-ch: default: close(ch) }` **不是**并发安全的
(两个 goroutine 可同时命中 default)—— healthcheck 原先是这种写法
· `sync.Once` **不可重入**:X.Do(func(){ Safe(&X, ...) }) 会自锁,
症状是 go test 直接挂住(3 个包 600s 超时),栈里只有嵌套的 Once.Do
· map 里按请求持有的 channel(mcp/stdio.go、clawhubadapter/sidecar.go)
改成 *pendingRPC 包装,每通道一个 once
## 判据
security 全量 + TestNoBareCloseOutsideSafeclose(AST 级扫描,含注释剥离)
+ TestNoNestedSelfOnceDeadlock(正则修正:\w+ 不匹配点号,捕获组要含 '.')。
变异 2/2 咬住。全量 52 包 ok。
* feat(plugin+deploy): 插件三态生命周期、数据目录迁移、发行包修复
## 插件三态生命周期(用户要求:自动启动 / 启用但不自动启动 / 禁用)
- Manifest 新增 requires_facilities / auto_start(*bool,用于区分
"未声明"与"显式 false")
- plugin-host 模块(internal/kernelmod/pluginhost):用 kernelboot.Scheduler
按依赖时机拉起,**不再手写两阶段**
- 运行态停启 StopPlugin/StartPlugin **可逆**:不写 disabled_plugins
(不改用户决定)、不置 shuttingDown(之后还能加载)、会摘掉注册面
- 与 StopAll 的区别写进注释 —— StopAll 置 shuttingDown 后**永久无法加载**,
那是进程退出用的,误用于"暂停"就是关了就死
## 数据目录迁移(伪关机 → 迁移 → 唤醒)
- kernelboot/lifecycle.go:Quiesce/Resume(可逆,区别于一次性 CloseAll),
逆序暂停、逆序恢复、Pause 失败回滚
- kernelboot/migrate.go:BeginMigration/End 编排(先停插件 → 再停内核写者
→ 等在途归零)
- distiller/textmem 增 Pause/Resume 门(不是 cancel —— cancel 不可逆,
恢复要重建整个对象)
- 模块 migration:体检 + 生成可执行迁移脚本
★ 迁移脚本的三个实测教训(都写成了判据):
1. 无条件改 /etc/systemd/system ⇒ 演练把**生产** -data 改成了演练目录。
加 --dry-run(零改动)+ 强制校验 systemd 当前 -data == OLD
2. 本机没装 rsync,脚本在"服务已停、数据未搬"处硬失败 ⇒ cp -a 回退,
并明确警告不保硬链接/ACL(生产 plugindev 有大量 git 硬链接)
## 发行包修复(全部经实测确认)
1. package-linux.sh **完全漏打 depgraph.bin** ⇒ 内核 exit 1
("生产构建(内嵌 hash 非空)但读不到依赖图")
2. build_homed 不走 Makefile ⇒ 单独修 Makefile 无效,必须同时生成图+注入
3. build.sh 的 LDFLAGS 用**历史模块路径 gitcode.com** ⇒ -X 静默 no-op
⇒ --version 显示 unknown
4. Makefile -ldflags 用**单引号** ⇒ 注入了字面 $GRAPH_HASH
## ★ build.sh 的版本号必须校验(真实事故)
原 `VERSION="$(git describe --tags --dirty)"`。无 tag 分支上它返回**分支名**
`backup/pre-identity-rewrite-20261005-51-g03d87a4e-dirty`,被注入 meta.Version
⇒ 插件握手判据 MajorVersion() 把整串当主版本 ⇒ **22 个子进程插件全部
握手失败**("主版本不匹配")。内核活着、systemd active、日志每条都像
插件的问题 —— 实际是发行包带着非法版本号。
修法:git describe 只在形如 vX.Y.Z 时采用,否则回退 meta.Version(权威源),
并对最终值做形态守卫。deploy/packaging/version_guard_test.go 3 条判据,
变异 2/2 咬住。
## deb 的 systemd unit 改为 guard 模式
ExecStart=/usr/bin/homed --role=guard --data /var/lib/homeagent
(worker exit 42 → guard 重拉,不经过 systemd、不计失败)
含 RestartSteps/RestartMaxDelaySec/TimeoutStopSec + 硬化
(NoNewPrivileges/ProtectSystem/ProtectHome/DevicePolicy/ReadWritePaths)。
## 其他
- internal/plugin/proc:非法 JSON 帧的报错**可定位**(内容摘要 + 可能原因 +
修法)。生产实测 1038 条非法帧(插件往 stdout 打日志 = 污染协议通道)
- 示例插件 4 个 14 处 fmt.Printf → log.Printf
- hmapdev 模板同步修复;scaffold 判据剥离注释(模板注释里就含 fmt.Printf)
* chore: 收尾(主密钥轮换命令、IPC/知识库加固、SDK 对齐)
- cmd/homed-key-rotate:把 security 里的 RotateKey/RotateKeyFile/RekeySecrets
串成一条**可执行**的运维路径。没有它,E-1 就只是库里的能力而不是
"出事时能做的事",而轮换的价值恰恰在于能执行。
- cmd/homed:kmod_runtime(模块装配入口)、plugins_scheduled(failback
白名单)、memcandidate、bootstrap_order_test / shutdown_flush_test
- internal/ipc、internal/devicebridge、internal/knowledge:配套加固
- third_party/homeagent-sdk/sdk:PluginMgrAPI 增三态能力(mgrStop/mgrStart/
mgrIsRuntimeStopped)+ settings 对齐
判据:bootstrap_order_test(启动顺序不依赖手写序列)、
shutdown_flush_test(停机的两条路径必须对称 —— exit 42 会跳过 defer,
热更新路径下模块关闭/flush 曾全部丢失)。
* test(security): 测试夹具改用不可误认的占位值(修 push protection 拦截)
GitHub secret scanning 拦住了推送:三处测试夹具用了"看起来像真密钥"的
字面量:
internal/security/prefilter_test.go:39
internal/security/store_test.go:177
internal/security/survey_test.go:20
它们全是**假密钥**(`AKIAIOSFODNN7EXAMPLE` 是 AWS 官方文档的标准示例,
其余是 `abcdefghij...` 这类可读占位符),但扫描器无法区分 —— 它只看形态。
★ 不绕过(不用 unblock URL、不加 allowlist):直接改夹具。
原因:一旦允许"假密钥可以通过",真密钥混进来时就没有最后一道门了。
改法:保留**模式库匹配所需的结构**,把可识别内容换成 FAKE:
glpat-abcdefghijklmnopqrst → glpat-FAKE-TEST-TOKEN-NOT-REAL
sk-abcdefghij...012345 → sk-FAKE-TEST-KEY-NOT-REAL-0000000
AKIAIOSFODNN7EXAMPLE → AKIA0000FAKE0000TEST (保持 20 字符)
ASIAIOSFODNN7EXAMPLE → ASIA0000FAKE0000TEST
xoxb-123456789012-abcdefghijklmnop → xoxb-FAKE-TEST-TOKEN-NOT-REAL
★ 中途踩到一次:AWS 键的模式是 `\b(AKIA|ASIA)[0-9A-Z]{16}\b`(共 20 字符),
我第一次替换成 19 字符的 `AKIAFAKETESTKEY0000` ⇒ 模式匹配不上 ⇒
TestSurvey_WhatIsCaught / TestRecognizesCommonShapes /
TestPrefilterNeverBlocksRealMatches 三条当场变红。
判据正确地拒绝了"为了过扫描器而削弱覆盖"。
顺带核实:全仓 grep 无任何真实密钥泄漏。
* fix(packaging): package-linux.sh 的版本解析与 build.sh 统一
上一版只修了 build.sh,漏了 package-linux.sh —— 它仍只看 git describe:
VERSION="${VERSION:-$(git describe --tags --dirty)}"
无 tag 分支上 git describe 返回**分支名**
(backup/pre-identity-rewrite-20261005-56-g98850e1),守卫会正确拒绝,
但要求人**手动传 VERSION** 才能打包。而 build.sh 早已能自动回退 meta.Version
⇒ 同一个版本,走 build.sh 打得出来、走 package-linux.sh 打不出来。
危害不只是"要手动传参":运维为了跑通会去掉守卫,而分支名一旦进
meta.Version 就是**插件协议主版本**的来源 ⇒ 22 个子进程插件全部握手失败
(这是真实发生过的事故,见 3efa4e5)。
修法:两个脚本用同一套规则(git describe 仅在 vX.Y.Z 形态时采用,
否则回退 meta.Version),并对最终值做形态守卫。
判据:TestBothPackagingScriptsShareVersionRules —— 逐个读两个脚本,
要求都能从 meta/meta.go 取权威版本、都校验 git describe 形态。
变异(把 package-linux.sh 改回旧规则)咬住并准确指出是哪个脚本。
实测:不传 VERSION 跑 package-linux.sh,输出
[PKG] warn: git describe 给出非版本串(...),改用 meta.Version=1.4.0
Version: 1.4.0
* fix(test): 跨仓判据在 CI 上应 skip 而非 fail(修 PR 双红)
CI 上 "Go build / vet / test" 与 "Build linux/amd64" 双红:
--- FAIL: TestHmapdevTemplateImplementsAllPluginMgrMethods
bridge_sync_test.go:170: 读模板: open
../../../third_party/homeagent-sdk/tools/hmapdev/templates/proc_main.go.tmpl:
no such file or directory
## 根因:判据依赖了一个**被 gitignore 的路径**
`.gitignore:33` 有 `third_party/homeagent-sdk/tools/`(SDK 仓自治,本仓不跟踪)。
于是:
· 本机(完整 SDK 检出)有该文件 ⇒ 判据通过
· CI(只 checkout 本仓)没有该文件 ⇒ Fatalf ⇒ **必红**
我提交时只在本机跑测试、没看 CI,所以这个问题拖到 PR 才暴露。
## 修法
文件缺失时 `t.Skipf` 而不是 `t.Fatalf`。
★ 这不是"放弃检查":
· 跨仓一致性由 **SDK 仓自己的判据**守着
(tools/hmapdev/scaffold_stdout_test.go 等),那里才是模板的真实归属地
· 本判据在本机开发时**仍然生效**(已验证:有文件时 PASS,缺文件时 SKIP)
## 验证
· 本机(有文件) → PASS(判据真跑)
· 模拟 CI(移走 tools/)→ SKIP(不再 fail)
· 全量 53 包 ok / 0 fail
## 顺带
同目录还有 e2e_template_test.go 也读 tools/,但它是 `//go:build` 门控的
e2e 判据,CI 默认不跑,无需处理。
---------
Co-authored-by: JianFeeeee <JianFeeeee@users.noreply.gitcode.com>
350 lines
12 KiB
Go
350 lines
12 KiB
Go
//go:build cgo
|
||
|
||
package api
|
||
|
||
// codec_streamchunk_c.go —— SSE 分块解析的 C 化「结构导航」层(Go 侧绑定)
|
||
//
|
||
// ============================ 为什么是「导航」而不是「全量编解码」 ============================
|
||
// 接线前实测出两条 wire 语义(docs/zh/c-core/sse-codec-c.md §5),它们让
|
||
// 「整条 parseOpenAICompatibleStreamChunkFull 全 C 化」不成立:
|
||
//
|
||
// §5.1 重复键是**字段级合并**:`{"choices":[{content:a}],"choices":[{reasoning:r}]}`
|
||
// → content="a" **且** reasoning="r"。json.Unmarshal 的 object() 收尾时做
|
||
// `v.SetIndex(i, subv.v)`,而 subv 拿到的是**已存在元素的指针**,
|
||
// 所以第二次是叠加而非替换。正确实现要维护「本次哪些字段出现过」的表。
|
||
// §5.2 stringifyContent 的 default 分支 = `json.Marshal(interface{})`,
|
||
// 即**重新序列化**:`{"b":1,"a":2}` → `{"a":2,"b":1}`(键排序)、
|
||
// `1e2` → `100`、`<` → `\u003c`、大 int 先舍入成 float64。
|
||
// 逐值一致要求复刻 Ryu 最短浮点 + map 键排序 + HTML 转义 + int 舍入。
|
||
//
|
||
// 而这两条**只在取值阶段**才需要。故本层只做**结构导航**:
|
||
//
|
||
// C:把 JSON 定位到「哪个值在哪里」——零分配、零解码,并直接给出两个热分支的结果
|
||
// Go:把「已定位的原始字节」按既有类型 unmarshal,成串逻辑完全不变
|
||
//
|
||
// ⇒ 类型检查的等价性靠「用**相同的 Go 类型** unmarshal **相同形状的子树**」保证,
|
||
// 而不靠 C 重新实现一遍类型规则。这是本设计同时拿到速度与正确性的关键。
|
||
//
|
||
// 代价如实记录:命中字段仍要一次小 Unmarshal(原来是对整块做)。收益是免除
|
||
// json.Unmarshal 对整块的**反射建树**——那正是每块 12~21 allocs 的主因。
|
||
//
|
||
// ★ 键匹配**大小写敏感**(与 ha_json_scan.h 的 ha_json_key_eq 相反,两者用途不同)
|
||
// `content` 是 map[string]interface{},取 `m["text"]` 走 map key 语义
|
||
// ⇒ 大小写敏感。实测 `{"TEXT":"up"}` 取不到 `text`。
|
||
// struct 字段(choices/delta/usage)是大小写**不**敏感 —— 那一跳交给
|
||
// encoding/json,天然正确。
|
||
//
|
||
// ★ C 实现放在 csrc/ha_sse.c 而**不是**本文件的 cgo 前言里:
|
||
// 前言里的 C 代码会逃出全部 C 门禁(告警 / ASan+UBSan / arm64 交叉 / 模糊测试),
|
||
// 而这里恰恰是本刀最容易出错的位置。这是结构性决定,不是形式主义。
|
||
|
||
/*
|
||
#cgo CFLAGS: -std=c99
|
||
#include <stdlib.h>
|
||
#include "ha_sse.h"
|
||
|
||
// C 结构体一律不跨越语言边界(cgo 禁止「Go 指针指向的 Go 指针」,
|
||
// 实测会 panic),故所有 span 传递都拆成 (指针, 长度) 标量。
|
||
static int go_obj_find(const char *p, size_t n, const char *key, int keylen,
|
||
char **vp, size_t *vlen, int *dup) {
|
||
ha_span obj, out;
|
||
obj.p = p; obj.len = n;
|
||
int rc = ha_sse_obj_find(&obj, key, (size_t)keylen, &out, dup);
|
||
if (rc == 1) { *vp = (char *)out.p; *vlen = out.len; }
|
||
return rc;
|
||
}
|
||
|
||
static int go_arr_first(const char *p, size_t n, char **vp, size_t *vlen) {
|
||
ha_span arr, out;
|
||
arr.p = p; arr.len = n;
|
||
int rc = ha_sse_arr_first(&arr, &out);
|
||
if (rc == 1) { *vp = (char *)out.p; *vlen = out.len; }
|
||
return rc;
|
||
}
|
||
|
||
static int go_stringify(const char *p, size_t n, char *out, size_t cap,
|
||
size_t *outlen) {
|
||
ha_span val;
|
||
val.p = p; val.len = n;
|
||
return ha_sse_stringify(&val, out, cap, outlen);
|
||
}
|
||
|
||
static int go_arg_string(const char *p, size_t n, char *out, size_t cap,
|
||
size_t *outlen) {
|
||
ha_span val;
|
||
val.p = p; val.len = n;
|
||
return ha_sse_arg_string(&val, out, cap, outlen);
|
||
}
|
||
|
||
static int go_obj_find_ci(const char *p, size_t n, const char *key, int keylen,
|
||
char **vp, size_t *vlen, int *dup) {
|
||
ha_span obj, out;
|
||
obj.p = p; obj.len = n;
|
||
int rc = ha_sse_obj_find_ci(&obj, key, (size_t)keylen, &out, dup);
|
||
if (rc == 1) { *vp = (char *)out.p; *vlen = out.len; }
|
||
return rc;
|
||
}
|
||
|
||
static int go_root_object(const char *p, size_t n) {
|
||
ha_span doc;
|
||
doc.p = p; doc.len = n;
|
||
return ha_sse_root_object(&doc);
|
||
}
|
||
|
||
// 把数组全部元素写进 out(Go 侧预分配的 span 数组)。
|
||
// 返回元素数;超出 cap 时返回 -1(调用方据此判定「需要更大的缓冲」⇒ 回退)。
|
||
static int go_arr_all(const char *p, size_t n, ha_span *out, int cap) {
|
||
ha_json_scan sc;
|
||
int count = 0;
|
||
ha_json_scan_init(&sc, p, n);
|
||
(void)ha_json_scan_ws(&sc);
|
||
if (ha_json_scan_eof(&sc) || sc.s[sc.i] != '[') { return -1; }
|
||
sc.i++;
|
||
for (;;) {
|
||
(void)ha_json_scan_ws(&sc);
|
||
if (ha_json_scan_eof(&sc) || sc.s[sc.i] == ']') { break; }
|
||
if (count >= cap) { return -1; }
|
||
size_t start = sc.i;
|
||
if (!ha_json_skip(&sc)) { return -1; }
|
||
out[count].p = p + start;
|
||
out[count].len = sc.i - start;
|
||
count++;
|
||
(void)ha_json_scan_ws(&sc);
|
||
if (ha_json_scan_eof(&sc)) { return -1; }
|
||
if (sc.s[sc.i] == ',') { sc.i++; continue; }
|
||
if (sc.s[sc.i] == ']') { break; }
|
||
return -1;
|
||
}
|
||
return count;
|
||
}
|
||
|
||
static int go_chunk_locate(const char *p, size_t n, ha_chunk_out *out,
|
||
char *sbuf, size_t scap, size_t *sused) {
|
||
return ha_sse_chunk_locate(p, n, out, sbuf, scap, sused);
|
||
}
|
||
|
||
static int go_sse_abi(void) { return ha_sse_abi_version(); }
|
||
*/
|
||
import "C"
|
||
|
||
import "unsafe"
|
||
|
||
// ---------------------------------------------------------------------
|
||
// span 表示
|
||
// ---------------------------------------------------------------------
|
||
|
||
// strSpan 是 JSON 里一段字节,指向**原缓冲**(零拷贝)。
|
||
type strSpan struct {
|
||
p *C.char
|
||
n C.size_t
|
||
}
|
||
|
||
func (s strSpan) valid() bool { return s.p != nil && s.n > 0 }
|
||
|
||
// bytes 把 span 变成 Go 字节切片(此处才产生一次拷贝)。
|
||
//
|
||
// ★ 用途:把「已定位的原始子树」交给 json.Unmarshal —— 用同一 Go 类型
|
||
//
|
||
// unmarshal 同一形状,是本层保证「类型检查语义与原实现一致」的手段。
|
||
func (s strSpan) bytes() []byte {
|
||
if s.p == nil || s.n == 0 {
|
||
return nil
|
||
}
|
||
return unsafe.Slice((*byte)(unsafe.Pointer(s.p)), int(s.n))
|
||
}
|
||
|
||
// str 把 span 变成 Go 字符串(此处才产生一次拷贝)。
|
||
func (s strSpan) str() string {
|
||
if s.p == nil || s.n == 0 {
|
||
return ""
|
||
}
|
||
return string(unsafe.Slice((*byte)(unsafe.Pointer(s.p)), int(s.n)))
|
||
}
|
||
|
||
// firstByte 只看首字节,用于区分值类型。
|
||
func (s strSpan) firstByte() byte {
|
||
if s.p == nil || s.n == 0 {
|
||
return 0
|
||
}
|
||
return *(*byte)(unsafe.Pointer(s.p))
|
||
}
|
||
|
||
// ---------------------------------------------------------------------
|
||
// 定位
|
||
// ---------------------------------------------------------------------
|
||
|
||
// ---------------------------------------------------------------------
|
||
// 取值(C 可判定的热分支)
|
||
// ---------------------------------------------------------------------
|
||
|
||
// decBuf 是解码/反转义用的可写缓冲。
|
||
//
|
||
// ★ 尺寸必须按输入长度定:C 侧要求 cap >= len*3+4(最坏每字节一个 U+FFFD),
|
||
//
|
||
// 不足时它会返回 0 让调用方回退 Go(宁可慢也不截断)。
|
||
// 每次调用 1 次分配(原来整块 Unmarshal 是 12~21 次)—— 这是主要的节省点。
|
||
func decBuf(n int) []byte { return make([]byte, n*3+8) }
|
||
|
||
// stringifyC 对应 Go stringifyContent 的**C 可判定分支**
|
||
// (字符串值 / 文本数组),返回 (结果, handled)。
|
||
// handled=false ⇒ 值类型需要 json.Marshal 重新编码(§5.2),调用方须回退 Go。
|
||
func stringifyC(val strSpan) (string, bool) {
|
||
if !val.valid() {
|
||
// 缺失 / 空 ⇒ Go 侧 stringifyContent(nil) 也是 ""
|
||
return "", true
|
||
}
|
||
buf := decBuf(int(val.n))
|
||
var outLen C.size_t
|
||
if C.go_stringify(val.p, val.n, cstrb(buf), C.size_t(len(buf)), &outLen) != 1 {
|
||
return "", false
|
||
}
|
||
return string(buf[:int(outLen)]), true
|
||
}
|
||
|
||
// ---------------------------------------------------------------------
|
||
// 顶层 helper:大小写不敏感(struct 字段语义)与根对象校验
|
||
// ---------------------------------------------------------------------
|
||
|
||
// C_size 把 Go int 转成 C.size_t(零拷贝 span 的长度)。
|
||
func C_size(n int) C.size_t { return C.size_t(n) }
|
||
|
||
// rootSpan 构造指向 data 的 span(零拷贝)。
|
||
func rootSpan(data string) strSpan { return strSpan{cstrp(data), C_size(len(data))} }
|
||
|
||
// findKeyCI 按**大小写不敏感**定位(Go struct 字段语义)。
|
||
func findKeyCI(obj strSpan, name string) (strSpan, bool, bool, bool) {
|
||
return findKeyGeneric(obj, name, true)
|
||
}
|
||
|
||
// findKeyCS 按**大小写敏感**定位(Go map key 语义)。
|
||
func findKeyCS(obj strSpan, name string) (strSpan, bool, bool, bool) {
|
||
return findKeyGeneric(obj, name, false)
|
||
}
|
||
|
||
func findKeyGeneric(obj strSpan, name string, ci bool) (strSpan, bool, bool, bool) {
|
||
if !obj.valid() {
|
||
return strSpan{}, false, false, false
|
||
}
|
||
keyp, keyn := cstr(name)
|
||
var vp *C.char
|
||
var vlen C.size_t
|
||
var dup C.int
|
||
var rc C.int
|
||
if ci {
|
||
rc = C.go_obj_find_ci(obj.p, obj.n, keyp, C.int(keyn), &vp, &vlen, &dup)
|
||
} else {
|
||
rc = C.go_obj_find(obj.p, obj.n, keyp, C.int(keyn), &vp, &vlen, &dup)
|
||
}
|
||
switch rc {
|
||
case 1:
|
||
return strSpan{vp, vlen}, true, dup == 1, false
|
||
case 0:
|
||
return strSpan{}, false, dup == 1, false
|
||
default:
|
||
return strSpan{}, false, false, true
|
||
}
|
||
}
|
||
|
||
// sseRootObject 校验「恰好一个良构对象」(含尾部残留检查)。
|
||
func sseRootObject(doc strSpan) bool {
|
||
if !doc.valid() {
|
||
return false
|
||
}
|
||
return C.go_root_object(doc.p, doc.n) == 1
|
||
}
|
||
|
||
// ---------------------------------------------------------------------
|
||
// 批量定位(第三刀的重做:一次 cgo 调用代替 5+ 次)
|
||
// ---------------------------------------------------------------------
|
||
|
||
// chunkLocateResult 是 C 侧 ha_chunk_out 的 Go 视图。
|
||
type chunkLocateResult struct {
|
||
status int
|
||
|
||
// 原始 span(用于交回 encoding/json 的那些字段)
|
||
usageSpan strSpan
|
||
usageKind int
|
||
toolCallsSpan strSpan
|
||
toolCallsKind int
|
||
|
||
// C 已解码的字符串(sbuf 的副本)
|
||
content string
|
||
reasoning string
|
||
finish string
|
||
|
||
// 标志
|
||
choicesPresent bool
|
||
choicesKind int
|
||
choicesCount int
|
||
choice0Span strSpan
|
||
hasDelta bool
|
||
deltaKind int
|
||
contentKind int
|
||
reasoningKind int
|
||
finishKind int
|
||
}
|
||
|
||
// 槽位/类型常量(与 ha_sse.h 保持一致;改动必须同步 ABI 版本)
|
||
const (
|
||
slotDelta = 0
|
||
slotContent = 1
|
||
slotReasoning = 2
|
||
slotToolCalls = 3
|
||
slotFinishReason = 4
|
||
slotUsage = 5
|
||
slotCount = 6
|
||
|
||
kindAbsent = 0
|
||
kindNull = 1
|
||
kindString = 2
|
||
kindObject = 3
|
||
kindArray = 4
|
||
kindOther = 5
|
||
|
||
chunkOK = 0
|
||
chunkFallback = -1
|
||
chunkTypeFail = -2
|
||
)
|
||
|
||
// locateChunkBatch 一次调用完成整块定位。
|
||
func locateChunkBatch(data string) chunkLocateResult {
|
||
var out chunkLocateResult
|
||
if len(data) == 0 {
|
||
out.status = chunkFallback
|
||
return out
|
||
}
|
||
p, n := cstr(data)
|
||
|
||
var co C.ha_chunk_out
|
||
// ★ 单块缓冲:整块解码输出(content+reasoning+finish)都写这一块。
|
||
// 尺寸按输入上界(每字节最坏 3 字节 U+FFFD)——1 次分配,
|
||
// 替代原来「每个字段一次 decBuf」的多次分配。
|
||
sbuf := make([]byte, len(data)*3+16)
|
||
var used C.size_t
|
||
|
||
st := C.go_chunk_locate(p, n, &co, cstrb(sbuf), C.size_t(len(sbuf)), &used)
|
||
out.status = int(st)
|
||
if st != C.int(chunkOK) {
|
||
return out
|
||
}
|
||
|
||
out.usageKind = int(co.slot[slotUsage].kind)
|
||
out.usageSpan = strSpan{co.slot[slotUsage].span.p, co.slot[slotUsage].span.len}
|
||
out.toolCallsKind = int(co.slot[slotToolCalls].kind)
|
||
out.toolCallsSpan = strSpan{co.slot[slotToolCalls].span.p, co.slot[slotToolCalls].span.len}
|
||
out.contentKind = int(co.slot[slotContent].kind)
|
||
out.reasoningKind = int(co.slot[slotReasoning].kind)
|
||
out.finishKind = int(co.slot[slotFinishReason].kind)
|
||
out.hasDelta = int(co.slot[slotDelta].kind) == kindObject
|
||
out.deltaKind = int(co.slot[slotDelta].kind)
|
||
out.choicesPresent = co.has_choices == 1
|
||
out.choicesKind = int(co.choices_kind)
|
||
out.choicesCount = int(co.choices_count)
|
||
|
||
s := sbuf[:int(used)]
|
||
out.content = string(s[co.content_off : co.content_off+co.content_len])
|
||
out.reasoning = string(s[co.reasoning_off : co.reasoning_off+co.reasoning_len])
|
||
out.finish = string(s[co.finish_off : co.finish_off+co.finish_len])
|
||
return out
|
||
}
|