- README.md with architecture diagram and project overview - docs/architecture-overview.md: core design, scheduling, RefPack protocol - docs/routing-compression-subnet.md: multi-modal encoding, compression training - docs/memory-subnet.md: MANN, GNN, retrieve-pull mechanism training - docs/logic-trace-subnet.md: RLHF+PRM, MCTS, self-correction training - docs/llm-subnet.md: SFT, RLHF fine-tuning, multi-language alignment
8.3 KiB
8.3 KiB
架构概览
整体架构设计
NextAgent 采用 认知解耦架构(Cognitive Decoupled Architecture),将传统单一 LLM 拆解为多个具有独立职能的子网,通过调度 Core 统一协调。每个子网类比人脑的一个功能区域,各司其职、协同工作。
设计原则
- 单一职责:每个子网只负责一种认知功能,降低复杂度
- 信息压缩:子网间传递轻量级引用包而非原始数据
- 冷热分离:活跃数据在计算单元处理,原始数据存储在冷区
- 可追溯:每次推理决策都有完整的链路追踪记录
架构分层
┌──────────────────────────────────────────────────────────────┐
│ 应用层 │
│ CLI / API / SDK / Web Interface / 第三方集成 │
└──────────────────────┬───────────────────────────────────────┘
│
┌──────────────────────▼───────────────────────────────────────┐
│ 调度 Core(前额叶皮层) │
│ ┌────────────┐ ┌────────────┐ ┌────────────────────────┐ │
│ │ 任务解析器 │ │ 调度引擎 │ │ 同步总线 │ │
│ │ 拆解用户意图 │ │ 分配子任务 │ │ 子网间状态同步 │ │
│ └────────────┘ └────────────┘ └────────────────────────┘ │
└──────┬──────┬──────┬──────┬──────┬──────┬──────┬───────────┘
│ │ │ │ │ │ │
┌──────▼──┐ ┌─▼──────┐ ┌─▼──────┐ ┌─▼──────┐ ┌─▼──────────┐
│ 路由与 │ │ 记忆 │ │ 逻辑链路 │ │ LLM │ │ 冷区存储 │
│ 压缩子网 │ │ 子网 │ │ 追踪子网 │ │ 子网 │ │ (原始数据) │
│(感觉中枢) │ │(海马体) │ │(推理回路)│ │(布洛卡) │ │ │
└─────────┘ └────────┘ └────────┘ └────────┘ └────────────┘
调度 Core(前额叶皮层)
调度 Core 是整个架构的总指挥,类比人脑的前额叶皮层,负责高级认知功能。
核心职责
- 任务解析:接收用户输入,拆解为可执行的子任务序列
- 调度决策:根据任务类型,决定调用哪些子网及调用顺序
- 信息同步:维护子网间的共享上下文状态
- 冲突解决:当子网返回矛盾结果时,启动仲裁机制
- 链路追踪:记录完整的推理决策路径,支持回溯
工作流程
sequenceDiagram
participant User as 用户
participant Core as 调度 Core
participant RCN as 路由与压缩子网
participant MEM as 记忆子网
participant LTC as 逻辑链路追踪子网
participant LLM as LLM 子网
User->>Core: 用户输入/任务
Core->>RCN: 1. 发送原始输入
RCN->>RCN: 特征提取与压缩
RCN-->>Core: 返回引用包(RefPack)
Core->>MEM: 2. 携带引用包检索记忆
MEM->>MEM: 搜索知识图谱与情景记忆
MEM-->>Core: 返回关联记忆引用包
Core->>LTC: 3. 发送任务+记忆进行推理
LTC->>LTC: MCTS 推理路径搜索
LTC->>LTC: 逻辑验证与修正
LTC-->>Core: 返回验证后的推理路径
Core->>LLM: 4. 发送结构化推理结果
LLM->>LLM: 结构化→自然语言转换
LLM-->>Core: 返回自然语言输出
Core->>MEM: 5. 更新记忆(本次交互记录)
Core-->>User: 返回最终结果
调度算法伪代码
function process(input):
# 1. 任务解析
task_graph = parse_task(input)
# 2. 逐节点执行
for node in topological_sort(task_graph):
# 2a. 路由与压缩
refpack = routing_subnet.compress(node.input)
# 2b. 记忆检索
memories = memory_subnet.retrieve(refpack)
# 2c. 逻辑推理
reasoning_path = logic_subnet.reason(refpack, memories)
# 2d. 若需语言输出
if node.requires_language:
output = llm_subnet.express(reasoning_path)
else:
output = reasoning_path
# 3. 记忆更新
memory_subnet.store(interaction_record)
return output
子网间通信机制
引用包(RefPack)协议
所有子网间通信通过 引用包(Reference Package) 完成。引用包是一种轻量级的数据结构,包含:
{
"refpack_id": "uuid-xxxx",
"type": "compressed_feature | memory_chunk | reasoning_path | expression",
"metadata": {
"source_subnet": "routing_compression",
"target_subnet": "memory",
"timestamp": 1717200000,
"compression_ratio": 0.85,
"confidence": 0.92
},
"payload": {
"dim": 768,
"data": [0.12, -0.34, ...], // 压缩向量或结构化数据
"indices": [1024, 2048, ...] // 冷区索引(可选)
},
"signature": "sha256-checksum"
}
引用-拉取机制
- 引用阶段:发送方生成轻量级引用包(通常 1-10 KB)
- 路由阶段:调度 Core 将引用包分发到目标子网
- 拉取阶段:目标子网根据引用包中的索引,按需从冷区拉取完整数据
- 缓存阶段:热区缓存常用数据,减少冷区访问频率
graph LR
A["发送方子网"] -->|"1. 生成引用包"| B["引用包 (1-10KB)"]
B -->|"2. 调度 Core 分发"| C["目标子网"]
C -->|"3. 按需拉取"| D["冷区存储"]
D -->|"4. 返回完整数据"| C
C -->|"5. 缓存热数据"| E["热区缓存"]
数据流
flowchart TD
Input["用户输入/多模态数据"] -->|"原始数据"| RCN["路由与压缩子网"]
RCN -->|"引用包"| Core["调度 Core"]
Core -->|"记忆查询"| MEM["记忆子网"]
MEM -->|"记忆引用包"| Core
Core -->|"推理请求"| LTC["逻辑链路追踪子网"]
LTC -->|"推理路径"| Core
Core -->|"表达请求"| LLM["LLM 子网"]
LLM -->|"自然语言"| Core
Core -->|"冷存储"| Cold["冷区存储"]
Cold -->|"按需拉取"| Core
RCN -.->|"引用包索引"| Cold
MEM -.->|"批量拉取"| Cold
Core -->|"最终输出"| Output["用户结果"]
style Input fill:#e1f5fe
style Output fill:#e8f5e9
style Core fill:#fff3e0,stroke:#ff9800,stroke-width:3px
style Cold fill:#f3e5f5
关键设计决策
| 决策 | 选择 | 理由 |
|---|---|---|
| 子网间通信协议 | 引用包(RefPack) | 轻量级、低延迟、支持异步 |
| 冷区存储格式 | 压缩向量 + 倒排索引 | 高压缩率、快速模糊检索 |
| 调度策略 | 有向无环图(DAG)调度 | 支持并行执行与依赖管理 |
| 错误处理 | 三级降级(重试→降级→报错) | 保证系统鲁棒性 |
| 状态同步 | 事件驱动 + 共享内存 | 低延迟、去中心化 |
与现有架构对比
| 特性 | 传统单一 LLM | Agent + 工具调用 | NextAgent(认知解耦) |
|---|---|---|---|
| 知识存储 | 模型参数内隐式存储 | 外部工具/数据库 | 专用记忆子网 |
| 推理能力 | 隐式(端到端) | 提示工程驱动 | 专用推理子网 + MCTS |
| 幻觉控制 | 无专门机制 | 工具结果覆盖 | 知识-表达解耦,根本上杜绝 |
| 可解释性 | 低(黑箱) | 中(可追踪工具调用) | 高(完整推理链路) |
| 计算效率 | 每次推理全模型参与 | 按需调用工具 | 冷热分离,仅热数据参与计算 |