IO 抽象层增强:非文本输入支持 + waiter CLI 重写

PluginSDK:
- 添加 InjectInput / InjectInputSync / InjectInterrupt 泛型接口
- 插件现在可注入 image/audio/file 等任意类型输入

Provider:
- 添加 ContentBlock / ImageURL / AudioURL 类型
- Message 增加 Blocks 字段,Content 在非空 Blocks 时序列化为数组(多模态格式)

Agent:
- handleInput 新增 image/audio 类型分发 → processMediaInput
- processMediaInput 将媒体数据附着到对话上下文,LLM 自主决策处理策略
- 新增内置工具:describe_image / transcribe_audio / ocr_image(pendingMedia 驱动)
- 工具仅当有未处理媒体数据时注册,通过 Provider 直接调用多模态模型

Config:
- 新增 InputProcessingConfig(image/audio 处理配置)
- 含 fallback_provider / describe_prompt / ocr_enabled 等选项

Waiter CLI 重写:
- 配置文件 ~/.config/homeagent/cli.yaml(自动发现 socket)
- 原始终端行编辑 + 命令历史持久化 + 彩色输出
- 内置命令:/help /reconnect /connect /remote /local /prompt
- 断线自动重连
This commit is contained in:
root
2026-07-04 15:01:35 +08:00
parent 68a373ede0
commit c3816dc699
10 changed files with 1209 additions and 174 deletions

View File

@ -117,11 +117,30 @@ type LLMConfig struct {
Sources []LLMSource `json:"sources,omitempty"`
}
type ImageProcessingConfig struct {
FallbackProvider string `json:"fallback_provider" yaml:"fallback_provider"`
FallbackModel string `json:"fallback_model" yaml:"fallback_model"`
DescribePrompt string `json:"describe_prompt" yaml:"describe_prompt"`
OCREnabled bool `json:"ocr_enabled" yaml:"ocr_enabled"`
}
type AudioProcessingConfig struct {
FallbackProvider string `json:"fallback_provider" yaml:"fallback_provider"`
FallbackModel string `json:"fallback_model" yaml:"fallback_model"`
DescribePrompt string `json:"describe_prompt" yaml:"describe_prompt"`
}
type InputProcessingConfig struct {
Image ImageProcessingConfig `json:"image" yaml:"image"`
Audio AudioProcessingConfig `json:"audio" yaml:"audio"`
}
type Config struct {
Daemon DaemonConfig `json:"daemon"`
LLM LLMConfig `json:"llm"`
Defaults AgentConfig `json:"defaults"`
Agents []AgentConfig `json:"agents"`
Daemon DaemonConfig `json:"daemon"`
LLM LLMConfig `json:"llm"`
InputProcessing InputProcessingConfig `json:"input_processing"`
Defaults AgentConfig `json:"defaults"`
Agents []AgentConfig `json:"agents"`
}
type DaemonConfig struct {