feat: 每平台可用模型范围 + 降级尝试 + 失败回报

配置页为每个 Agent 平台划定「邮件场景下可用的模型」,插件按顺序逐个尝试,
全部失败把原因封装成邮件回复。目录由插件上报、管理员只做勾选 —— 手打模型名
会打错,而打错的后果要到真发邮件时才暴露成一次失败。

## 目录上报走心跳,不另设端点

模型清单会在运行中变(换 provider 配置、上游上下线、换 API key)。
只在注册时报一次的话目录会静静变陈,管理员在配置页选中一个平台其实调不到的
模型。心跳本来就是 30 秒一次的现成通道;另设一个 POST 等于给「目录是谁写的」
留两个答案,排查时要同时看两处。

心跳响应回传 `allowed_models`,因此管理员改了范围后最多一个周期生效,
不必重启插件。

与 platform_sessions 同一约定:拉不到目录时**省略字段**(保留现有目录),
传空数组会把配置页清成空白。

## 目录与选择分两张表

模型会从平台目录里消失(上游临时下线、换了 provider 配置)。合成一张带
allowed 标记的表时,整行被删就连带把管理员的选择也删了,模型回来还得重配一遍。
分开存之后「选了什么」是持久的,目录只决定「这一项现在是否可用」;
已选但不在目录里的标为 stale 显示出来 —— 不显示会让人以为自己没选过它。

## 最难的一点:模型失败不是同步抛出的

两个平台都踩了。`promptAsync()` 立即返回、`ctx.agents.create()` 不校验模型,
只包 try/catch 的话第二个模型永远不会被试到 —— 第一个无效模型会被判成成功。

必须等异步结论:
- opencode → `session.error` 事件(event 钩子在 deliverMail 之外,
  因此用 turnWatchers 表把两者接起来)
- DSH → `turn/end` 的 `reason.kind === 'error'`

DSH 还有个陷阱:**`assistant/chunk` 不能当成功信号**,它的 `finish` 子类型
也带错误 —— `{chunk:{type:'finish',reason:{kind:'error',failure:{code:'NO_ADAPTER'}}}}`。
实测「无效 provider 却判成功」正是因为把任意 chunk 当成了走通。判据要落在
chunk 的类型上:finish 看 reason,其余才意味着模型真的在产出。

超时按成功处理(60 秒窗口):模型可能只是很慢,把慢当成失败会在换模型的同时
把已经在跑的那一轮丢掉。

DSH 换模型要换会话 id(`<原 id>-r1`)并 dispose 失败那个 agent:复用同一个 id
会让重试接在一条已经出错的会话后面,不 dispose 则 agent/status 还会为那个
死会话触发一次自动转发。

## 其他决策

- **范围优先于环境变量**:范围是运行时可改的策略,`AGENTMAIL_REPLY_*` 是部署时
  的兜底。反过来的话管理员在配置页改了却不生效,得去改 service 文件重启
- **范围为空返回 `[undefined]` 而非 `[]`**:空数组会让调用方一次都不试,
  而「管理员没配」的正确含义是不限定,不是「一个都不许用」
- **上限 10 个**:降级是串行的,选 50 个意味着最坏情况下一封邮件要等 50 次超时
- 前端 key 按**第一个** `/` 切分 provider/model:model id 可能含 `/`
  (如 `org/model-name`),按最后一个切会把 provider 切错
- 保存后用服务端返回的结果刷新界面而非回显入参:repo 层会跳过重复与空字段

## 验证

- Go 10 个新测试(含「模型从目录消失后选择必须留存」的直接回归)
- 两插件各 18 个模型范围测试,共 180 个
- 端到端四轮:正常路由 → 全部无效(收到失败回报邮件,used_rounds 保持 0
  确认走了免配额通道)→ DSH 降级(fake-a 失败 → llmsproxy/AUTO 成功)→
  opencode 降级(nonexistent/bad 失败 → AUTO 成功,日志确认「前 1 个失败」)
- 生产已部署,前端「模型范围」页可用
This commit is contained in:
2026-09-02 21:34:55 +08:00
parent 7c9be9fd58
commit 89356d4a9b
20 changed files with 2172 additions and 69 deletions

View File

@ -412,6 +412,45 @@ export async function adminSetDefaultRounds(agentName: string, defaultRounds: nu
);
}
// ---------- 邮件场景下可用的模型范围 ----------
/** 平台上报的一个模型,带「是否已被选入」标记。 */
export interface CatalogModel {
provider: string;
model: string;
display_name?: string;
allowed: boolean;
/** 仅 allowed 为真时有意义,越小越先试 */
rank?: number;
}
export interface ModelRoute {
provider: string;
model: string;
}
/**
* 读某 Agent 的模型目录。
*
* `stale` 是「已选但平台当前目录里没有」的那些 —— 平台可能临时下线了某个模型,
* 而管理员的选择是持久的。界面上不显示会让人以为自己没选过它。
*/
export async function adminGetAgentModels(agentName: string) {
return request<{ agent_name: string; catalog: CatalogModel[]; stale: ModelRoute[] }>(
'GET',
`/admin/agents/${encodeURIComponent(agentName)}/models`
);
}
/** 保存选择。数组顺序即优先级(插件按这个顺序降级尝试)。 */
export async function adminSetAgentModels(agentName: string, models: ModelRoute[]) {
return request<{ status: string; models: ModelRoute[] }>(
'PUT',
`/admin/agents/${encodeURIComponent(agentName)}/models`,
{ models }
);
}
// ---------- Sessions ----------
export async function getHumanSessions() {

View File

@ -2,11 +2,12 @@ import { useCallback, useEffect, useState } from 'react';
import * as api from '../api/client';
import NavToggle from './NavToggle';
import type { AdminScopes, User } from '../types';
import { CheckIcon, LockIcon, UsersIcon, ChevronRightIcon, KeyIcon, BotIcon } from './icons';
import { CheckIcon, LockIcon, UsersIcon, ChevronRightIcon, KeyIcon, BotIcon, CpuIcon } from './icons';
import KeyPanel from './KeyPanel';
import QuotaPanel from './QuotaPanel';
import ModelScopePanel from './ModelScopePanel';
type Tab = 'users' | 'keys' | 'quotas';
type Tab = 'users' | 'keys' | 'quotas' | 'models';
export default function AdminUsersPage() {
const [tab, setTab] = useState<Tab>('users');
@ -111,6 +112,10 @@ export default function AdminUsersPage() {
<BotIcon className="w-4 h-4" />
</TabButton>
<TabButton active={tab === 'models'} onClick={() => setTab('models')}>
<CpuIcon className="w-4 h-4" />
</TabButton>
<div className="flex-1" />
{notice && <span className="text-xs text-green-600">{notice}</span>}
{tab === 'users' && (
@ -122,7 +127,11 @@ export default function AdminUsersPage() {
{error && <p className="mx-6 mt-3 text-xs text-red-600 bg-red-50 border border-red-100 rounded-md px-2.5 py-1.5">{error}</p>}
{tab === 'quotas' ? (
{tab === 'models' ? (
<div className="flex-1 overflow-y-auto px-4 md:px-6 py-4">
<ModelScopeTab />
</div>
) : tab === 'quotas' ? (
<div className="flex-1 overflow-y-auto px-4 md:px-6 py-4">
<QuotaPanel />
</div>
@ -421,3 +430,24 @@ function Field({ label, hint, children }: { label: string; hint?: string; childr
</div>
);
}
/**
* 模型范围页。
*
* Agent 列表复用 `/admin/quotas` —— 它返回的就是全部已注册 Agent。
* 另开一个「列出 Agent」接口只会多一条做同一件事的路径。
*/
function ModelScopeTab() {
const [agents, setAgents] = useState<api.AgentStats[]>([]);
const [err, setErr] = useState('');
useEffect(() => {
api
.adminListAgentStats()
.then(res => setAgents(res.quotas))
.catch(e => setErr(e instanceof Error ? e.message : String(e)));
}, []);
if (err) return <p className="text-xs text-red-600">{err}</p>;
return <ModelScopePanel agents={agents} />;
}

View File

@ -0,0 +1,321 @@
import { useCallback, useEffect, useState } from 'react';
import * as api from '../api/client';
import type { AgentStats, CatalogModel, ModelRoute } from '../api/client';
import { CheckIcon, SpinnerIcon, ChevronRightIcon, CpuIcon } from './icons';
/**
* 每个 Agent 平台在**邮件场景**下可用的模型范围。
*
* 为什么是勾选而不是手打模型名模型清单是平台侧的事实opencode 的 provider
* 配置、DSH 的 llm 适配器注册),手打就会打错,而打错的后果要到真发邮件时
* 才暴露成一次失败。插件随心跳上报它当前看得见的目录,这里只做勾选。
*
* 顺序即优先级:插件按这个顺序逐个尝试,全部失败才回一封说明失败原因的邮件。
* 一个都不选 = 不限定,回退到平台自己的默认模型 —— 与「一个都不许用」不同。
*/
export default function ModelScopePanel({ agents }: { agents: AgentStats[] }) {
const [expanded, setExpanded] = useState<string | null>(null);
if (agents.length === 0) {
return (
<div className="space-y-3">
<PanelHeader count={0} />
<div className="text-xs text-gray-400 py-3"> Agent</div>
</div>
);
}
return (
<div className="space-y-3">
<PanelHeader count={agents.length} />
<div className="border border-gray-200 rounded-md divide-y divide-gray-100">
{agents.map(a => (
<AgentModelRow
key={a.agent_name}
agentName={a.agent_name}
expanded={expanded === a.agent_name}
onToggle={() => setExpanded(expanded === a.agent_name ? null : a.agent_name)}
/>
))}
</div>
</div>
);
}
function PanelHeader({ count }: { count: number }) {
return (
<>
<div className="flex items-center gap-2">
<CpuIcon className="w-4 h-4 text-gray-500" />
<h3 className="text-sm font-semibold text-gray-900">Agent </h3>
{count > 0 && <span className="text-xs text-gray-400">{count}</span>}
</div>
<p className="text-[11px] text-gray-500">
<br />
=
</p>
</>
);
}
function AgentModelRow({
agentName,
expanded,
onToggle
}: {
agentName: string;
expanded: boolean;
onToggle: () => void;
}) {
const [catalog, setCatalog] = useState<CatalogModel[]>([]);
const [stale, setStale] = useState<ModelRoute[]>([]);
// picks 是有序的:数组下标就是 rank
const [picks, setPicks] = useState<string[]>([]);
const [saved, setSaved] = useState<string[]>([]);
const [loading, setLoading] = useState(false);
const [saving, setSaving] = useState(false);
const [err, setErr] = useState('');
const load = useCallback(async () => {
setLoading(true);
setErr('');
try {
const res = await api.adminGetAgentModels(agentName);
setCatalog(res.catalog);
setStale(res.stale || []);
// 已选项按 rank 排出初始顺序
const chosen = res.catalog
.filter(m => m.allowed)
.sort((a, b) => (a.rank ?? 0) - (b.rank ?? 0))
.map(keyOf);
// 已选但已不在目录里的仍要保留:不显示会让人以为没选过,
// 而保存时若把它们丢掉就等于静默改了配置
const staleKeys = (res.stale || []).map(keyOf);
const all = [...chosen, ...staleKeys.filter(k => !chosen.includes(k))];
setPicks(all);
setSaved(all);
} catch (e) {
setErr(e instanceof Error ? e.message : String(e));
} finally {
setLoading(false);
}
}, [agentName]);
useEffect(() => {
if (expanded) load();
}, [expanded, load]);
const toggle = (key: string) => {
setPicks(prev => (prev.includes(key) ? prev.filter(k => k !== key) : [...prev, key]));
};
const move = (key: string, delta: number) => {
setPicks(prev => {
const i = prev.indexOf(key);
const j = i + delta;
if (i < 0 || j < 0 || j >= prev.length) return prev;
const next = [...prev];
[next[i], next[j]] = [next[j], next[i]];
return next;
});
};
const save = async () => {
setSaving(true);
setErr('');
try {
const res = await api.adminSetAgentModels(agentName, picks.map(parseKey));
// 用服务端返回的结果而不是本地 picksrepo 层会跳过重复与空字段,
// 直接信本地状态会让界面显示保存成功而实际存下来的不同
const persisted = res.models.map(keyOf);
setPicks(persisted);
setSaved(persisted);
} catch (e) {
setErr(e instanceof Error ? e.message : String(e));
} finally {
setSaving(false);
}
};
const dirty = picks.join('|') !== saved.join('|');
const staleKeys = stale.map(keyOf);
return (
<div>
<button
onClick={onToggle}
className="w-full px-3 py-2.5 flex items-center gap-x-3 gap-y-1 flex-wrap text-left hover:bg-gray-50"
>
<ChevronRightIcon
className={`w-3 h-3 text-gray-400 shrink-0 transition-transform ${expanded ? 'rotate-90' : ''}`}
/>
<span className="text-xs font-mono text-gray-900 w-32 shrink-0 truncate">{agentName}</span>
<span className="min-w-0 flex-1 text-[11px] text-gray-500">
{saved.length === 0 ? '不限定(用平台默认模型)' : `${saved.length} 个模型,按序尝试`}
</span>
{staleKeys.length > 0 && (
<span
className="shrink-0 px-1 py-0.5 rounded bg-amber-100 text-amber-700 text-[9px]"
title="已选但平台当前没有上报这些模型"
>
{staleKeys.length}
</span>
)}
</button>
{expanded && (
<div className="px-3 pb-3 space-y-3 bg-gray-50 border-t border-gray-100">
{loading && (
<div className="flex items-center gap-2 text-xs text-gray-400 pt-3">
<SpinnerIcon className="w-3.5 h-3.5 animate-spin" />
</div>
)}
{err && <p className="text-xs text-red-600 pt-3">{err}</p>}
{!loading && catalog.length === 0 && staleKeys.length === 0 && (
<p className="text-[11px] text-gray-500 pt-3">
30
provider
</p>
)}
{picks.length > 0 && (
<div className="pt-3">
<p className="text-[10px] font-medium text-gray-500 mb-1.5">
</p>
<div className="space-y-1">
{picks.map((key, i) => {
const meta = catalog.find(m => keyOf(m) === key);
const isStale = !meta && staleKeys.includes(key);
return (
<div
key={key}
className={`flex items-center gap-1.5 px-2 py-1 rounded border bg-white ${
isStale ? 'border-amber-200' : 'border-gray-200'
}`}
>
<span className="w-4 text-[10px] text-gray-400 shrink-0">{i + 1}</span>
<span className="text-xs font-mono text-gray-800 truncate">{key}</span>
{isStale && (
<span
className="shrink-0 text-[9px] text-amber-700"
title="平台当前没有上报这个模型,可能已下线"
>
</span>
)}
<div className="flex-1" />
<button
onClick={() => move(key, -1)}
disabled={i === 0}
title="上移"
className="shrink-0 text-gray-400 hover:text-gray-900 disabled:opacity-30 text-xs px-1"
>
</button>
<button
onClick={() => move(key, 1)}
disabled={i === picks.length - 1}
title="下移"
className="shrink-0 text-gray-400 hover:text-gray-900 disabled:opacity-30 text-xs px-1"
>
</button>
<button
onClick={() => toggle(key)}
title="移除"
className="shrink-0 text-gray-400 hover:text-red-600 text-xs px-1"
>
×
</button>
</div>
);
})}
</div>
</div>
)}
{catalog.length > 0 && (
<div>
<p className="text-[10px] font-medium text-gray-500 mb-1.5">
{catalog.length}
</p>
<div className="flex flex-wrap gap-1.5">
{catalog.map(m => {
const key = keyOf(m);
const on = picks.includes(key);
return (
<button
key={key}
onClick={() => toggle(key)}
title={m.display_name || key}
className={`px-2 py-1 text-[11px] font-mono rounded border transition-colors ${
on
? 'bg-blue-50 border-blue-300 text-blue-700'
: 'bg-white border-gray-200 text-gray-600 hover:border-gray-300'
}`}
>
{key}
</button>
);
})}
</div>
</div>
)}
{(catalog.length > 0 || picks.length > 0) && (
<div className="flex items-center gap-2">
{picks.length === 0 && (
<span className="text-[10px] text-gray-400">
=
</span>
)}
<div className="flex-1" />
{dirty && (
<button
onClick={() => setPicks(saved)}
className="text-[11px] text-gray-500 hover:text-gray-900"
>
</button>
)}
<button
onClick={save}
disabled={!dirty || saving}
className="inline-flex items-center gap-1 px-3 py-1 text-[11px] rounded bg-blue-600 text-white hover:bg-blue-700 disabled:opacity-40"
>
{saving ? (
<SpinnerIcon className="w-3 h-3 animate-spin" />
) : (
<CheckIcon className="w-3 h-3" />
)}
</button>
</div>
)}
</div>
)}
</div>
);
}
/** provider/model 拼成一个稳定的键,用于勾选状态与顺序。 */
function keyOf(m: { provider: string; model: string }): string {
return `${m.provider}/${m.model}`;
}
/**
* 键拆回 provider 与 model。
*
* 按**第一个** `/` 切model id 里可能含 `/`(如 `org/model-name`
* 而 provider id 不含。按最后一个切会把 provider 切错。
*/
function parseKey(key: string): ModelRoute {
const i = key.indexOf('/');
if (i < 0) return { provider: key, model: '' };
return { provider: key.slice(0, i), model: key.slice(i + 1) };
}

View File

@ -320,3 +320,13 @@ export function CardViewIcon({ className = 'w-4 h-4' }: P) {
</Svg>
);
}
export function CpuIcon({ className = 'w-4 h-4' }: P) {
return (
<Svg className={className}>
<rect x="4" y="4" width="16" height="16" rx="2" />
<rect x="9" y="9" width="6" height="6" />
<path d="M9 2v2M15 2v2M9 20v2M15 20v2M2 9h2M2 15h2M20 9h2M20 15h2" />
</Svg>
);
}