refactor(scheduler)!: 移除 priority 废弃字段 + 一通道一源 + discover 复用凭据

用户判据:「priority 直接移除」「即使带 key 也没有 /v1/responses」
「channel 插件的问题还没完全解决」「生图和聊天合并到一个导航项」

## 一、删除 priority(它从未参与跨源调度)

`config.Model.Priority` 号称"高者优先参与 AUTO 选源",**那是错的**:
AUTO 链由 `config.ModelScope.Tier` 驱动(scheduler.Chain),priority 只被
`bestChatModel/bestImageModel` 用于"本源内部该发哪个模型",与跨源调度无关。
把它当调度依据会让人以为拖个数字就能改顺序,改完毫无效果。

- 删 `config.Model.Priority` 字段与 `bestChatModel/bestImageModel` 的优先级比较
- 删 `seedAuto()`:**AUTO 链为空时网关应直接 503**,不能凭空播种用户没配过的档位
- 删 UI `buildLanes` 的 discovery 回退(按源 priority 自动铺开)与 sourceRows
- 清掉 config.yaml 里 140 行 priority

## 二、一通道 = 一个适配器 = 一个源(channels 插件)

旧设计「一账号一源」(`channels-<平台>-<12位hex>`) 有三个结构性后果:
1. 三个账号 ⇒ 三个源、三份同名模型,用户看到三行无法区分的东西
2. 谁先谁后**取决于注册顺序,不是余额**(rankAccounts 只用于展示,从未接进同步路径)
3. 换号要改源名 ⇒ 用户书签里的 `源:模型` 全部失效

新设计:
- 源名只跟通道绑定:`channels-<平台>`,换号 = 同名 add_source 覆盖 api_key
  (内核 AddSource 是 UpsertSourceInYAML + 内存替换),对客户端完全透明
- `pickAccountForSource()`:凭据可用 → 余额分档(先快作废后永久)→
  跳过已标记失效的号。没有 balance 声明的平台不据此排除(不因"不会查"判死)
- `request_end` 钩子:真实请求失败且是**终态**错误(需充值/封禁/凭据永久失效)
  时给当前账号打 termErr,下次选号跳过;成功则清标记。
  ⚠️ 只认终态 —— 429/超时/抖动都**不**标记(那会把好号一个个废掉)
- `refresh_creds` 每 30 分钟巡检后重新选号(兜底心跳,纯本地判定)
- 迁移:同步时自动清掉旧版按账号拆的源(按已知平台前缀匹配,不用贪婪 match)
- 顺带修:`refresh_creds` 漏认 `refresh_fn` ⇒ codearts 的 DPoP 续期永不触发

## 三、discover 支持用已存凭据(真实缺口)

刷新已有源的模型目录,此前必须让运维**再粘一次明文 key** —— 而库里是
`enc:v1:` 密文,WebUI 也不回显明文。结果就是"想刷新 → 得重新申请 key",
很多人干脆不刷,源的目录越放越旧(实例:某源 3 个生图模型从未登记)。

- `{"name":"oin"}` ⇒ 从已存源取 base_url + 解密凭据 + adapter
- 安全边界:已要求 admin;只能探测**本网关已配置的**源(不能拿任意 URL+key
  做探测,那就成了 SSRF/密钥外带);响应不回显 key

## 四、image_models 显式声明(补元数据缺失)

`discoveredModelKind` 只看上游 modality 字段,并刻意**不从模型名推断**
(错误的 kind 会毒死 AUTO 链)。但有些网关的 /v1/models 只返回
`{id,object,created,owned_by}` —— 零 modality,于是生图模型全落成 chat,
生图端点永远 `no image source configured`。

不解这个两难:默认仍完全按元数据(不猜),但允许 `image_models` **显式声明**。
写错的 id 明确报 400,不静默造一个不存在的模型。

## 五、UI:对话与生图合并为一个导航项

两者本是同一件事的两种输入(都选模型、都发请求、都读结果),只是 kind 与端点
不同。合并只发生在**导航层**:模型下拉仍按 kind 分组/禁选(把图片模型选进 chat
会请求到错误端点)。两个面板同时存在于 DOM,切换只改 display —— 来回切不会丢
已输入的文字、对话历史或已生成的图。

## 测试

- `TestUI_ImageModeIsReachableFromChatTab`:改为钉"合并后仍可达"(分段控件、
  切换函数、面板容器、端点),并断言**旧 tab 三件套必须消失**(否则 goTab 会找
  一个不存在的面板)
- 测试夹具显式建 AUTO 链(内核不再 seedAuto):默认一源一 tier 倒序
  (TestChatAUTO 验优先级);TestChatAutoChainTierFailover 自己覆盖成同 tier
  (验 tier 内轮转)—— 两者验不同机制,不能共用一个默认
- core 的一批断言从"按账号 id 找源"改为"按平台名找源"

gateway/config/provider 全绿;core 的 channels 用例全绿。
TestRealMutants 需工作树干净后才跑(其自带的变异残留防护)。

BREAKING CHANGE: config.Model.Priority 已删除。旧的 priority 字段会被 YAML
解码静默忽略(内核不校验未知字段),因此既有 config.yaml 仍可加载,但该字段
不再有任何作用 —— 调度顺序请通过 AUTO 链的 tier 表达。

(cherry picked from commit 25970a2135)
This commit is contained in:
JianFeeeee
2026-10-19 16:26:59 +08:00
committed by root
parent efc9b37965
commit ff7051d608
30 changed files with 830 additions and 346 deletions

View File

@ -435,6 +435,8 @@
/* ---- scratch-style priority canvas (sakura restyle, same classes) ---- */
.kind-toggle{display:inline-flex;gap:4px;margin-right:8px}
/* 对话/生图的分段栏:贴着内容顶部,不额外占标题位 */
.chat-mode-bar{display:flex;align-items:center;gap:8px;padding:6px 0 10px}
.kind-toggle button{padding:4px 12px;font-size:11.5px}
.sort-canvas{position:relative;min-height:420px;padding:22px 14px 30px;margin:4px 0 10px;background-color:var(--card2);
background-image:linear-gradient(var(--line-strong) 1px,transparent 1px),linear-gradient(90deg,var(--line-strong) 1px,transparent 1px);
@ -589,21 +591,6 @@
/></svg
><span data-i="navChat">对话</span>
</button>
<button class="sb-i" data-tab="image">
<svg
viewBox="0 0 24 24"
fill="none"
stroke="currentColor"
stroke-width="2"
stroke-linecap="round"
stroke-linejoin="round"
>
<path d="M3 5h18v14H3z" />
<path d="m3 15 5-5 4 4 3-3 6 6" />
<circle cx="8.5" cy="8.5" r="1.5" />
></svg
><span data-i="navImage">生图</span>
</button>
<button class="sb-i" data-tab="keys">
<svg
viewBox="0 0 24 24"
@ -822,7 +809,6 @@
<main id="main">
<div id="tab-status" class="tab-pane"></div>
<div id="tab-chat" class="tab-pane hidden"></div>
<div id="tab-image" class="tab-pane hidden"></div>
<div id="tab-keys" class="tab-pane hidden"></div>
<div id="tab-sort" class="tab-pane hidden"></div>
<div id="tab-sources" class="tab-pane hidden"></div>
@ -1589,7 +1575,10 @@
// keep in sync, and adding a tab meant finding all three. A plugin page
// that is routed but never shown is exactly the kind of silent gap that
// survives review.
const TABS = ["status", "chat", "image", "keys", "sort", "sources", "adapters", "plugins"];
// ★ 没有 "image":生图已合并进 chat 页,作为分段控件的一种模式。
// 删掉这一项就会让 goTab("image") 抛($("#tab-image") 为 null),
// 故 tab-image 面板也一并移除,二者必须同步。
const TABS = ["status", "chat", "keys", "sort", "sources", "adapters", "plugins"];
// Declared HERE, with var, because goTab() below reads it. It used to be a
// `const` further down the file next to the other plugin state, which put
// goTab's read inside the temporal dead zone: the first click on a plugin
@ -2837,6 +2826,34 @@ recsState.keyNames = keyNames || {};
/* ---------- chat tab ---------- */
let chatHistory = [];
let chatImages = [];
// switchChatMode:在「对话」与「生图」两个面板之间切换。
//
// 两个面板都在 DOM 里同时存在(生图面板由 renderImage 填内容),切换只改
// display —— 这样来回切换不会丢掉已输入的文字、已有的对话历史或已生成的图。
// 重渲染会把这些全部清空,那正是最容易让人骂人的地方。
//
// 生图面板**首次进入才渲染**:它的 renderImage 要拉 /api/status 并在没有
// 生图模型时显示占位文案,没必要在用户只看对话时白跑一次。
window.chatState = window.chatState || { mode: "chat" };
function switchChatMode(mode) {
const st = window.chatState;
if (st.mode === mode) return;
st.mode = mode;
const chatPane = $("#ct-chat-pane");
const imgPane = $("#ct-image-pane");
if (chatPane) chatPane.style.display = mode === "chat" ? "" : "none";
if (imgPane) imgPane.style.display = mode === "image" ? "" : "none";
// 分段按钮的选中态
document.querySelectorAll("#tab-chat .chat-mode-bar .kind-toggle button").forEach((b) => {
const isOn = (b.getAttribute("onclick") || "").indexOf("'" + mode + "'") >= 0;
b.className = (isOn ? "" : "ghost") + " small";
});
if (mode === "image" && imgPane && !imgPane.dataset.rendered) {
imgPane.dataset.rendered = "1";
renderImage();
}
}
async function renderChat() {
const s = await api("/api/status");
// Prefer per-source options ("source:model" routing) when the caller sees
@ -2857,23 +2874,42 @@ async function renderChat() {
else optList.push(html);
};
if (Array.isArray(s.sources) && s.sources.length) {
optList.push(`<option value="AUTO">AUTO</option>`);
s.sources.forEach((src) => {
// Prefer the kind-carrying list; fall back to the flat one.
const kinds = Array.isArray(src.model_kinds) && src.model_kinds.length
? src.model_kinds
: (src.models || []).map((m) => ({ id: m, kind: "chat" }));
kinds.forEach((m) => {
const id = typeof m === "string" ? m : m.id;
addModel(
`${src.name}:${id}`,
`${src.name} · ${id}`,
typeof m === "string" ? "chat" : m.kind,
);
if (Array.isArray(s.sources) && s.sources.length) {
optList.push(`<option value="AUTO">AUTO</option>`);
/*
* ★ 模型下拉只显示**模型名**,跨源合并同名模型。
*
* 为什么不再显示 `源名 · 模型名`:
* 内核本身就支持同名模型(一个模型名由多个源提供时,调度器按健康状况
* 自动选择并回退)。把源名摆到标签里反而在**逼用户做调度器的活**:
* 同一个 glm-5.2 有 6 个源,下拉框里就是 6 行无法区分的选项,而用户
* 其实只需要“用 glm-5.2”这一个意图。
*
* 那 `源:模型` 形式还留着吗?留 —— 但只在**用户主动**想要钉到某个源时
* 才需要(`provider` 字段里仍可写 `channels-codearts:glm-5.2`)。
* 下拉框是日常入口,日常入口就该是最短的那个名字。
*
* 去重按**精确模型名**(大小写敏感):`GLM-5.3` 与 `glm-5.3` 上游视为两个
* 不同模型,我们不能自作主张合并 —— 那会悄悄改写用户请求的 model。
* 大小写归一化应由平台目录层做(见 channels 插件),UI 不越权。
*/
const seenModel = new Set();
s.sources.forEach((src) => {
// Prefer the kind-carrying list; fall back to the flat one.
const kinds = Array.isArray(src.model_kinds) && src.model_kinds.length
? src.model_kinds
: (src.models || []).map((m) => ({ id: m, kind: "chat" }));
kinds.forEach((m) => {
const id = typeof m === "string" ? m : m.id;
const kind = typeof m === "string" ? "chat" : m.kind;
// 同名模型只出一个选项(不管它由几个源提供)
const dedupKey = kind + "\u0000" + id;
if (seenModel.has(dedupKey)) return;
seenModel.add(dedupKey);
addModel(id, id, kind);
});
});
});
} else {
} else {
optList.push(`<option value="AUTO">AUTO</option>`);
(s.models || []).forEach((m) => {
addModel(m, m, "chat");
@ -2896,9 +2932,24 @@ async function renderChat() {
(imgOpts.length
? `<optgroup label="${escAttr(t("cImageModels"))}">${imgHtml()}</optgroup>`
: "");
$("#tab-chat").innerHTML = `
// ★ 对话与生图合并为**同一导航项**下的两种模式(分段控件切换)。
//
// 两者本是同一件事的两种输入:都选模型、都发一次请求、都读回结果,只是
// 模型 kind 与端点不同。放在两个侧栏项里,用户切换要跨导航;而"我想用
// 这个模型"其实是一个意图。合并只发生在**导航层** —— 模型下拉仍按 kind
// 分组/禁选(见 imgHtml),把图片模型选进 chat 仍会请求到错误端点。
const chatMode = (window.chatState && window.chatState.mode) || "chat";
$("#tab-chat").innerHTML = `
<div class="tab-chat">
<div class="chat-wrap">
<div class="chat-mode-bar">
<div class="kind-toggle">
<button class="${chatMode === "chat" ? "" : "ghost"} small" onclick="switchChatMode('chat')">${esc(t("kChat") || "对话")}</button>
<button class="${chatMode === "image" ? "" : "ghost"} small" onclick="switchChatMode('image')">${esc(t("kImage") || "生图")}</button>
</div>
<span class="grow"></span>
</div>
<div id="ct-image-pane" style="${chatMode === "image" ? "" : "display:none"}"></div>
<div class="chat-wrap" id="ct-chat-pane" style="${chatMode === "chat" ? "" : "display:none"}">
<div class="chat-log" id="ct-log">
<div class="chat-empty" id="ct-empty">
<div class="ring">M</div>
@ -2960,6 +3011,8 @@ async function renderChat() {
const s = await api("/api/status");
const opts = [];
if (Array.isArray(s.sources) && s.sources.length) {
// 同 chat 下拉:只显示模型名,同名模型只出一行(内核自己会跨源回退)。
const seenImg = new Set();
s.sources.forEach((src) => {
const kinds = Array.isArray(src.model_kinds) && src.model_kinds.length
? src.model_kinds
@ -2968,16 +3021,17 @@ async function renderChat() {
const id = typeof m === "string" ? m : m.id;
const kind = typeof m === "string" ? "chat" : m.kind;
if (kind !== "image") return;
opts.push(
`<option value="${escAttr(`${src.name}:${id}`)}">${esc(`${src.name} · ${id}`)}</option>`,
);
if (seenImg.has(id)) return;
seenImg.add(id);
opts.push(`<option value="${escAttr(id)}">${esc(id)}</option>`);
});
});
}
const body = opts.length
? ""
: `<div class="empty">${esc(t("imgNoModels"))}</div>`;
$("#tab-image").innerHTML = `
// 渲染到对话页里的生图面板(不是独立 tab)
$("#ct-image-pane").innerHTML = `
<div class="tab-image">
<div class="img-wrap">
<div class="img-grid" id="it-grid">
@ -3413,7 +3467,7 @@ async function renderChat() {
// Editing: the single-source shape. Creating: an empty form.
const s = name
? src.source
: { name: "", models: [{ id: "", priority: 0, kind: "chat" }] };
: { name: "", models: [{ id: "", kind: "chat" }] };
if (!s) {
toast(t("toastSave"));
return;
@ -3473,7 +3527,7 @@ async function renderChat() {
const box = $("#s-models");
(s.models && s.models.length
? s.models
: [{ id: "", priority: 0, kind: "chat" }]
: [{ id: "", kind: "chat" }]
).forEach((m, i) =>
box.insertAdjacentHTML("beforeend", modelRow(m, i)),
);
@ -3481,7 +3535,7 @@ async function renderChat() {
.catch(() => {});
}
function modelRow(m, i) {
return `<div class="model-row" data-priority="${m.priority || 0}">
return `<div class="model-row">
<input data-mi="${i}" class="m-id" placeholder="model-id" value="${escAttr(m.id)}">
<select data-mi="${i}" class="m-kind"><option ${m.kind === "image" ? "" : "selected"} value="chat">chat</option><option ${m.kind === "image" ? "selected" : ""} value="image">image</option></select>
<button class="ghost del small" onclick="this.closest('.model-row').remove()">&times;</button>
@ -3506,7 +3560,7 @@ async function renderChat() {
const div = $("#s-models");
div.insertAdjacentHTML(
"beforeend",
modelRow({ id: "", priority: 0, kind: "chat" }, div.children.length),
modelRow({ id: "", kind: "chat" }, div.children.length),
);
}
// srcDiscover asks the gateway to probe the upstream for its catalog and
@ -3574,8 +3628,7 @@ async function renderChat() {
modelRow(
{
id: id,
priority: image.indexOf(id) >= 0 ? 70 : 50,
kind: image.indexOf(id) >= 0 ? "image" : "chat",
kind: image.indexOf(id) >= 0 ? "image" : "chat",
},
i,
),
@ -3603,8 +3656,7 @@ async function renderChat() {
const models = [...document.querySelectorAll("#s-models .model-row")]
.map((row) => ({
id: row.querySelector(".m-id").value.trim(),
priority: parseInt(row.dataset.priority) || 0,
kind: row.querySelector(".m-kind").value,
kind: row.querySelector(".m-kind").value,
}))
.filter((m) => m.id);
let meta = {};
@ -3659,8 +3711,7 @@ async function renderChat() {
const models = [...document.querySelectorAll("#s-models .model-row")]
.map((row) => ({
id: row.querySelector(".m-id").value.trim(),
priority: parseInt(row.dataset.priority) || 0,
kind: row.querySelector(".m-kind").value,
kind: row.querySelector(".m-kind").value,
}))
.filter((m) => m.id);
let meta = {};
@ -3774,7 +3825,7 @@ async function renderChat() {
box.innerHTML = "";
(tpl.models && tpl.models.length
? tpl.models
: [{ id: "", priority: 0, kind: "chat" }]
: [{ id: "", kind: "chat" }]
).forEach((m, i) =>
box.insertAdjacentHTML("beforeend", modelRow(m, i)),
);
@ -3837,7 +3888,7 @@ async function renderChat() {
const tlist = tplsR.templates || [];
const s = tlist.find((x) => x.name === name) || {
name: name,
models: [{ id: "", priority: 0, kind: "chat" }],
models: [{ id: "", kind: "chat" }],
};
const cur = s.adapter || "openai";
const apps = ["", ...(st.adapters || []).map((a) => a.name)];
@ -3886,7 +3937,7 @@ async function renderChat() {
const box = $("#s-models");
(s.models && s.models.length
? s.models
: [{ id: "", priority: 0, kind: "chat" }]
: [{ id: "", kind: "chat" }]
).forEach((m, i) =>
box.insertAdjacentHTML("beforeend", modelRow(m, i)),
);
@ -3984,24 +4035,23 @@ async function renderChat() {
function buildSortIndex(sources) {
const byModel = new Map();
const byPair = new Map();
const sourceRows = new Map();
(sources || []).forEach((s) =>
(s.models || []).forEach((m) => {
const it = { src: s.name, id: m.id, prio: m.priority || 0, kind: m.kind };
// `prio` 不再携带 models[].priority(该字段已删除);
// kind 供画布区分聊天/生图。
const it = { src: s.name, id: m.id, kind: m.kind };
byPair.set(m.id + "|" + s.name, it);
if (!byModel.has(m.id)) byModel.set(m.id, it);
if (!sourceRows.has(it.prio)) sourceRows.set(it.prio, []);
sourceRows.get(it.prio).push({ src: s.name, id: m.id });
}),
);
return { byModel, byPair, sourceRows };
return { byModel, byPair };
}
// buildLanes compiles saved rules into the tier-lane structure the canvas
// paints. With no rules it falls back to discovery, grouped by source
// priority, so an unconfigured chain still shows every available slot.
// Shared by the global editor and the per-key editor.
function buildLanes(idx, rules, kind) {
const { byModel, byPair, sourceRows } = idx;
const { byModel, byPair } = idx;
if (rules.length) {
const tiers = [];
rules.forEach((r, i) => {
@ -4026,23 +4076,6 @@ async function renderChat() {
.filter(Boolean)
.map((models, i) => ({ prio: (tiers.length - i) * 10, models }));
}
return [...sourceRows.entries()]
.sort((a, b) => b[0] - a[0])
.map(([prio, models]) => {
const same = models.filter((m) => {
const it = byPair.get(m.id + "|" + m.src);
const k = it ? it.kind : "chat";
return k === kind;
});
if (!same.length) return null;
same.sort((x, y) => (x.src < y.src ? -1 : x.src > y.src ? 1 : 0));
same.forEach((m) => {
m.uid = nexUid();
m.meta = null;
});
return { prio, models: same };
})
.filter(Boolean);
}
async function renderSort() {
const j = await api("/api/v1/sources");
@ -4060,9 +4093,8 @@ async function renderChat() {
);
} catch (e) {}
const sortIdx = buildSortIndex(j.sources);
// build a lane structure for one kind from its saved rules; when
// rules are empty, fall back to discovery from sourceRows filtered by
// kind so an unconfigured chain still shows all available slots
// 按**已保存的规则**编译两种链的画布;无规则时画布为空(不回退 discovery,
// 因为网关在 AUTO 链为空时直接 503,画布必须如实反映"没配")。
sortLanes.chat = buildLanes(sortIdx, autoR, "chat");
sortLanes.image = buildLanes(sortIdx, autoImg, "image");
sortState.lanes = sortLanes[sortState.kind] || [];
@ -6267,7 +6299,6 @@ toast(t("kAutoChainGlobal"));
const done = () => remountPluginElements();
if (tab === "status") return renderStatus().then(done, done);
if (tab === "chat") return renderChat().then(done, done);
if (tab === "image") return renderImage().then(done, done);
if (tab === "keys") return renderKeys().then(done, done);
if (tab === "sort") return renderSort().then(done, done);
if (tab === "sources") return renderSources().then(done, done);