mirror of
https://gitcode.com/JianFeeeee/ModelRouter.git
synced 2026-09-20 08:57:57 +00:00
84 lines
2.8 KiB
YAML
84 lines
2.8 KiB
YAML
# llmsproxy — 统一 OpenAI 兼容网关配置
|
||
|
||
# 网关监听地址(默认 :8080,建议绑内网/回环)
|
||
listen: 127.0.0.1:8080
|
||
|
||
# 网关自身鉴权密钥。现在为「多密钥」架构:此项仅作为初始 admin 密钥种子,
|
||
# 首次启动写入运行时存储(runtime_file 的 keys 字段,加密存储)。之后请在
|
||
# WebUI「密钥」页创建、删除密钥并配置其模型范围。留空 = 首启无 admin 密钥。
|
||
# 注意:首次启动后应立即在 WebUI 更换管理员密钥,并删除本初始种子——它明文
|
||
# 写在配置文件里,存在被窃取风险。
|
||
gateway_keys:
|
||
- sk-gw-local-0001
|
||
|
||
# 默认模型选择:具体模型 id 或 AUTO(AUTO 走优先级页保存的 AUTO 链)
|
||
default_model: AUTO
|
||
|
||
# Lua 适配器目录(默认 adapters/,首次启动自动写入内置适配器)
|
||
adapter_dir: adapters
|
||
|
||
# 运行时持久化文件(WebUI 新增/编辑的源会写入此文件,重启后仍生效)
|
||
runtime_file: runtime.json
|
||
|
||
# 可选 HTTPS:提供 PEM 证书与私钥文件路径后以 HTTPS 提供服务;留空 = 纯 HTTP。
|
||
# tls_cert_file: /etc/llmsproxy/tls/fullchain.pem
|
||
# tls_key_file: /etc/llmsproxy/tls/privkey.pem
|
||
|
||
# 可选:对外暴露的 base URL,用于“连接配置”复制片段中的 url。
|
||
# 留空默认根据请求自动推断(http/https + Host)。内网/反代后建议显式配置。
|
||
# public_base_url: https://gw.example.com/v1
|
||
|
||
# 全局并发上限(0 = 不限)
|
||
max_concurrent: 0
|
||
|
||
# ---- 上游 LLM 源列表 ----
|
||
# 每个源对应一个 Lua 适配器(adapter);同一个适配器可被多个源复用。
|
||
sources:
|
||
- name: deepseek
|
||
base_url: https://api.deepseek.com
|
||
api_key: sk-your-deepseek-key # 或用 api_key_env: SOME_ENV 引用环境变量
|
||
adapter: deepseek
|
||
max_concurrent: 8
|
||
models:
|
||
- id: deepseek-v4-flash
|
||
priority: 100 # YAML 源首次启动 seed 进 AUTO 链的初值
|
||
kind: chat
|
||
- id: deepseek-reasoner
|
||
priority: 60
|
||
kind: chat
|
||
meta: { thinking: true }
|
||
|
||
- name: ollama
|
||
base_url: http://127.0.0.1:11434
|
||
api_key: ""
|
||
adapter: ollama
|
||
endpoint: /api/chat
|
||
models:
|
||
- id: llama3
|
||
priority: 50
|
||
kind: chat
|
||
|
||
# 演示:KimiCode 校验调用方 app,通过 Lua build_headers 钩子做签名
|
||
- name: kimicode
|
||
base_url: https://api.moonshot.cn
|
||
api_key: sk-your-kimi-key
|
||
adapter: kimicode
|
||
models:
|
||
- id: kimi-k2
|
||
priority: 90
|
||
kind: chat
|
||
meta:
|
||
app_id: your-app-id
|
||
app_secret: your-app-secret
|
||
app_agent: code-agent
|
||
api_key: sk-your-kimi-key
|
||
|
||
# 生图示例:OpenAI 兼容生图源(flux/dall-e 等)
|
||
- name: imagegen
|
||
base_url: https://api.example.com
|
||
api_key: sk-image
|
||
adapter: openai
|
||
models:
|
||
- id: flux-1
|
||
priority: 80
|
||
kind: image |