ModelRouter

jianf/ModelRouter

Fork 0

mirror of https://gitcode.com/JianFeeeee/ModelRouter.git synced 2026-10-03 23:54:06 +00:00

Commit Graph

Author	SHA1	Message	Date
JianFeeeee	7082ffb723	fix(packaging): 去掉重复的加固块，并同步线上单元的确切内容上一版把线上单元拷进来后又追加了一份英文注释的加固指令，导致 NoNewPrivileges / ProtectSystem / SystemCallFilter 等在同一个 unit 里出现两次。systemd 对重复指令取最后一个，行为上不会坏，但文件本身是错的（读的人会以为有两套加固），且 packaged 与 deployed 不再一致。现在 packaged/llmsproxy.service 与线上 /etc/systemd/system/llmsproxy.service 逐字节相同，每条指令只出现一次。	2026-10-01 20:59:34 +08:00
JianFeeeee	5e723b5aa5	feat(packaging): systemd unit 加固（逐条实测，非照抄模板）原单元只有内存调优两行环境变量，加固项一个都没有，且以 root 运行。补上一组经验证的加固指令。关键决定：仍然以 root 运行。本服务要读 master.key（0600 root）。实测加 User=llmsproxy 直接起不来，且失败方式隐蔽—— [config] secrets disabled: open /etc/llmsproxy/master.key: permission denied 只是一行日志，服务会带着「敏感值以明文落盘」继续跑。也就是说在当前文件权限下降权不是加固而是把密钥降级。要降权得先把 key 交给服务用户、统一 /etc/llmsproxy 属主，那是独立的、需要回滚预案的变更，不混进来。每条指令都在一个独立探针单元（临时端口 + 独立 runtime_file/adapter_dir，拷了真实适配器）上验证过： - 鉴权 401/200 正常； - 一次真实 /v1/chat/completions 走通（证明 SystemCallFilter=@system-service 没打断 LuaJIT 适配器的 JIT 代码路径——这是最容易被 seccomp 搞坏的地方）； - 审计文件可写可轮转（ReadWritePaths=/etc/llmsproxy 够用）； - 连续重启 3 次都 active + http 200，kill -9 行为符合预期。 systemd 对非法指令值不报错只「忽略」，所以逐条实测是唯一可靠做法。读路径全在 /etc/llmsproxy；运行时写入经核对只有 config.yaml / runtime.json / .audit.jsonl / adapters/.lua / master.key，全在该目录下，故 ProtectSystem=strict + ReadWritePaths=/etc/llmsproxy 即可。CapabilityBoundingSet 置空（本服务不需要任何 capability，留空比写允许清单更难出错）。已部署到线上 /etc/systemd/system/llmsproxy.service（原单元已备份为 .bak-*）， restart 后服务 active、监听 8081、WebUI 可达、审计继续写入；本仓库的 packaging/llmsproxy.service 与线上一致（去掉了部署机特有的 RSS 实测数字）。	2026-10-01 20:58:23 +08:00
JianFeeeee	ed05cccb72	feat(packaging): core distribution packages (deb + rpm + tar.gz) via nfpm Previously only the Electron GUI had installers; server admins had to build the core by hand (`make build` -> bare binary). This adds a first-class server distribution: - `make core-dist` -> packaging/core-dist.sh -> cmd/build/dist/ llmsproxy_<ver>_amd64.deb (systemd unit + adapters + example config) llmsproxy-<ver>.x86_64.rpm llmsproxy-<ver>-linux-amd64.tar.gz - nfpm config (packaging/nfpm.yaml): binary to /usr/bin, systemd unit with the measured memory tuning (GOGC=50, MALLOC_ARENA_MAX=2) baked in, Lua adapters to /usr/share/llmsproxy/adapters, repo's config.yaml as the example. - postinst seeds /etc/llmsproxy/config.yaml on first install and keeps existing runtime state across reinstalls; prerm stops the service on removal. Gotchas handled: nfpm v2 here does not render `{{ .Env.VERSION }}`, so the script stamps the version into a throwaway config copy; and under `set -o pipefail` the idiom `strings \| grep -q` is broken (grep -q closes the pipe and strings dies on SIGPIPE -> spurious 141), so the symbol sanity-gate stages strings in a temp file. README (zh/en) updated: memory figures replaced with production-measured 32-35 MB settled (was 37-42), and the packaging docs now describe core-dist and the dockerized Windows build.	2026-08-30 10:49:25 +08:00

Author

SHA1

Message

Date

JianFeeeee

7082ffb723

fix(packaging): 去掉重复的加固块，并同步线上单元的确切内容

上一版把线上单元拷进来后又追加了一份英文注释的加固指令，导致
NoNewPrivileges / ProtectSystem / SystemCallFilter 等在同一个 unit 里
出现两次。systemd 对重复指令取最后一个，行为上不会坏，但文件本身是错的
（读的人会以为有两套加固），且 packaged 与 deployed 不再一致。

现在 packaged/llmsproxy.service 与线上 /etc/systemd/system/llmsproxy.service
逐字节相同，每条指令只出现一次。

2026-10-01 20:59:34 +08:00

JianFeeeee

5e723b5aa5

feat(packaging): systemd unit 加固（逐条实测，非照抄模板）

原单元只有内存调优两行环境变量，加固项一个都没有，且以 root 运行。补上
一组经验证的加固指令。

关键决定：**仍然以 root 运行**。本服务要读 master.key（0600 root）。实测加
User=llmsproxy 直接起不来，且失败方式隐蔽——
  [config] secrets disabled: open /etc/llmsproxy/master.key: permission denied
只是一行日志，服务会带着「敏感值以明文落盘」继续跑。也就是说在当前文件
权限下降权不是加固而是把密钥降级。要降权得先把 key 交给服务用户、统一
/etc/llmsproxy 属主，那是独立的、需要回滚预案的变更，不混进来。

每条指令都在一个独立探针单元（临时端口 + 独立 runtime_file/adapter_dir，
拷了真实适配器）上验证过：
  - 鉴权 401/200 正常；
  - 一次真实 /v1/chat/completions 走通（证明 SystemCallFilter=@system-service
    没打断 LuaJIT 适配器的 JIT 代码路径——这是最容易被 seccomp 搞坏的地方）；
  - 审计文件可写可轮转（ReadWritePaths=/etc/llmsproxy 够用）；
  - 连续重启 3 次都 active + http 200，kill -9 行为符合预期。
systemd 对非法指令值不报错只「忽略」，所以逐条实测是唯一可靠做法。

读路径全在 /etc/llmsproxy；运行时写入经核对只有 config.yaml / runtime.json /
*.audit.jsonl / adapters/*.lua / master.key，全在该目录下，故 ProtectSystem=strict
+ ReadWritePaths=/etc/llmsproxy 即可。CapabilityBoundingSet 置空（本服务不需要
任何 capability，留空比写允许清单更难出错）。

已部署到线上 /etc/systemd/system/llmsproxy.service（原单元已备份为 .bak-*），
restart 后服务 active、监听 8081、WebUI 可达、审计继续写入；本仓库的
packaging/llmsproxy.service 与线上一致（去掉了部署机特有的 RSS 实测数字）。

2026-10-01 20:58:23 +08:00

JianFeeeee

ed05cccb72

feat(packaging): core distribution packages (deb + rpm + tar.gz) via nfpm

Previously only the Electron GUI had installers; server admins had to build the
core by hand (`make build` -> bare binary). This adds a first-class server
distribution:

- `make core-dist` -> packaging/core-dist.sh -> cmd/build/dist/
    llmsproxy_<ver>_amd64.deb        (systemd unit + adapters + example config)
    llmsproxy-<ver>.x86_64.rpm
    llmsproxy-<ver>-linux-amd64.tar.gz
- nfpm config (packaging/nfpm.yaml): binary to /usr/bin, systemd unit with the
  measured memory tuning (GOGC=50, MALLOC_ARENA_MAX=2) baked in, Lua adapters to
  /usr/share/llmsproxy/adapters, repo's config.yaml as the example.
- postinst seeds /etc/llmsproxy/config.yaml on first install and keeps existing
  runtime state across reinstalls; prerm stops the service on removal.

Gotchas handled: nfpm v2 here does not render `{{ .Env.VERSION }}`, so the script
stamps the version into a throwaway config copy; and under `set -o pipefail` the
idiom `strings | grep -q` is broken (grep -q closes the pipe and strings dies on
SIGPIPE -> spurious 141), so the symbol sanity-gate stages strings in a temp file.

README (zh/en) updated: memory figures replaced with production-measured
32-35 MB settled (was 37-42), and the packaging docs now describe core-dist and
the dockerized Windows build.

2026-08-30 10:49:25 +08:00

3 Commits