dsh-model-pro · 模型 Pro
 
面向 DeepSeek Harness (DSH) 的动态 Cordis 插件,在设置页新增一个「模型 Pro」入口,为 llm-pi-ai 提供商提供全生命周期管理 UI:新建 / 编辑 / 删除、启用 / 禁用、拉取远端模型、连通性测试、智能路由、组合提供商、观测与探活——并在卸载时保证模型数据零丢失。
> 中文文档 · 界面内置中英双语(跟随 DSH 语言设置自动切换)。
---
✨ 功能特性(Features)
提供商管理
- 提供商 CRUD — 新建(引导式 3 步向导)、编辑、删除,卡片式列表带状态色条(绿=启用 / 琥珀=禁用)。
- 启用 / 禁用 — 一键切换。禁用的提供商会移入
disabledProviders,从模型选择器中隐藏,但配置完整保留。 - 字段编辑 — 逐项编辑
baseURL、api协议、apiKeyEnv、displayName(概览页附「就绪检查」清单)。 - 自定义请求头 — 按提供商增删改 HTTP 请求头(
authorization/api-key由适配器自动填充,无需手填)。
密钥与凭据
- 加密存储 — 在 GUI 中直接粘贴 API Key,以 AES-256-GCM 加密写入配置(配置文件只存密文),同时写入 DSH 凭据服务供请求时解析。
- 按需解密查看 — 默认掩码显示,点「显示已存」可解密查看;加密主密钥存于凭据服务且永不重新生成,卸载重装后旧密文仍可解密。
模型
- 远端模型发现 — 一键
GET /models拉取,支持全选 / 取消全选 / 反选。 - 批量写入模型 — 将选中模型「替换」或「合并」进提供商的显式模型列表。
- 本地转发名映射 — 为某个模型设置「转发名」,选它时实际向 provider 发送映射后的模型名。
连通性测试
- 真实连通性测试 —「测试」页对选定模型发起一次极小的真实推理,走完整凭据 / 请求头 / 协议链路,返回延迟、停止原因与回复内容,用来在依赖之前确认模型确实可用。
智能路由与组合
- 智能路由 — 命名路由(如
auto)聚合多个 provider 的模型,支持 5 种策略:priority(顺序优先+回退)/weighted(按权重随机)/round-robin(平滑加权轮询)/min-latency(历史低延迟优先)/sticky(会话粘滞)。可设每目标权重、启用开关、healthAware、会话粘滞、maxFallbacks、单目标超时。在模型选择器里选「router / 路由名」即用。 - 无感切换(真实回退) — 首选目标不可达时自动换下一个目标:回退判定基于「首个内容块是否真正产出」,连接拒绝、HTTP 错误、空响应、超时(
timeoutMs)都会在任何内容到达对话之前完成切换,对话无感知、不中断;调用方主动中止永不重试。回退成功的请求在观测台标记为fallback。 - 组合提供商 — 把多个 provider 的模型合并成一个虚拟 provider,支持并集 / 交集两种模式(模型选择器中显示为
composite / 组合名::模型);交集非常适合同款模型多上游互备。
观测与健康
- 探活(Probe) — 对每个目标(
provider + model)发起真实最小请求,标记 up / down / probing 与连续失败次数;健康感知分发会自动跳过 down 的目标(可按路由关闭)。 - 观测台 — 会话内请求日志(路由 → 目标、延迟、token)与聚合统计(按路由 / 按目标:调用次数、成功率、平均延迟、token 合计),以统计卡与表格呈现。
- 对话提供商徽章(可开关) — 开启后,每个回合完成时会在其下方显示智能路由 / 组合实际选中并服务该回合的目标(
provider/model),发生自动切换时标注「已无感切换」;在「智能路由 → 观测台」用「对话下方显示实际提供商」开关控制,偏好持久化保存。
卸载安全(零数据丢失)
- 卸载不丢数据 — 当本插件被卸载或禁用时,会自动把
disabledProviders中的每个提供商原样还原回providers,避免模型配置滞留在只有本插件认识的外来键中。详见下文[工作原理](#-工作原理)。
---
📸 截图(Screenshots)
> 截图文件放在 [docs/screenshots/](docs/screenshots) 目录下。首次使用请自行截图后替换以下占位图。
| 页面 | 说明 |
|---|---|
|  | 仪表盘:全部 / 已启用 / 已禁用分段(带计数)、引导式 3 步新建向导、状态色条卡片 |
|  | 编辑器:概览(字段 + 就绪检查)/ 请求头 / 模型 / 测试 四个标签页 |
|  | 模型发现:拉取远端模型,支持全选 / 反选与批量写入 |
|  | 连通性测试:对单个模型跑真实推理,显示延迟与回复 |
|  | 智能路由:路由台 / 组合提供商 / 观测台 / 探活 四个子页 |
---
📦 安装教程(Installation)
> DSH 的插件管理命令会转发给 pnpm,并要求用 --profile <name> 指定目标 Profile(Web GUI 通常是 web)。
方式一:从 npm 安装(推荐,预构建、无需构建脚本)
dsh plugin --profile web add npm:dsh-model-pro> 务必带 npm: 前缀。 registry 上的包已预置 dist/,安装时不会触发构建脚本。 > 若省略前缀写成 add dsh-model-pro,pnpm 可能把它解析为 git 源,进而执行 prepare > 构建脚本,被 pnpm 10 的安全策略拦截并报 > ERR_PNPM_GIT_DEP_PREPARE_NOT_ALLOWED。
方式二:从 GitHub 源安装(需允许构建脚本)
git 源不含预构建的 dist/,安装时靠 prepare 现场构建。pnpm 10 默认禁止 git 依赖 执行构建脚本,因此需先在 ~/.dsh/profiles/web/pnpm-workspace.yaml 的 allowBuilds 下加入 dsh-model-pro: true,再执行:
dsh plugin --profile web add wqy8593521/dsh-model-pro安装后重新打开(或刷新)DSH Web GUI,左侧「设置」中即出现「模型 Pro」入口。
方式三:从源码构建
git clone https://github.com/wqy8593521/dsh-model-pro.git
cd dsh-model-pro
npm install
npm run build # 输出 dist/host.js + dist/client.js
npm test # 运行冒烟测试(可选)方式四:本地开发联调(软链安装,不发版)
在插件仓库根目录一键把本工作区软链进 Profile(等价于 dsh plugin --profile web add link:<本目录>,不拷贝、不触发 prepare 构建脚本,不受 pnpm 10 allowBuilds 限制):
npm run install:local # 构建 + 软链安装到 ~/.dsh/profiles/web
npm run install:local -- --profile dev # 指定其他 Profile
npm run install:local -- --no-build # dist 已是最新时跳过构建之后的迭代循环:改代码 → npm run build → 重启 dsh / 刷新 Web GUI。回退 registry 版本:
dsh plugin --profile web remove dsh-model-pro && dsh plugin --profile web add npm:dsh-model-pro> 本插件以静态 bundle 形态分发(Host 半为 ESM apply 导出,Client 半为 > window.__ModuleLoader__.load 工厂),必须通过 dsh plugin add 安装; > 它不提供旧版动态插件(cordis_define / cordis_run)的加载形态。
---
🗑️ 卸载教程(Uninstall)
dsh plugin --profile web remove dsh-model-pro卸载是安全的:插件在卸载 / 禁用时会执行 fiber 清理钩子,把 disabledProviders 里的每个提供商(模型、请求头、凭据全部保留)还原回 providers。因此不会有任何提供商或模型配置丢失。加密 API Key 的主密钥存放在 DSH 凭据服务中、与插件解耦,卸载不会删除它——重装后旧密文仍可正常解密。
> 若只想临时停用而保留定义,用禁用而非卸载即可;两者都会触发同样的还原逻辑。
---
🚀 使用教程(Quick Start)
1. 新建提供商 — 进入「模型 Pro」,点右上角「新增提供商」,按 3 步向导填写: - 1 · 命名:route(作为模型 ID 前缀,创建后不建议改)+ 可选显示名。 - 2 · 连接:选协议(OpenAI 兼容 / OpenAI Responses / Anthropic Messages)+ 填 Base URL。 - 3 · 凭据:填 API Key 环境变量名,或直接粘贴密钥(加密保存)。 - 完成后可「创建并测试」或「创建并配置」。 2. 拉取模型 — 进入「模型」标签页,点「获取远端模型」,勾选需要的模型,选「替换为选中」或「合并选中」写入。 3. 连通性测试 — 「测试」标签页选一个模型,点「运行测试」,查看延迟、停止原因与真实回复,确认可用。 4. 智能路由(可选)— 在「智能路由 → 路由台」新建命名路由,加入多个目标、选策略、设权重;在模型选择器里选「router / 路由名」使用,失败自动回退。 5. 组合提供商(可选)— 「组合提供商」页选 2 个以上 provider,选并集 / 交集合并其能力;选择器里以「composite / 组合名::模型」使用。 6. 探活与观测(可选)— 「探活」页对目标发起真实探测更新健康状态;「观测台」查看调用统计与请求日志。
---
🔍 工作原理
禁用 & 卸载还原
禁用会把提供商配置从 llm-pi-ai.providers 移入 llm-pi-ai.disabledProviders。由于 llm-pi-ai 适配器只解析 providers 字典,被禁用的提供商会从模型选择器中消失;schemastery 的非严格对象解析器会在设置校验中保留这个未知键。
因为 disabledProviders 是 schema 外来键,Host 半在 fiber 清理时(插件被卸载或禁用)执行禁用操作的逆运算:把每个被禁用的提供商连同完整档案还原回 providers。启用中的提供商不受影响。
密钥加密
提供商 API Key 存于两处:权威副本在 DSH credentials 服务(llm-pi-ai 请求时解析);静态快照为 profile.apiKeyEnc 下的 AES-256-GCM 密文。随机 AES 主密钥仅生成一次并存入凭据服务,永不重新生成,保证重装后旧密文仍可解密。沙箱缺少 WebCrypto 时回退到打包的纯 JS @noble/ciphers。
连通性测试
「测试」调用 test-provider handler:经 llm.listModels 解析一个已发布模型,llm.prepareCall 用提供商存储的凭据 / 请求头 / 协议准备调用,流式跑一次极小补全,返回延迟、停止原因与回复。默认 30 秒超时;禁用或未配置的提供商会在任何 I/O 前带指引拒绝。
跨 realm 安全
Host 半用 makeHostPlain() 以 Object.create(null)(无原型)递归重建对象,确保跨 vm 沙箱 realm 边界通过 dsh-settings 的 isPlainObject 校验。
构建系统
TypeScript 源码经 esbuild(scripts/build.mjs)产出两个静态 bundle: dist/host.js 为 ESM(导出 apply / name / inject,DSH 加载器直接 import),框架 包(@deepseek-ai/*)保持 external、由 Profile 运行时解析;dist/client.js 为包在 window.__ModuleLoader__.load({ id, factory }) 工厂里的 CJS,react 由 DSH 客户端 模块系统提供。Host↔Client RPC 走 Typert Remote 服务(契约见 src/shared/contract.ts)。
| 文件 | 说明 |
|---|---|
dist/host.js | Host 侧包:modelPro Typert Remote 服务 + 路由/组合/健康/观测 |
dist/client.js | Client 侧包:设置页 UI(__ModuleLoader__ 工厂) |
cordis.patch.yml | dsh plugin add 使用的 Cordis 组合补丁 |
package.json | 含 dsh.bundle 清单的 npm 包元数据 |
---
🗂️ 项目结构
src/
├── shared/
│ ├── constants.ts # NS、PROTOS、EDITABLE_FIELDS、路由/组合/观测键
│ ├── types.ts # 共享 TypeScript 接口
│ ├── contract.ts # Typert 契约:INVOCATIONS + TYPERT_MANIFEST(23 方法)
│ └── externals.d.ts # 框架 peer 包的 ambient 类型(tsc 用)
├── host/
│ ├── index.ts # apply(ctx) — Typert 注册 + 路由/组合/健康/观测装配
│ ├── service.ts # ModelProRuntime extends TypertRemoteService
│ ├── utils.ts # makeHostPlain、readProviders、writeSection
│ ├── crypto.ts # AES-256-GCM 密钥加解密(凭据服务主密钥)
│ ├── lifecycle.ts # fiber 清理钩子 — 卸载时还原禁用提供商
│ ├── router.ts # 智能路由分发引擎(router / composite 适配器)
│ ├── composite.ts # 组合提供商(并集 / 交集)解析
│ ├── health.ts # 目标健康追踪(探活)
│ ├── statsStore.ts # 会话内请求日志 + 统计
│ ├── streamRewrite.ts # 本地转发名映射
│ └── handlers/ # 每个业务 handler 一个文件
│ ├── list.ts / get.ts / create.ts / delete.ts
│ ├── toggle.ts / updateField.ts / updateHeaders.ts
│ ├── updateKey.ts / applyModels.ts / discover.ts / test.ts
│ ├── routes.ts / composites.ts / observability.ts
├── client/
│ ├── index.tsx # apply(ctx) — remote $mount + settings.section Slot
│ ├── i18n.ts # ZH / EN 字典
│ ├── styles.ts # CSS 字符串
│ ├── labels.ts / rpc.ts / react.ts
│ └── components/
│ ├── ModelProPage.tsx # 仪表盘(分段 + 新建 + 卡片)
│ ├── ProviderCard.tsx # 状态色条卡片
│ ├── CreateForm.tsx # 引导式 3 步向导
│ ├── ProviderEditor.tsx # 标签页编辑器
│ ├── OverviewPanel.tsx / HeadersPanel.tsx / ModelsPanel.tsx
│ ├── TestPanel.tsx / RoutesPanel.tsx
tests/ # host + client 冒烟测试
dist/ # 构建输出(gitignored,随 npm 包发布)
scripts/
├── build.mjs # esbuild:host ESM + client __ModuleLoader__ 工厂
└── release.mjs # 一键发版:bump + CHANGELOG + tag + push
tsconfig.json · package.json---
📝 更新日志
见 [CHANGELOG.md](CHANGELOG.md)。
🔗 友情链接
- Linux.do — 真诚、友好、团结的 Linux 与开发者社区。
License
[MIT](LICENSE)