dsh-llm-autorouter

English

DeepSeek Harness 的 AutoRouter LLM 适配器。AutoRouter 是模型路由网关，统一对接多种上游渠道，支持 OpenAI 兼容、Anthropic、Gemini 等主流协议，并在网关内完成路由、渠道 failover、计费与可观测性。

安装本插件后，Harness 的所有模型调用都会经由你的 AutoRouter 部署转发，而不是直连各厂商 API。插件在 ctx.llm 上注册一条 provider 路由（默认 autorouter）；先通过“获取模型”与“导入选中模型”把网关提供的模型导入进来，再在 agent 中使用这些导入后的 model id。

已在 DeepSeek Harness 0.1.0-rc.5 上测试通过。Harness 仍为 Developer Preview，后续版本可能不兼容。

环境要求

AutoRouter API 密钥（在 AutoRouter 控制台生成）。
可用的 DeepSeek Harness 环境。

安装

可按你的 Harness 使用方式选择安装方法。

直接安装（npm，推荐）

如果你是通过 npm 直接使用 DeepSeek Harness：

npx @deepseek-ai/dsh plugin --profile web add dsh-llm-autorouter

直接安装（git）

如果你希望直接从 git 仓库安装插件：

npx @deepseek-ai/dsh plugin --profile web add github:autorouter0-ai/dsh-llm-autorouter

git 安装会拉取源码并执行 prepare 构建。若首次失败，按命令输出的 allowBuilds 提示操作即可。

源码安装

如果你正在本地开发此插件，先构建插件包，再安装到 Web profile：

pnpm install
pnpm build
pnpm pack    # 生成 dsh-llm-autorouter-0.1.0.tgz

npx @deepseek-ai/dsh plugin --profile web add ./dsh-llm-autorouter-0.1.0.tgz

配置

插件包含 Host 与浏览器两个入口，但只需安装一次：Host 侧提供 LLM 适配器、settings 命名空间与模型发现；浏览器侧在 Web Plugins 页面提供 AutoRouter 配置卡片。

Web 界面（推荐）

安装后打开 Plugins 中的 AutoRouter 卡片，填写网关地址 https://api.autorouter.top 与 API Key（从 AutoRouter 控制台生成）。Key 仅通过 credentials 服务存储（默认 AUTOROUTER_API_KEY），不会写入 settings.yaml 或返回浏览器。

使用 获取模型 与 导入选中模型 填充 models 白名单，供聊天模型选择器读取。

无界面 / CLI profile

无界面 profile 只加载 Host 入口。在启动环境中设置 AUTOROUTER_API_KEY，或通过 credentials 服务写入密钥。

配置项

安装 bundle 后若未额外配置，则使用 schema 默认值。可在 profile 的 cordis.patch.yml 或 --patch overlay 中覆盖任意字段：

字段	默认值	含义
`baseURL`	`$AUTOROUTER_BASE_URL` → `https://api.autorouter.top`	网关地址，不要带尾部斜杠。
`apiKeyEnv`	`AUTOROUTER_API_KEY`	每次请求通过 credentials 服务解析的凭据引用。
`providers`	`['autorouter']`	本适配器注册的 provider 路由。
`thinking`	（中性）	`'enabled'` / `'disabled'`。中性时不发送，由上游自行决定。
`reasoningEffort`	（中性）	`'off'` / `'low'` / `'high'` / `'max'`。设置后会写入未显式指定的请求。
`defaultContextWindow`	`128000`	选中模型无精确值时使用的上下文容量。
`models`	`[]`	已保存的聊天模型白名单（`{ id, name?, description?, contextWindow?, maxTokens?, inputModalities? }`）。
`streamIdleTimeoutMs`	`300000`	单次流式读取的最大空闲时间。
`discoveryTimeoutMs`	`10000`	模型列表请求的网络超时。
`retryPolicy`	正常默认值	provider 侧请求重试策略。

cordis.patch.yml 示例：

- insert:
    - id: llm-autorouter
      name: dsh-llm-autorouter
      config:
        baseURL: https://api.autorouter.top
        apiKeyEnv: AUTOROUTER_API_KEY
        thinking: enabled
        reasoningEffort: high
        models:
          - id: deepseek-v4-flash
            contextWindow: 1000000

本地 overlay 可用环境变量覆盖：

AUTOROUTER_BASE_URL — 网关地址
AUTOROUTER_API_KEY_ENV — 凭据环境变量名

使用

在 agent 中指定 autorouter provider：

- id: agent-loop
  name: '@deepseek-ai/dsh-agent-loop'
  config:
    agents:
      - id: main
        provider: autorouter
        model: deepseek-v4-flash   # 网关已路由的任意模型 id

思考模式（Thinking）

默认中性：未配置 thinking / reasoningEffort 时，请求中不会携带这些字段，各上游渠道保持自身默认行为。AutoRouter 会按渠道转发请求体（含从模型名后缀推断的 DeepSeek-V4 thinking 参数）。

设置 reasoningEffort: high 等，可在每次请求中启用思考并指定强度。
设置 thinking: disabled 可强制关闭思考。
DeepSeek 系渠道返回的 reasoning_content 会以 reasoning 块流式回传。

模型发现

聊天选择器只展示已保存的 models 白名单，不会主动探测网关。Web 卡片的 获取模型 使用你的 token 向网关拉取最多 1000 个候选，并按能力分组。导入选中模型 将所选 id 及其 modalities、token 上限写入白名单。网关升级后如需新字段，请重新导入。发现失败时不改变已有目录。

已知限制

模型发现失败时静默回退，配置错误通常在首次聊天请求时才暴露。
图片输入需要 Host attachment 服务（Web profile 已包含），且模型需支持图片。

开发

pnpm install
pnpm typecheck
pnpm build

本地 Host 调试（无需安装 bundle）：

pnpm build
pnpm dev:overlay          # 生成 dev-cordis.local.yml
pnpm dsh web --patch ./dev-cordis.local.yml

@deepseek-ai/* 对等依赖需从 deepseek-harness 仓库链接：

DSH_HARNESS_DIR=/path/to/deepseek-harness pnpm dev:link-peers
pnpm build && pnpm smoke

许可证

MIT。部分代码改编自 @deepseek-ai/dsh-llm-deepseek（MIT，deepseek-harness）。

来源信息

安装

检查来源文件