dsh-tool-visual-primitives

为 DeepSeek Harness（DSH） 的纯文本模型补充视觉能力。插件把图片交给外部视觉模型分析，再把带有空间定位信息的纯文本视觉证据交回原对话模型；因此，被增强的模型不需要原生图片输入能力。

核心思路参考 DeepSeek 的 Thinking with Visual Primitives：以归一化坐标和可引用对象，将图像理解转化为后续推理可使用、可检查的证据。

> 已发布至 npm。推荐使用下方的 DSH 官方一键安装命令；GitHub 源码挂载方式保留给开发与本地调试。

1.3.0 更新

• 兼容新版 DSH 宿主（0.1.1-rc.8 及以上）的适配器接口。
• 会话辅助调用（标题生成、上下文压缩）不再触发重复的视觉分析，降低配额消耗与偶发失败。
• 相同图片与提示词的并发分析自动合并为一次上游请求。
• 新增“诊断日志”设置项（默认关闭），可输出插件运行日志便于排查。
• 连接测试改进：使用真实 token 预算，失败时错误信息包含上游返回摘要。
• 安装命令更新为 dsh 直令形式（需已全局安装 DSH）。

1.2.0 更新

• 重构设置页面的信息层级与连接流程：已完成配置时默认折叠，并在展开后提供完整编辑与“保存并测试连接”。
• 改进视觉模型选择、模型目录读取、手动模型 ID、连接状态与错误反馈。
• 优化多轮图片对话：无图片的后续轮次不再重复请求视觉模型；明确引用历史图片时可复用已缓存的视觉证据。
• 为图片内容的接口协议不兼容增加清晰、通用的错误提示。

功能

• 两个入口，共用同一条 vision_analyze 分析核心：显式工具调用与对话中的 [vision] 模型。
• 自动识别 11 类视觉任务：描述、对象清单、多主体、计数、定位、空间关系、比较、路径、拓扑、UI、文档视觉。
• 三档分析细节：brief、standard（默认）、verbose。
• 三种视觉原语策略：auto（默认）、on、off；原语使用 <ref>、<box>、<point>，坐标范围为 0–999。
• 仅为你选定的纯文本模型追加 [vision] 变体；原模型保留，不受影响。
• 会话级视觉证据缓存：追问仅在已有证据覆盖新问题时复用，否则重新读图。
• 原生设置页：安全密钥存储、连接测试、/models 搜索选择、手动模型 ID，以及按供应商折叠选择待增强模型。

工作方式

图片 + 用户问题
      │
      ▼
detectVisionMode() → shouldUsePrimitives() → buildVisionPrompt()
      │
      ▼
外部视觉模型（OpenAI 兼容 Chat Completions）
      │
      ▼
纯文本视觉证据（可含坐标化 primitives）
      │
      ▼
原始文本模型继续回答

Mode 与 Detail 是正交控制：Mode 决定任务，Detail 决定信息密度。Primitives 决定是否强制结构化的空间证据。

前置条件

• 已可运行的 DSH Web Profile。
• Node.js >= 20 与 pnpm。
• 一个可访问的视觉模型服务。默认使用 OpenAI 兼容端点：

- POST <Base URL>/chat/completions - 可选模型目录：GET <Base URL>/models

视觉服务与被增强的文本模型可以来自不同供应商。

安装

npm 一键安装

在 PowerShell 或终端执行（以下 dsh 命令以已全局安装 DSH 为前提，即 npm install -g @deepseek-ai/dsh；未全局安装时，可将 dsh 替换为 npx @deepseek-ai/dsh）：

dsh plugin --profile web add dsh-tool-visual-primitives@latest

该命令调用 DSH 官方插件管理器，在 web Profile 中执行包安装。安装成功后，DSH 会识别本插件包内的 dsh.bundle.patch 声明，自动将插件加入 dsh.profile.bundles，并在启动时应用包内的 cordis.patch.yml。

该过程可重复执行，不会重复添加 bundle；它不会直接修改 Profile 自身的 cordis.patch.yml 或其他插件配置，因此可与 dsh-better-sidebar 等插件共存。

如使用的不是 web Profile，请将 --profile 改为对应的 Profile 名称：

dsh plugin --profile <你的 Profile 名称> add dsh-tool-visual-primitives@latest

安装后完整重启 DSH，并在“设置 → 视觉分析”中填写 API Key、Base URL 和视觉模型。

从 GitHub 源码本地挂载

这是当前已验证的安装方式。如使用其他目录，请同步调整 $source。

$source = 'D:\DSH\dsh-tool-visual-primitives'
git clone https://github.com/InkshadeWoods/dsh-tool-visual-primitives.git $source

Set-Location $source
pnpm install
pnpm run build

dsh plugin --profile web add $source

DSH 官方 CLI 会自动将本地包加入 Profile 依赖，并基于包内的 dsh.bundle.patch 声明维护 dsh.profile.bundles；无需手动编辑 Profile 的 package.json 或 cordis.patch.yml。

完整重启 DSH：

dsh web

首次更新客户端界面时，请在浏览器按 Ctrl+Shift+R 强制刷新。

卸载

如需清除已保存的 API Key，请先在插件设置页点击“清除 API Key”。然后执行 DSH 官方卸载命令：

dsh plugin --profile web remove dsh-tool-visual-primitives

DSH 会移除包依赖，并自动从 dsh.profile.bundles 清除对应 bundle。完成后重启 DSH。

首次配置

打开 DSH 设置 → 视觉分析，按顺序完成：

1. 填写 API Key、Base URL 与视觉模型。 2. 点击 加载模型：插件从 <Base URL>/models 获取可搜索列表。 3. 若服务不提供模型目录，直接填写 自定义模型 ID。 4. 点击 测试连接。 5. 配置分析参数，并在“对话视觉模型”中勾选希望追加 [vision] 的纯文本模型。

已保存的 API Key 不会在重新打开页面时回显；填写新值会覆盖旧值，点击“清除 API Key”才会删除它。

API 与模型目录

分析参数

11 种自动分析模式

优先级最高的关键词决定 Mode；没有匹配时使用 caption。例如“这个界面有几个按钮？”会识别为 ui_analysis，再叠加所选 Detail。

使用方式

方式一：在对话中使用 [vision]

1. 在插件设置的“对话视觉模型”中勾选一个纯文本模型。 2. 重新打开对话模型列表，选择新增的 模型名 [vision]。 3. 上传、粘贴或拖入图片，并直接提出问题。

插件仅将图像块替换为视觉证据文本；最终回答仍由所选的原文本模型生成。

对于明确指向当前会话最近图片的追问，插件会检查缓存证据是否覆盖新的任务、细节与关注对象/位置。覆盖不足时会重新分析图片，而不是把不充分的旧答案当作事实。

方式二：显式调用 vision_analyze

工具接收且只接收一个图片来源：本地绝对路径或 HTTP(S) URL。

{
  "image_path": "D:/images/dashboard.png",
  "prompt": "统计界面上可点击的主要按钮，并标出它们的位置"
}

{
  "url": "https://example.com/chart.png",
  "prompt": "解读图表的趋势，并说明读不清的标签"
}

远程 URL 不允许指向 localhost、私有网络地址或携带用户名/密码；重定向会被拒绝，以降低服务器端请求伪造风险。

视觉证据格式

启用视觉原语时，外部视觉模型会被要求按如下标题返回：

[Mode]
[Visual Primitives]
[Observations]
[Relations]
[Uncertainty]
[Answer]

定位信息示例：

<ref>submit_button</ref><box>[[742, 861, 900, 930]]</box>
<point>[[125, 430], [210, 430], [300, 510]]</point>

所有坐标均为相对 0–999，不是原图像素。

已验证的端到端场景

测试素材和结果均保存在 [test/](test/)。

图片理解结果


UI 复刻过程与结果



这些结果证明的是当前版本的端到端链路；生成效果仍取决于外部视觉模型、文本模型、提示词和图片质量。

开发

pnpm install
pnpm run build

pnpm run build 会生成客户端包 lib/client.js。

• 服务端入口为 index.mjs；修改后需要重启 DSH。
• 修改客户端界面后，需要重新执行构建，并在浏览器中强制刷新页面。

许可证

[MIT](LICENSE)

致谢与参考

• Thinking with Visual Primitives
• DeepSeek Harness
• Provider 桥接设计参考 modlens