dsh-design-qa
Design-fidelity QA for text-only models: a `deepseek_vision` tool borrows an eye from any OpenAI-compatible vision route, so the model can judge whether an implementation matches its mock — shipped with the benchmark behind that judgement (four fixtures, 23 injected defects, raw transcripts) and the
Install
dsh plugin --profile web add dsh-design-qa
Sandbox test results
| Stage | Result |
|---|---|
| 1 install | ✗ |
| 2 list | — |
| 3 mount | — |
| 4 boot | — |
dsh: initialized profile web at /home/node/.dsh/profiles/webFour stages run in an isolated sandbox: install (network on) → list → mount → boot (last three with no network).
README
dsh-design-qa



简体中文 | [English](README.en.md)
让 DeepSeek Harness 里的纯文本模型能看图。
做这个是为了在 DSH 上实现产品设计这项能力:从设计稿写出实现、再自己判断实现得像不像、
不像就修 —— 而 DeepSeek 写得了代码却看不见图,判定那一环做不了。本插件通过一个工具把
多模态能力借给它,让它具备执行产品设计功能所需的那只眼睛。
- 任何纯文本模型都能读图。 不只是 DeepSeek —— 你在 DSH 里自己接的那些 OpenAI 兼容端点
同样适用(实测过 OpenRouter 上的 z-ai/glm-5.2)。前提是该模型支持 tool calling:
它得能自己调 deepseek_vision。官方多模态上线那天,本插件自动让位、可原样留着。
- 把识图做成一个 tool。 图片不进主模型上下文;它看到一行
[图片 …]提示,需要时自己调
deepseek_vision。不看就不产生任何成本,问什么由模型自己决定。
- 附 eval 与原始输出。 4 组夹具、23 处注入缺陷、四条通过线 —— 回答的是「借来的这只眼
够不够格当判定闭环里的裁判」,而不是「模型跑没跑通」。能看见 ≠ 可用于判定:看得见但不
主动看、会编、不稳、说不清,四种失效各对应一条通过线。真值四组齐全、有像素级注入断言,
跑分脚本目前接通的是其中 landing 一组;基准那一节每个数字的逐格模型原文都在
哪几项没有原文,也在那里标明。
三步装好
环境要求:一个已经能正常对话的 DSH —— 也就是工作区选好了、主模型的 key 配好了,
随便发一句能收到回复。npm 安装或源码运行都可以,Node ^22.19 || >=24(与 DSH 一致)。
macOS / Linux / Windows 通用,安装脚本是一份 Node 实现。
刚下载 DSH 还没配过的话先把这一步做完 —— 本插件只负责识图那条链路(BAILIAN_API_KEY),
主模型的 key 是 DSH 自己的事。两者分开:主模型不通,粘图也不会有反应。
1. 拿一个百炼 API Key
去 阿里云百炼控制台 开通并创建 API-KEY。
新用户每款模型送 100 万输入 + 100 万输出 Token,有效期 90 天(官方说明)。
本插件一次识图约 2000 输入 + 400 输出 token,免费额度够看几百次图,日常用基本不花钱。
2. 装插件
dsh plugin --profile web add dsh-design-qa
也可以直接从 GitHub 装(拿到的是 main 上最新的,未必等于 npm 上那版):
dsh plugin --profile web add github:sunxin-ai/dsh-design-qa
3. 补配套并重启
cd "${DSH_HOME:-$HOME/.dsh}/profiles/web/node_modules/dsh-design-qa"
export BAILIAN_API_KEY=<第 1 步拿到的 key>
node install.mjs --route-only
node install.mjs --restart # 冷启动。HMR 是关的,刷新浏览器不算
装好了。在对话框里粘一张图,直接问「这是啥」即可。
图片走粘贴或拖拽进对话框 —— DSH 的输入框没有单独的上传按钮,
左下那个 + 是命令菜单不是附件入口,别去找。
也可以直接把图片的绝对路径或 http(s) 地址发给模型,让它自己调 deepseek_vision。
不需要告诉脚本 DSH 装在哪 —— 它从 profile 的 node_modules 自己解析出本体位置,
npm 装的和源码跑的都认。密钥也不经它的手,只写变量名 apiKeyEnv: BAILIAN_API_KEY。
<details>
<summary>第 3 步顺带改了 DSH 本体三处 —— 点开看改了什么、怎么还原</summary>
「在对话框里粘贴图片」这件事插件自己做不到:拦截在 api-proxy 的消息准入里,
而 resolveModelInfo 直接返回适配器自述、没有 waterfall,插件改不了适配器
硬编码的 inputModalities: ['text']。所以只能改本体,三处:
落点 · 改动
dsh-host-apiproxy · 删掉纯文本路由的图片准入拒绝(一个 if 块)
dsh-llm-deepseek · 图片准入处不再抛错,改成把图片块换成一行 [图片 … attachment=<id>] 文字指针;声明了 image 的模型照走原生通路
dsh-llm-pi-ai · 同上 —— 这条覆盖你自己接的所有 OpenAI 兼容纯文本端点
前两处只让 DeepSeek 路由能粘图;第三处才让「任何纯文本模型都能读图」成立。
改动前原文另存为 <原文件名>.dsh-design-qa-orig,一条命令还原:
node install.mjs --revert-patches
完全不想动本体就加 --no-patches。此时粘贴仍会被拒,但**给文件路径、图片 URL
或附件 id 让模型调 deepseek_vision 一样可用** —— 只是多贴一次路径。
细节见 [patches/README.md](patches/README.md)。
</details>
让 DSH 自己装
不想手敲的话,把下面这段整体发给 DSH,它有 bash,会自己跑完:
装 dsh-design-qa,按这五步,不要自己发挥:
1. dsh plugin --profile web add dsh-design-qa
2. cd "${DSH_HOME:-$HOME/.dsh}/profiles/web/node_modules/dsh-design-qa"
3. export BAILIAN_API_KEY=<你的 key> # 用 export,下一条命令也要用到它
4. node install.mjs --route-only
5. node install.mjs --restart # 不要用 pkill,那会杀掉你自己
第 4 步会顺带改 DSH 本体三处(粘贴图片必须的),原文自动备份,
node install.mjs --revert-patches 可一键还原。把第 4 步的完整输出贴回给我。
「不要自己发挥」这句请保留。 三处最容易被自由发挥搞砸:
- 漏掉
--route-only—— 会写进一条与 bundle 重复的插件行,DSH 启动直接抛
duplicate loader entry id,整个 profile 起不来。脚本内置了防护会跳过,但不是所有 agent 都读得懂提示。
- 自己
pkill重启 —— agent 通常就跑在那个要被重启的进程里,杀掉等于自杀,
它拿不到结果也无法确认是否成功。--restart 立即返回,重启在它身后完成。
- 自己编一个 key —— 脚本不代经手密钥,自检会明确报缺少
BAILIAN_API_KEY,它应当回来向你要。
本体补丁没打成会以非零码退出;缺 key、路由没写这类则是自检里的黄色告警(退出码仍为 0)。
所以别只看退出码 —— 让它把输出原样贴回来,看最后那段自检有没有黄字。
DSH 的自修改工具(cordis_define/cordis_run)不能用来做持久安装 ——
那套是内存态的:不产生插件文件、不改 cordis.yml、重启即消失。持久安装必须落到文件,所以走上面这条。
引擎为什么是 Qwen:它通过了基准测试
不是随手挑的。基准规范在 eval/。
下面两组数字来自两批实验、两组夹具,逐格原始输出都在
三模型横评 —— 6 个定向探针 × 4 种送检方式,跑在一组 mobile dashboard 夹具上。
那组夹具随附于 eval/runs/probe-mobile/,
不是 evalset/ 里那 4 组 —— 拿 evalset/ 复现不出这张表:
模型 · 定向探针 · 难档(字重 800 vs 500) · 原始输出
qwen3.8-max · 24/24 · 12/12 方向全对 · 逐格可查
qwen3-vl-plus · 21/24 · 1/4 · ⚠️ 只留下聚合数字
moonshot-v1-128k-vision · 18/24 · 8/15 ≈ 随机 · 逐格可查
零差异对照 —— 把设计稿和它自己配对,报出的任何差异都是幻觉。这是另一批实验,
跑在 evalset/landing 上:qwen3.8-max 6/6 全报一致,0 条幻觉。
横评那组夹具测不出幻觉率(它的 v1 本身就不忠实,模型报的「差异」大多为真),
因此横评表里另外两个模型没有这项数据。
qwen3.8-max 是唯一在难档上稳定的 —— 另外两家在字重方向上等同掷硬币,
而方向错的判断比漏检更危险,它会让修复朝反方向走。
换成别的模型
默认值只是默认值。 插件对模型没有任何硬编码假设,换供应商只改两处:
# 1) $DSH_HOME/settings.yaml —— 加一条你自己的路由
llm-pi-ai:
providers:
my-vision:
api: openai-completions
baseURL: https://your-endpoint/v1
apiKeyEnv: MY_VISION_API_KEY
models:
- id: your-model-id
input: [text, image] # ← 必须有,否则被门禁拒绝
# 2) profile 的 cordis.patch.yml —— 覆盖插件行的 config
- id: design-qa
config:
provider: my-vision
model: your-model-id
注意这里不能写 - insert:。 插件行已经由 bundle 层插好了,再 insert 一条同 id 的
不是覆盖而是并存,DSH 启动时抛 duplicate loader entry id: design-qa。
上面这种「给出 id + 要改的字段」的写法才是按 id 覆盖。
唯一的硬性要求:那个模型必须真的支持多模态输入,且路由声明了 input: [text, image]。
这是「对端点的声明,不是对端点的检查」(上游 JSDoc 原话)——
声明了但端点实际不收图,会在调用时被供应商拒绝,而不是在配置时报错。
换模型后建议用 eval/
重跑一遍基准(只在 GitHub 仓库里,不随包分发),尤其看难档与零差异对照那两项:
能看见 ≠ 可用,一个召回高但幻觉多、或每次结论都漂移的模型会让判定循环发散。
这两项分属两组夹具:难档用 tilebench.py probe,跑 `
…(truncated)
Rendered from the README published on npm. Formatted only, not edited.
Versions
Published on npm::5,最后更新 2026-08-20