可拖拽环形表盘,实时显示模型输出速度(tok/s),点击展开每步详情(精确速度、TTFT、缓存命中率、缓存读写、推理/输入 token、模型、累计 token)。
dsh plugin --profile web add github:gbeta/dsh-token-speed
这个插件还没测过。提交测试 →
GitHub · Homepage · npm