中文EN

github:gbeta/dsh-token-speed

uigit

可拖拽环形表盘,实时显示模型输出速度(tok/s),点击展开每步详情(精确速度、TTFT、缓存命中率、缓存读写、推理/输入 token、模型、累计 token)。

下载量 / Downloads
0

安装

dsh plugin --profile web add github:gbeta/dsh-token-speed

沙箱测试

这个插件还没测过。提交测试 →

链接

GitHub · Homepage · npm

同类插件