DSH Plugins
返回列表
🖥️

dsh-live-perf-gauges

客户端 更新于 2026.09.05

在终端中运行以下命令:

dsh plugin install TnzGit/dsh-live-perf-gauges

将以下提示词粘贴到 DeepSeek Harness 对话框中:

在 DeepSeek Harness 中执行 dsh plugin install TnzGit/dsh-live-perf-gauges 安装该插件(源码地址:https://github.com/TnzGit/dsh-live-perf-gauges),安装后重启 web 服务并强制刷新浏览器即可使用。

插件介绍

当 DeepSeek Harness Web 上文本逐字流出时,你看到字符出现却缺乏对底层推理的直观感知。dsh-live-perf-gauges 在输入框下方嵌入一条汽车仪表盘风格的实时性能条,让你一眼读懂推理节奏、快速定位瓶颈。

它实时追踪五个维度:解码 tok/s(每 250 ms 刷新,优先采用适配器暴露的 provider 累计用量)、TTFT(从步骤开始到首个流式文本、推理或工具参数增量到达的耗时)、逻辑提示速率(input + cache read + cache write 除以端到端 TTFT,刻意不标注为 vLLM prefill throughput 因为包含 DSH 开销、网络与排队时间)、流事件诊断(每秒 delta 事件数与每事件生成 token 数,使 MTP / 投机解码接受率可见)、输出 token 进度。所有指标仅从会话事件流中已有的时间戳、计数和最终 token 用量投影得出;插件不发起任何网络请求,也不存储消息文本、提示词、工具或凭据。

如果你在使用 DSH 0.1.x Web profile,关注推理延迟、投机解码效率,或希望在调整提示结构时获得量化反馈,性能条即装即用:重启 web 服务、强制刷新浏览器,下一次模型步骤开始时仪表盘即自动出现,无需任何构建步骤。

使用场景

  • 调优 prompt 结构时实时观察 TTFT 与逻辑提示速率变化
  • 验证 MTP / 投机解码接受率是否真正生效
  • 排查流式输出卡顿,区分网络排队与推理计算瓶颈

适合人员

  • 关注推理延迟与吞吐量的 DeepSeek Harness 日常用户
  • 使用投机解码或 MTP 并需要量化验收指标的推理工程师
  • 在 DSH 0.1.x Web profile 下调优前端体验的开发者