DSH Plugins
返回列表
🤖

dsh-plugin-provider-usage

模型推理 更新于 2026.11.12

在终端中运行以下命令:

dsh plugin install thegabopacheco-sudo/dsh-plugin-provider-usage

将以下提示词粘贴到 DeepSeek Harness 对话框中:

在 DeepSeek Harness 中打开 DSH → Settings → Plugins,安装仓库 https://github.com/thegabopacheco-sudo/dsh-plugin-provider-usage(或使用 dsh plugin install),并按提示允许安装脚本。

插件介绍

在多供应商、多模型并行的推理场景里,最难的不是“有没有在跑”,而是搞不清楚每一次会话究竟吃了多少 token、缓存有没有真正省钱、以及首 token 和解码究竟快不快。dsh-plugin-provider-usage 把 DeepSeek Harness 里的用量与性能从黑盒里拎出来,按供应商与模型维度给出可对照的指标,让优化和排障有数可依。

插件会汇总输入、输出与缓存相关的 token,并配合缓存命中率、解码速度与 TTFT(首 token 时间)等信号,支持从全局概览一路下钻到单条会话细节。对外提供 status、sessions、session 三类能力:先看整体状态,再按消耗排序浏览会话,最后在单会话视图里核对具体表现。

默认以只读方式工作,适合日常观测与复盘;需要变更类操作时须显式确认,也可通过环境变量收紧为纯读模式,相关动作会记入审计日志,便于在团队或生产环境中控权留痕。

若你负责模型选型、成本治理、缓存策略调优,或需要向业务方解释“为什么这次变慢/变贵”,这款插件能把你从凭感觉的争论,拉回到可比较的会话级数据上。

使用场景

  • 对比不同供应商/模型在同一会话类型下的 token 消耗
  • 排查 TTFT 或解码变慢时定位到具体会话
  • 评估缓存策略对命中率与成本的影响

适合人员

  • 负责多模型路由与选型的平台工程师
  • 关注推理成本与 token 账单的技术负责人
  • 需要会话级性能数据的 SRE 或运维同学