dsh-cache-miss
在终端中运行以下命令:
dsh plugin install wefio/dsh-cache-miss
将以下提示词粘贴到 DeepSeek Harness 对话框中:
在 DeepSeek Harness 中安装 dsh-cache-miss 插件,请执行命令 dsh plugin install wefio/dsh-cache-miss。源码地址:https://github.com/wefio/dsh-cache-miss
插件介绍
在多轮对话中,第一次模型调用往往是缓存未命中并触发重新预填充的时机。DSH 原生的统计信息(如输入框下方或产物文件)往往无法在 miss 发生的瞬间提供直观反馈,导致开发者难以实时监控缓存效率。
本插件在助手回复下方即时渲染一条黄色提示,精确展示本次请求的缓存状态。它不仅统计了未命中的输入 token(re-billed)和命中的部分(cached),还提供空闲时长和首 token 时延(TTFT)等关键指标,让“重算量 vs 命中量”一目了然。
这款工具专为需要在 DSH 中精细化控制 LLM 成本、监控缓存命中率或调试长对话性能的开发者与代理构建者设计。
截图预览
使用场景
- 监控长对话中的缓存命中率
- 识别并减少高成本的 Token 重新计算
- 调试模型响应的首 Token 时延
适合人员
- 需要优化 LLM 成本的开发者
- 调试多轮对话性能的代理工程师
- 关注缓存效率的 AI 研究人员