DSH Plugins
返回列表
dsh-cache-miss

dsh-cache-miss

记忆 更新于 2026.08.25

在终端中运行以下命令:

dsh plugin install wefio/dsh-cache-miss

将以下提示词粘贴到 DeepSeek Harness 对话框中:

在 DeepSeek Harness 中安装 dsh-cache-miss 插件,请执行命令 dsh plugin install wefio/dsh-cache-miss。源码地址:https://github.com/wefio/dsh-cache-miss

插件介绍

在多轮对话中,第一次模型调用往往是缓存未命中并触发重新预填充的时机。DSH 原生的统计信息(如输入框下方或产物文件)往往无法在 miss 发生的瞬间提供直观反馈,导致开发者难以实时监控缓存效率。

本插件在助手回复下方即时渲染一条黄色提示,精确展示本次请求的缓存状态。它不仅统计了未命中的输入 token(re-billed)和命中的部分(cached),还提供空闲时长和首 token 时延(TTFT)等关键指标,让“重算量 vs 命中量”一目了然。

这款工具专为需要在 DSH 中精细化控制 LLM 成本、监控缓存命中率或调试长对话性能的开发者与代理构建者设计。

截图预览

使用场景

  • 监控长对话中的缓存命中率
  • 识别并减少高成本的 Token 重新计算
  • 调试模型响应的首 Token 时延

适合人员

  • 需要优化 LLM 成本的开发者
  • 调试多轮对话性能的代理工程师
  • 关注缓存效率的 AI 研究人员