DSH Plugins
返回列表
dsh-cachescope

dsh-cachescope

模型推理 更新于 2026.08.30

在终端中运行以下命令:

dsh plugin install kober-basket/dsh-cachescope

将以下提示词粘贴到 DeepSeek Harness 对话框中:

在 DeepSeek Harness 中执行 dsh plugin install kober-basket/dsh-cachescope 即可安装,插件源码托管于 https://github.com/kober-basket/dsh-cachescope 。

插件介绍

每次 LLM 调用返回的 usage 字段里只有零散的 token 数字——Cache Read、Cache Write、Prompt、Output——但这些数字孤悬在日志中,回答不了"这次调用到底命中了多少缓存""未缓存部分为什么比上一轮多了"这类关键问题。CacheScope 把 provider 报告的缓存指标与 DSH 侧相邻两次逻辑输入的差异并置,让你在本地面板上一眼看清缓存命中行为与输入漂移。

桌面面板记录 llm/stream 调用尝试,展示 token 加权 Cache Read 比例、未缓存桶变化的算术对账(ΔPrompt − ΔCache Read − ΔCache Write)、带颜色标注的输入树(稳定前缀、首个本地差异、下游区域、无基线区域),以及 TTFT、总时长、重试次数等元数据,并支持按 Session、provider、model、用途等维度筛选与排序。插件不修改模型请求、不注册模型可见工具,所有数据仅驻留 DSH 进程内存,进程停止即消失。

适合在 DSH 中频繁调整 System Prompt、工具列表或消息历史的开发者与 Prompt 工程师,想低成本排查缓存命中率下降原因、估算 token 成本、以及为 provider 反馈构建可复现证据的技术人员。无需额外部署,WebServer 绑定到回环地址后打开本地面板即可使用。

截图预览

使用场景

  • 排查 System Prompt 或工具列表调整后缓存命中率下降的原因
  • 对比相邻两次调用的输入差异,定位未缓存 token 增量的具体来源
  • 本地估算单次调用的 token 成本与 TTFT 表现

适合人员

  • 频繁迭代 Prompt、工具 Schema 或消息历史的开发者
  • 需要向 provider 反馈缓存问题并附可复现证据的工程师
  • 关注 token 成本与推理延迟的 Prompt 工程师