dsh-switch-cost
在终端中运行以下命令:
dsh plugin install xyzs996/dsh-switch-cost
将以下提示词粘贴到 DeepSeek Harness 对话框中:
使用 dsh plugin install xyzs996/dsh-switch-cost 安装该插件(源码地址:https://github.com/xyzs996/dsh-switch-cost),即可在当前会话中注册 switch_cost 工具,用于按分时费率计算实际路由花费并对比所有可选路由的成本。
插件介绍
跑完一次推理,你知道花了多少钱,却很难立刻回答一个更实际的问题:同样的流量如果走另一条路由,会贵多少还是便宜多少?dsh-switch-cost 把这个问题变成了一次零参数的工具调用。它读取当前会话已记录的 token 用量,先按实际执行路由的价格算出真实花费,再逐一对照价格表中所有其他路由,给出从最便宜到最贵的完整排序及百分比差异。
核心能力在于对分时费率的精确处理。用量被折叠进以路由和 UTC 小时为键的 token 桶中(输入、缓存读、缓存写、输出四类),供应商按峰谷时段分别计价时,每一小时按对应时段的费率单独计算,而非取查询时点的单一价格。价格表分供应商官方和 models.dev 社区目录两层,供应商数据优先,因为社区目录没有峰谷字段的表达空间。没有价格的路由会标记为 unpriced 并排除在总额之外,绝不会被静默按零计算。
适合多路由成本敏感的团队和独立开发者:你在几条供应商之间轮换、想量化切换成本、或者需要给模型一个即时的跨路由比价依据。插件只读已落盘的用量日志,不发起任何供应商请求,不注入系统提示,对 KV Cache 和上下文长度零影响。
使用场景
- 对比同一会话在不同模型路由下的实际花费差异
- 评估切换到更便宜供应商能节省多少成本
- 量化峰谷时段计价对单次推理费用的影响
适合人员
- 在多家 LLM 供应商之间轮换推理的团队
- 需要为预算审批提供跨路由成本依据的开发者
- 搭建多路由推理平台、需要实时成本可视化的工程师