dsh-plugin
在终端中运行以下命令:
dsh plugin install Gpan666/dsh-plugin
将以下提示词粘贴到 DeepSeek Harness 对话框中:
在 DeepSeek Harness 中执行 dsh plugin install Gpan666/dsh-plugin,源码见 https://github.com/Gpan666/dsh-plugin。
插件介绍
接大模型做 Agent 时,某一家的接口限流、掉线或鉴权失效,往往整条对话就卡在当轮里,你只能手动改配置重来。dsh-plugin-model-failover 面向的是「模型整体挂了就该换人上场」:它不会在同一轮 step 里偷偷换模型(那是 DSH agent loop 的架构边界),而是在**下一步或下一条消息**的 pre-step 阶段,把对话切到你事先列好的下一个健康候选。
插件的核心思路是「记账 + 冷却 + 择优」。一旦发生 request-error,它会立刻给当前模型记失败并进入冷却;像鉴权失败、无适配器、缺凭据这类没必要重试的错误,会直接冷到上限。当前模型若仍健康且开启粘滞,就尽量不换,减少文风跳跃,也有利于延续 KV 缓存。后台还会用极小的 1 token 请求做探活,提前发现已经失活的线路。
若你更需要的是同一次调用内的抖动恢复(限流、5xx、超时),应搭配 @deepseek-ai/dsh-llm-retry:那边负责同一模型重发,本插件负责换模型。默认本插件不抢占 retry 预算,先交给下游,用尽后再结束当轮。
适合维护多张 provider/model 候选表、希望 Agent 在单点故障时不至于整会话瘫痪的 DSH 用户;也适合能接受「切换发生在 step 边界」、并愿意用少量探活 token 换取更早发现问题的人。
使用场景
- 主用模型掉线或鉴权失败后,下一条消息自动切到备用模型
- 维护多张 provider/model 候选,避免单点把整段对话卡死
- 与 llm-retry 搭配:同轮重试抖动,跨步再换健康模型
适合人员
- 在 cordis 里配置多模型候选的 DSH 用户
- 希望 Agent 在接口故障时少用手工改配置的运维者
- 能接受 step 边界切换、并愿意用探活换提前感知的进阶用户