DSH Plugins
返回列表
🤖

dsh-model-fallback

模型推理 更新于 2026.11.14

在终端中运行以下命令:

dsh plugin install zznobzz/dsh-model-fallback

将以下提示词粘贴到 DeepSeek Harness 对话框中:

在 DeepSeek Harness 中打开 Plugins → Add plugin,选择 GitHub 源并添加 https://github.com/zznobzz/dsh-model-fallback,或在终端执行安装命令。

插件介绍

DeepSeek Harness 默认只提供一条模型路由和在同一路由上重试的恢复执行器,没有「主路由失败则换另一条模型」的策略。单点上游超时、限流或服务端错误时,你只能反复撞同一扇门,或靠会话里改模型——既不稳定,也打断自动化流程。

dsh-model-fallback 在 llm/stream 扩展点接管请求派发:当受保护的主路由出现符合条件的失败,且满足你设定的阈值与模式时,把同一条已组装好的请求(消息与工具不变)一次性改派到备用路由。故障窗口内持续走备用路由,到期后再探测主路由;会话里保存的模型选择不会被改写,切换纯粹发生在 Host 的 LLM 接缝层。

配置集中在插件自身的 Configure 卡片(以及 Settings → Models 底部同一表单):可开关、选触发模式与失败码、连续失败次数、探测间隔、是否在已有输出后仍切换,以及主备路由 id。策略写入 profile patch,保存即生效,无需重启。

适合已经向 Harness 注册多条模型路由、希望在不改 Agent 会话模型的前提下做弹性容灾的团队与个人;也适合需要按失败类型(如限流、超时、空响应)精细控制何时切备的场景。

使用场景

  • 主模型限流或超时时自动切到备用路由
  • 上游服务错误后保持 Agent 会话模型不变
  • 需按失败类型控制何时切换备用模型

适合人员

  • 已注册多条模型路由的 Harness 用户
  • 追求推理高可用而不改会话配置的团队
  • 需要可配置故障切换策略的运维与开发者