DSH Plugins
返回列表
🤖

dsh-llm-resilience

模型推理 更新于 2026.11.16

在终端中运行以下命令:

dsh plugin install T-splines/dsh-llm-resilience

将以下提示词粘贴到 DeepSeek Harness 对话框中:

在 DeepSeek Harness 中执行安装命令,或从源码仓库 https://github.com/T-splines/dsh-llm-resilience 按 README 完成配置与启用。

插件介绍

DeepSeek Harness 自带的 retryPolicy 只能在同一个 provider 上退避重试,既不能换模型,也没有熔断。真实网关里一次工具调用流损坏、连接抖动,或把会员/额度问题伪装成普通 500,都可能让整步 agent 直接失败——作者在 OpenDesign Go 上就曾把它从「几乎不能用」拉到「日常可用」,而这类故障并不只属于某一个网关。

本插件注册一条合成的 fallback 路由(默认模型 auto),在内部按链依次调用真实的 provider/model。每个 target 拥有独立的重试预算、可调退避(含 1.5 倍率)与按错误类型决策:额度类错误立刻 fallback,瞬时 500/超时则重试;流式输出对文本立即透传,工具调用则缓冲到 block-end 再交付,损坏时可安全重试;已对外可见的内容交付后失败,则配合宿主整步重放,从下一 target 轮转续跑。另有按 provider+model 持久化的熔断、全局时间与尝试上限,以及设置页管理整条链路与实时熔断状态。

适合在 DSH 上跑 agent、背后接多条 LLM 网关或中转、且偶发流式/工具调用不稳定的人。它与 @deepseek-ai/dsh-llm-retry 分工明确:后者管 step 级重试,本插件管 provider 选择与请求级韧性;不替代核心执行器,也不重试工具执行本身的失败。

使用场景

  • 主网关间歇性断流或损坏工具调用流
  • 会员/额度错误被当成普通 500 需要换 provider
  • 单 provider 宕机后希望自动走备用模型

适合人员

  • 在 DSH 上长期跑 agent 的开发者
  • 配置多条 LLM 网关或中转的生产环境
  • 遇到过 MALFORMED_RESPONSE 或网关抖动的团队