dsh-model-fallback
在终端中运行以下命令:
dsh plugin install CarlCN2003/dsh-model-fallback
将以下提示词粘贴到 DeepSeek Harness 对话框中:
在 DeepSeek Harness 中执行 dsh plugin install CarlCN2003/dsh-model-fallback,或在插件市场搜索并安装,源码见 https://github.com/CarlCN2003/dsh-model-fallback。
插件介绍
在模型推理链路里,限流、计费、区域限制或上游抖动往往会让单次对话突然中断;备模切换若处理粗糙,还可能把半段「思考」流当成有效输出。Smart Model Fallback 面向 DeepSeek Harness,用可配置的主模型与有序后备链,在失败时按策略自动改道,而不是让人工盯日志、手改配置。
插件把跨厂商差异收敛进一条可运营的故障转移路径:推理档位可在不同方言间就近映射或安全省略;八类错误触发策略区分限流重置、用户中止等边界;指数冷却与按轮、冷却到期、会话粘滞等恢复范围,避免坏路由被反复打满。流式场景下,若主路在可见正文或工具调用产出前失败,预提交缓冲会被丢弃并透明切到下一跳。
设置面板集中在「Model Fallback」:主备节点、触发器、恢复与冷却都可调,并支持路由测试与遥测演练。适合在多 Provider、多模型混用的 DSH 环境里,希望主备路由可观测、可演练、一键落盘并同步会话的开发者与运维者。
截图预览
使用场景
- 主模型限流或上游报错时自动切到有序后备模型。
- 跨 Provider 混用时统一主备推理档位与 token 参数。
- 流式对话在主路未完成可见输出前失败时无感重试下一跳。
适合人员
- 在 DSH 中配置多模型、多 Provider 的开发者。
- 需要可观测、可演练主备切换的运维或平台同学。
- 希望减少手工改模型配置、提升对话稳定性的团队。