dsh-llm-auto
在终端中运行以下命令:
dsh plugin install liuyun847/dsh-llm-auto
将以下提示词粘贴到 DeepSeek Harness 对话框中:
在 DeepSeek Harness 中执行 dsh plugin install liuyun847/dsh-llm-auto 安装本插件,源码见 https://github.com/liuyun847/dsh-llm-auto。
插件介绍
如果你手里有多条模型订阅,却不想在对话里来回换模型,dsh-llm-auto 想做的就是把它们收成模型选择器里的一个 Auto 入口。对上层来说它就是一个普通模型;背后则按你配置的回退链依次尝试不同的 provider 与 model,某条路由失败时会先按与官方一致的重试策略在原地重试,耗尽后才静默切到下一条,从而把「多路订阅」合并成一条稳定可用的推理通道。
插件页提供可编辑的回退链:拖拽排序、从 live 目录换模型、逐条控制 keepThinking 与 breakToolLoop,保存后写入 profile 并免重启生效;下半部分还能看到最近请求真实的回退轨迹。自动模式下还可按订阅额度与重置时刻重排尝试顺序,额度耗尽时冷却到对应重置点(并支持落盘与手动解除),避免反复撞墙;需要完全按配置顺序、仅在失败时切换时,可把 ordering.mode 设为 manual。
你还可以用 compactWindow 把自动压缩点钉在期望的 token 规模附近:对外声明的上下文窗口由该值反算,便于与 DSH 压缩引擎对齐。推理档位在 0.10.0 起提供 Default 与 max 两档,分别交给宿主默认或逐跳取路由可达的最高档。
适合同时维护多家 API、按量与包月混用、又希望会话里始终选「auto」的用户:既要 failover,又希望在额度窗口内自动避让与观测实际走了哪条路。
使用场景
- 多家 API 订阅想在对话里只选 Auto,失败时自动换路
- 包月与按量混用,希望额度打满后自动冷却、到点再试
- 需要看清最近请求实际走了哪条路由、改了哪些回退顺序
适合人员
- 同时维护多条 provider 订阅的 DSH 日常用户
- 希望减少手动换模型、又要可控重试与切换的开发者
- 在意额度窗口与压缩点、需要面板观测与调参的人