dsh-llm-ctl
在终端中运行以下命令:
dsh plugin install leaves615/dsh-llm-ctl
将以下提示词粘贴到 DeepSeek Harness 对话框中:
在 DeepSeek Harness 的 web profile 中执行 dsh plugin install leaves615/dsh-llm-ctl 安装本插件;源码仓库为 https://github.com/leaves615/dsh-llm-ctl。
插件介绍
在 DSH web 里同时跑多个 agent、标题生成和后台压缩时,所有 llm/stream 调用会挤向同一批上游提供商。没有排队时,一次 429 往往直接把整轮对话炸掉;模型列表里塞满用不到的 provider 和型号,也会拖慢日常选型。
dsh-llm-ctl 扮演「门卫」:请求在真正打到上游之前,先按 provider 进入严格 FIFO 队列,受 per-provider 并发上限约束;触发限流后整段 provider 进入冷却(优先尊重 Retry-After 或 adapter 给出的等待时间),排队中的任务一起等而不是立刻 429。等待超过预算会明确以 QUEUE_TIMEOUT 失败,队列满则 QUEUE_FULL;输入框上的排队状态可逐条取消。在 agent/request-error 接缝上,它先登记冷却,若已安装 dsh-llm-retry 则透传由对方重试,否则用有界预算做兜底自愈,没装 retry 插件时第一个 429 也不轻易毁掉整轮。
同一套插件还提供 provider 与单模型两级隐藏(持久化在 llm-ctl 配置区)、设置页卡片与模型菜单过滤(可与 dsh-model-search-plugin 共存),以及不经过浏览器密钥通道的上游模型重发现。适合长期在 web profile 里多任务并行、需要可控并发与限流恢复、并希望精简模型菜单的 DSH 用户;不做计费统计、token 级限流,也不改写他人插件的配置命名空间。
使用场景
- 同一提供商上并行多个 agent 或后台任务,希望严格 FIFO 排队而不是互相抢并发
- 频繁遇到 429 或上游短暂不可用,需要整段 provider 冷却且排队请求一起等
- 模型菜单太杂,想按 provider/单模型隐藏并偶尔刷新上游清单
适合人员
- 使用 DSH web profile、多路 llm/stream 并发的日常开发者
- 希望在不单独依赖 retry 插件时也能扛住首轮限流的用户
- 需要精简模型选择界面并管理提供商显示的人