🤖

dsh-llm-rate-limit

模型推理更新于 2026.08.20

在终端中运行以下命令：

dsh plugin install Asong6824/dsh-llm-rate-limit

将以下提示词粘贴到 DeepSeek Harness 对话框中：

在 DeepSeek Harness 终端中执行 dsh plugin install Asong6824/dsh-llm-rate-limit 即可安装来自 https://github.com/Asong6824/dsh-llm-rate-limit 的速率限制插件。

插件介绍

当你同时驱动多个并行代理、子代理或后台重试任务时，LLM 请求很容易集中涌向提供商，触发 HTTP 429、限流甚至短暂断连。dsh-llm-rate-limit 在请求真正到达提供商之前就统一做节奏控制，把撞墙变成有序排队。

它按提供商提供可配置的 RPM 令牌桶（含突发容量）、可选的估算令牌/分钟预算并基于实际用量自动对账、并发槽位与有界 FIFO 队列（支持超时与取消），以及针对错误码、HTTP 状态和 Retry-After 的自适应冷却。后台辅助流量会被显式丢弃，不会阻塞主要请求；每一次 dsh-llm-retry 重试都独立走准入流程，插件本身不执行重试。

如果你用 DSH 同时对接 DeepSeek、火山引擎 Ark 等多家提供商，并行 Agent 频繁触发限流，又希望把节奏控制留在本地而非依赖远端重试，这个插件就是那个在门口排好队的守卫。