DSH Plugins
返回列表
dsh-provider-rate-limit

dsh-provider-rate-limit

admin-security 更新于 2026.08.27

在终端中运行以下命令:

dsh plugin install jyao-SUSE-power-group/dsh-provider-rate-limit

将以下提示词粘贴到 DeepSeek Harness 对话框中:

在 DeepSeek Harness 中执行 dsh plugin install jyao-SUSE-power-group/dsh-provider-rate-limit 即可安装该插件,源码地址:https://github.com/jyao-SUSE-power-group/dsh-provider-rate-limit

插件介绍

DeepSeek Harness 允许同时接入多个 LLM 供应商,但实际使用中,免费额度网关经常因流量超限返回 429,或因识别不到合法客户端而直接拒绝请求。缺少按供应商、按模型粒度的限速与退避机制,多个并行 agent 很容易瞬间打爆上游配额,导致整条链路不可用。

dsh-provider-rate-limit 在 llm/stream 钩子处引入令牌桶限速,支持按 provider/model 子串匹配设置独立的 RPM 与 burst 上限,并可选择排队等待或快速拒绝两种空桶策略。当上游返回 429 时,插件自动进入指数退避窗口(可加随机抖动)防止雪崩,同时限制每路由的并发在途请求数。对于 OpenCode Zen 等校验客户端身份的免费网关,内置身份伪装规则可改写 User-Agent 并注入动态请求头,一键预设即可匹配。

适合在 DeepSeek Harness 中同时调用多家 LLM 供应商、尤其是依赖免费额度网关的个人开发者和小团队;需要为不同模型设置差异化限速、监控实时排队深度、或在多插件间共享限速统计数据的技术用户。

截图预览

使用场景

  • 多 agent 并行调用时防止瞬间打爆上游供应商配额
  • 免费额度网关校验客户端身份导致请求被拒
  • 实时监控每个供应商/模型的排队深度与拒绝计数

适合人员

  • 同时接入多家 LLM 供应商的 DeepSeek Harness 用户
  • 依赖免费额度或有限配额网关的个人开发者与小团队
  • 需要在多插件之间共享限速统计数据的集成开发者