DSH Plugins
返回列表
🧩

dsh-ai-gateway

admin-security 更新于 2026.11.15

在终端中运行以下命令:

dsh plugin install Yuaneen/dsh-ai-gateway

将以下提示词粘贴到 DeepSeek Harness 对话框中:

在 DeepSeek Harness 中执行 dsh plugin install Yuaneen/dsh-ai-gateway,即可从 https://github.com/Yuaneen/dsh-ai-gateway 安装 dsh-ai-gateway 插件。

插件介绍

DSH 里主循环、子代理、标题生成、压缩摘要都会走 llm/stream,但费用往往散在多处,很难在「放行前」就管住谁能花、花到哪、超了怎么办。dsh-ai-gateway 不是另起一个独立代理,而是在这条统一接缝上做预算准入:先评估预算再放行,放行后按 provider 回传的 usage 记账,超限时按策略预警、硬拦或降到同厂商更便宜的模型。

核心是「一道闸门、三档预算、可归属、可控制」。会话 / 当日 / 当月三档 USD 上限(可按配置币种展示),支持 warnRatio 预警与 alert、block、degrade 组合;降级请求会被标记,避免在 waterfall 里无限递归再被拦一次。阻塞时不抛传输层错误,而是走正常的 assistant 流并在 finish 里标明 BUDGET_BLOCKED,让 agent 循环正常收尾、避免无意义重试。没拿到 usage 的失败调用不计费,也不靠字符数瞎估。

计价与账本贴近真实账单:按 input、cache read/write、output 等互斥桶分别计价,内置价格表可覆盖,峰谷时段可配。花费可按模型、会话、日、月归属;持久化账本支持防抖落盘,损坏分桶可忽略而不阻塞启动。控制面提供 /gateway 命令与 /ai-gateway/v1/* HTTP API(status、usage、unblock),unblock 用水位线语义而非永久放行。

适合在本地或团队环境跑 DSH、希望默认就「超了能拦」、又要自己查花费和调整策略的维护者与高级用户。展示型提醒类插件可以并存;若你需要对外 OpenAI 兼容入口或多租户,README 路线图在 v0.3 才规划,v0.1 先把治理面做实。采用前请了解 MVP 限制:降级与会话日志里的模型名可能不一致、工具按次费用未计、多进程账本不共享等。

使用场景

  • 团队或个人 DSH 需要默认超预算就拦截而非仅提醒
  • 要在同一网关里同时管住会话、当日和当月模型花费
  • 需要用 HTTP 或命令查看用量、水位并临时 unblock

适合人员

  • 自建 DSH 环境并希望硬控模型成本的维护者
  • 会改 profile 与 cordis.patch.yml 的高级用户
  • 关心可审计花费归属与降级策略的开发者