DSH Plugins
返回列表
🤖

dsh-hyper-tools

模型推理 更新于 2026.09.14

在终端中运行以下命令:

dsh plugin install samuelrubiodev/dsh-hyper-tools

将以下提示词粘贴到 DeepSeek Harness 对话框中:

在终端运行 dsh plugin install samuelrubiodev/dsh-hyper-tools 即可安装该插件,源码仓库地址为 https://github.com/samuelrubiodev/dsh-hyper-tools

插件介绍

使用 Charm Hyper 进行多轮对话时,每张图片都以 base64 内联形式附在请求体中。对话越长、图片越多,序列化后的请求体就越容易撞上网关 10 MiB 的硬性上限——一旦超限,整个请求在推理开始之前就被拒绝,哪怕这些图片只是普通的附件。

dsh-hyper-tools 在指定 provider 路由上注册一个 llm/stream 中间件,在请求发出前自动将最旧图片替换为确定性的占位文本,使图片载荷回落到预算之内(默认 6 MiB),最新图片原样保留。若网关仍因非图片开销而拒绝,插件会以更小的图片预算(recoveryBudgetFactor,默认 0.5)再试一次,逐步替换更多旧图;若已无空间可压缩,则原样抛出错误,不吞掉真实故障。

适合任何在 Charm Hyper 上跑长对话、多图推理任务的开发者——无论底层是官方适配器还是自建网关,只要路由匹配 charm-hyper 或 hyper 即自动生效,无需改动业务代码。

使用场景

  • 长对话中累积图片使请求体超过网关 10 MiB 上限
  • Charm Hyper 多轮推理里 base64 图片占满请求体导致 400 拒绝
  • 自建网关适配器下仍需对 Charm Hyper 路由做图片预算守护

适合人员

  • 在 Charm Hyper 上跑长对话、多图推理的开发者
  • 自建网关或适配器的推理平台工程师
  • 需要严格控制 LLM 请求体大小的应用开发者