dsh-llm-pi-ai-image-offload
在终端中运行以下命令:
dsh plugin install ender-candle/dsh-llm-pi-ai-image-offload
将以下提示词粘贴到 DeepSeek Harness 对话框中:
在 DeepSeek Harness 中执行 dsh plugin install ender-candle/dsh-llm-pi-ai-image-offload,或从 https://github.com/ender-candle/dsh-llm-pi-ai-image-offload 安装后将插件名加入 profile 的 bundles 并重启 Harness。
插件介绍
在 DeepSeek Harness 里,工具结果若携带图片,spill-policy 需要适配器用 token 为图像「定价」,才能对照 maxInlineTokens 决定是内联还是卸载。默认的 LlmAdapter.imageRequestPricing 返回 undefined,表示该路由未声明图像定价;@deepseek-ai/dsh-llm-pi-ai 所服务的路由普遍如此,只有 deepseek 适配器自行覆盖。于是 spill-policy 在取不到计算器时会吞掉异常、保持整段内联,多兆字节的 base64 原样进上下文;token-meter 也会退回到固定结构启发式,而不是按实际发送的字节计量。
本插件在实例上为「未返回定价」的适配器安装 imageRequestPricing,并在每次 llm/adapters-updated 时重新应用。已有真实定价的实现不会被替换;会抛错的实现也不会被强行覆盖。定价按实际传输字节换算(与 harness 的 base64 字节记账一致),使 spill-policy 能在预算内提前 shed 超大图,而 shedding 不会删掉会话或工作区文件,模型仍会收到提示与可再通过 read_image 读取的路径。
适合在 profile 里使用 pi-ai 等多模态路由、又希望大图走 spill 而非撑爆 inline 窗口的 Harness 用户。可通过 enabled、charsPerToken、maxVisualTokens、providers 与 debug 按需收紧行为;上游若补全定价,本补丁会自动让位。
使用场景
- pi-ai 路由工具返回大图却一直被内联进上下文
- spill-policy 因缺少 imageRequestPricing 无法按预算 shed 图像
- 希望 token-meter 按实际传输字节估算图像而非固定启发式
适合人员
- 在 profile 中使用 @deepseek-ai/dsh-llm-pi-ai 多模态路由的用户
- 需要 spill-policy 正确卸载超大内联图像的 Harness 运维者
- 关心上下文窗口与 inline token 预算的插件/配置维护者