🤖

dsh-plugin-local-prompt-bridge

模型推理更新于 2026.09.30

在终端中运行以下命令：

dsh plugin install tianyiming1/dsh-plugin-local-prompt-bridge

将以下提示词粘贴到 DeepSeek Harness 对话框中：

在已关闭的 DeepSeek Harness 中执行 dsh plugin install tianyiming1/dsh-plugin-local-prompt-bridge，或从 https://github.com/tianyiming1/dsh-plugin-local-prompt-bridge 获取源码后按 profile bundles 方式接入。

插件介绍

在桌面或命令行里用官方 DeepSeek Harness 接本地 OpenAI 兼容服务（例如 llama.cpp）时，上下文往往按 token 账本管理，而不是去读显存里的 KV。窗口一满，服务端可能直接返回「超过 context」一类 400，体验上就是对话突然断掉，也没有和 Cursor、Codex 等产品类似的「先压历史再试」的通路。

dsh-plugin-local-prompt-bridge 作为社区插件挂在官方 DSH 上，不改、不替换任何 @deepseek-ai/* 包；升级 Harness 后重新安装即可。装上后默认对所有 provider 做溢出改写：把超窗类错误统一成 CONTEXT_WINDOW_EXCEEDED，交给官方的 compaction-basic 压缩历史后再重试。

若你在 profile 里为本地 llm-pi-ai provider 配置了 routes，插件还会在步进前通过 /tokenize（失败则走 /apply-template）精算即将发出的包有多大。超过约 90% 窗口并预留生成空位时，会主动合成溢出触发压缩；未超过则直接发送，不再依赖早期的「软线假满」。真撞上服务器硬上限时，仍由全局溢出改写兜底。

适合已经用官方 DSH、又希望本地推理在长跑大 prompt 时更稳的用户：默认 routes 为空时不绑定任何模型或端口，也能先拿到全局溢出改写；需要主动压缩时，再按自己的本地服务填写 routes 即可。