dsh-llm-third-party-native
在终端中运行以下命令:
dsh plugin install bradleyFrancis/dsh-llm-third-party-native
将以下提示词粘贴到 DeepSeek Harness 对话框中:
在 DeepSeek Harness 中执行 dsh plugin install bradleyFrancis/dsh-llm-third-party-native,即可从 https://github.com/bradleyFrancis/dsh-llm-third-party-native 安装该插件。
插件介绍
若你把 DeepSeek 模型接到 OpenRouter、LiteLLM、vLLM 或自建 Anthropic Messages 网关,通用 Pi 适配器往往在提示结构、思考块回放和 harness 集成上与 DeepSeek 原生行为不一致,轻则对话历史里泄露未签名思考块,重则请求被网关 schema 拒掉。本插件注册独立的 dsh-llm-third-party-native 提供商,与 deepseek-official 并行运行,让你走官方 DeepSeek 原生适配器处理第三方路由,而不必改 api.deepseek.com 与 DEEPSEEK_API_KEY。
在能力层面,插件针对第三方网关更严的 Anthropic 规则做了三类线级修复:在启用思考时按 effort 阶梯补齐 budget_tokens、序列化前丢弃未签名 thinking 块、以及附加 session_id 以利于有状态后端复用 KV 缓存。相对 Pi 适配器,原生路径还能把开发者更新格式化为历史中的 system 回合并做增量工具增删,支持 stop_sequences 映射,以及 DeepSeek 原生的图像像素预算与附件解析。
此外还提供与适配器解耦的配置体验:可在设置中维护第三方端点、凭据与可排序的模型列表,为全部署注入 DEPLOYMENT_PERSONA_SUFFIX,并在 ctx.web 上内置本地 SearXNG 搜索(懒启动、并发安全、默认走本机回环),让代理在无额外搜索 API Key 时也能联网检索。
适合需要把 DeepSeek 跑在自建或聚合网关、又希望 harness 行为接近官方原生栈的团队与个人;若你只使用官方 api.deepseek.com 且不需要第三方 Messages 端点,可继续只用 deepseek-official。
截图预览
使用场景
- 通过 OpenRouter 或 LiteLLM 调用 DeepSeek,但希望 harness 行为接近官方原生栈。
- 在 vLLM 或自建 Anthropic 兼容网关前代理无状态负载均衡,需要会话粘性与思考 budget 合规。
- 希望官方 DeepSeek 凭据不动,同时为代理配置可排序模型与本地 SearXNG 检索。
适合人员
- 自建或内网 LLM 网关的 MLOps 与平台工程师。
- 在聚合 API 上跑 DeepSeek 且在意提示与工具增量行为的应用开发者。
- 需要在 harness 中隔离官方与第三方推理路径的团队管理员。