dsh-llm-gateway-compat
在终端中运行以下命令:
dsh plugin install snowshadow/dsh-llm-gateway-compat
将以下提示词粘贴到 DeepSeek Harness 对话框中:
在 DeepSeek Harness 终端中执行 dsh plugin install snowshadow/dsh-llm-gateway-compat 即可安装该插件,完整源码地址为 https://github.com/snowshadow/dsh-llm-gateway-compat 。
插件介绍
在使用 DeepSeek Harness 对接兼容网关时,两个常见问题格外棘手:流式 SSE 片段中偶发的空 id 或空 name 会直接覆盖已建立的工具调用身份,导致后续步骤无法正确匹配;而 developer-role、max_completion_tokens 等字段差异则频繁触发 400 拒绝,开发者不得不手动改配置、重发请求。dsh-llm-gateway-compat 正是为这两类问题而生的社区补丁包。
插件围绕三层能力展开。第一层拦截 llm/stream,确保流式片段中一旦拿到非空的工具调用 id 与 name,后续空值便不再覆盖,若整条流始终未下发 id 则自动合成兼容占位符。第二层在 agent/request-error 钩子中识别上述两种 400,自动将对应兼容字段写入 llm-pi-ai 设置并重试一次,全程附带日志提示;不属于已知模式的 400 不会被盲目重试。第三层提供可选的 Chat Completions 路由适配器,允许用户以直接 POST /chat/completions 的方式接入 DashScope 等兼容网关,并统一处理 system prompt、max_tokens 输出上限、额外请求头、thinking 方言等细节。
如果你正在用 DSH 跑多模型工作流、需要让 DashScope 或其他 Chat Completions 兼容网关与官方路由并存,或者被流式工具调用身份丢失和 400 重试反复打断,这个插件可以显著减少手工排障时间。它不替代官方包,也不改变已稳定的 DeepSeek 流式行为,仅在兼容层做最小干预。
使用场景
- 流式SSE中工具调用id或name被空值覆盖导致下游步骤失配
- DashScope等兼容网关因developer-role或max_completion_tokens字段差异频繁返回400
- 需要在DSH中为不同兼容网关配置独立的Chat Completions路由
适合人员
- 使用DSH对接第三方兼容网关的AI工程师
- 被流式工具调用身份丢失反复打断的多模型工作流开发者
- 需要在DSH中统一管理多个Chat Completions兼容路由的团队