dsh-llm-gateway
在终端中运行以下命令:
dsh plugin install Cai-kunkun/dsh-llm-gateway
将以下提示词粘贴到 DeepSeek Harness 对话框中:
在 DeepSeek Harness 配置目录或已激活的 profile 中执行 dsh plugin install Cai-kunkun/dsh-llm-gateway(也可从 https://github.com/Cai-kunkun/dsh-llm-gateway 安装本地包),然后重启 profile(dsh web)以通过 bundle patch 生效。
插件介绍
很多人在 IDE、聊天前端或脚本里已经习惯 OpenAI SDK 和「可配置 base URL」的客户端,但 DeepSeek Harness 里的模型路由、凭据和配额都集中在 Harness 运行时里,并不直接对外提供一套标准的 Chat Completions 接口。没有这层翻译,你要么改客户端接入方式,要么自己维护一份重复的模型清单和密钥管理。
dsh-llm-gateway 在本地监听 HTTP(默认 2778),把入站的 OpenAI Chat Completions 请求转成 Harness 的 ctx.llm.stream() 调用。模型发现走 GET /v1/models,直接聚合各适配器 advertised 的目录,Harness 配置增删模型后网关清单会同步变化,网关自身不保存凭据、也不维护独立模型库。流式与非流式响应、工具调用、reasoning 块以及图片 data-URL 等,都在 OpenAI 线格式与 Harness 类型之间做有状态的折叠与映射;失败码也会映射成 OpenAI 风格的 HTTP 错误。
安全上默认收紧:可配置 Bearer apiKey、仅回环访问,或显式开启 allowLan 才允许局域网无密钥接入。请求体有大小上限且不落盘,客户端断开会上游取消。适合想在 Cline、Continue、Open WebUI、aider、LangChain 等工具里把 Harness 当成「本地 OpenAI 端点」来用的开发者和团队;需要 Responses API 或完整转发 top_p、penalty 等暂未在 Harness 词汇里支持的参数时,需了解当前局限。
使用场景
- 在 Continue、Cline 等工具里把 Harness 配成本地 OpenAI base URL
- 用 Python 或 Node OpenAI SDK 直接调用 Harness 上已注册的多厂商模型
- 内网或本机统一出口,让多个客户端共享 Harness 的凭据与配额策略
适合人员
- 日常使用多种 LLM 客户端、希望统一走 Harness 的开发者
- 需要在局域网内为团队提供 OpenAI 形态 API 的维护者
- 已配置 DeepSeek Harness 0.2.x、不想重复维护模型清单的人