dsh-llm-openai-compatible
在终端中运行以下命令:
dsh plugin install cqnxnzg/dsh-llm-openai-compatible
将以下提示词粘贴到 DeepSeek Harness 对话框中:
在 DeepSeek Harness 终端中执行 dsh plugin install cqnxnzg/dsh-llm-openai-compatible 即可从 https://github.com/cqnxnzg/dsh-llm-openai-compatible 安装该插件,仓库已提交构建产物,装完即可使用,无需额外构建步骤。
插件介绍
DeepSeek Harness 想接上你手边那个 OpenAI 兼容的推理服务——本地 vLLM、LM Studio、llama.cpp,Ollama 的 /v1 兼容层,或 OpenRouter、Together、DeepSeek 官方 API 等远程网关——但以前没有一个统一的 provider 入口,每换一家就要改核心或写胶水代码。dsh-llm-openai-compatible 就是为这件事设计的一根万能插头:装完、配好端点地址,聊天立即可用,不动 dsh 核心。
核心能力包括:自动将 baseURL 归一化到 /v1,支持匿名请求(本地服务无需 key)和 Bearer 鉴权(远程网关);通过 models 数组声明端点实际提供的模型,支持 vision、thinking 等能力标记;discoverModels() 一键拉取 GET /v1/models 导入真实模型 id;Settings 面板即时修改端点、key、模型目录和重试策略,保存即生效,无需重启。
适合已经在本地跑 vLLM、LM Studio、llama.cpp 的团队,想用 Ollama 但不想依赖其原生 API 的个人开发者,以及把 DeepSeek Harness 接入 OpenRouter、Together 等聚合网关来统一管理多模型路由的平台管理员。一句话:凡是说 OpenAI Chat Completions 协议的服务,插上就能聊。
使用场景
- 本地 vLLM 或 LM Studio 跑完模型后,直接在 DeepSeek Harness 里选中模型开始聊天
- 通过 Ollama 的 /v1 兼容层接入现有模型库,无需切换原生 API
- 把 OpenRouter、Together 等远程网关挂到 Harness 上,统一管理多供应商模型路由
适合人员
- 本地跑 vLLM、LM Studio 或 llama.cpp 的 AI 工程师
- 用 Ollama 管理模型但希望走开放协议的开发者
- 需要在 DeepSeek Harness 中集中管理多供应商模型路由的平台管理员