DSH Plugins
返回列表
🤖

dsh-cloud-model-providers

模型推理 更新于 2026.09.02

在终端中运行以下命令:

dsh plugin install BitDG/dsh-cloud-model-providers

将以下提示词粘贴到 DeepSeek Harness 对话框中:

在 DeepSeek Harness 中运行 dsh plugin install BitDG/dsh-cloud-model-providers 即可将云模型路由层注入当前 profile,插件源码见 https://github.com/BitDG/dsh-cloud-model-providers

插件介绍

如果你已经在用 DeepSeek Harness,又想让蚂蚁数科 MaaS 或 NVIDIA NIM 的模型直接跑在 DSH 的运行时里,这个插件就是为这件事准备的。它只做一件事:通过一份声明式的 cordis.patch.yml 把三条云模型路由注入你现有的 base-backed profile,不引入额外的 HTTP 代理,不跑构建脚本,也不在仓库里存任何 API key。

三条路由分别对应蚂蚁数科的 OpenAI Responses 流式端点、蚂蚁数科的 Chat Completions 流式端点,以及 NVIDIA NIM 基于 pi-ai 目录的 Chat Completions 流式端点。所有协议翻译、SSE 分块、工具调用、用量统计、请求取消和凭据解析都复用 DSH 自带的 llm-pi-ai 适配器,走的是 DSH 持续维护的那条路径。你只需要在环境变量或 Web 设置页里填好凭据,剩下的交给 DSH。

它适合这样一类开发者:已经在 DSH 生态里工作,业务上确需调用蚂蚁数科或 NVIDIA 的云端推理服务,但不想在本地多维护一个网关或 Sidecar 进程。装上一个 patch 层,重启 profile,模型路由就出现在 Models 页面里;不想要了,把同一层和依赖一起移除即可,不留残留。

使用场景

  • 在 DSH profile 中直接调用蚂蚁数科 MaaS 模型进行流式对话与工具调用
  • 通过 NVIDIA NIM 端点访问云端推理模型,无需本地部署容器
  • 在 headless 工作流中按需切换 Responses 与 Chat Completions 协议路由

适合人员

  • 已在 DSH 生态中工作、需要调用云端推理 API 的开发者
  • 偏好声明式配置、不想维护额外网关或 Sidecar 进程的工程师
  • 需要同时对接蚂蚁数科 MaaS 与 NVIDIA NIM 的平台集成人员