🤖

dsh-wsl-vllm

模型推理更新于 2026.09.30

在终端中运行以下命令：

dsh plugin install 173787247/dsh-wsl-vllm

将以下提示词粘贴到 DeepSeek Harness 对话框中：

在 DeepSeek Harness 中执行 dsh plugin install 173787247/dsh-wsl-vllm，即可从 https://github.com/173787247/dsh-wsl-vllm 安装本插件。

插件介绍

在 WSL 或 Windows 侧跑 vLLM 时，模型服务往往藏在 Docker 或本机端口后面，和 DSH 里的 Agent 工具链并不天然连通。dsh-wsl-vllm 把这条链路补齐：通过 OpenAI 兼容接口（默认 :8000）对接本机或容器里的 vLLM，让你在 DSH 里用统一方式查状态、发对话，而不必手写 curl 或临时脚本。

插件提供 vllm_status 与 vllm_chat 两个工具。前者用来确认服务是否可达、当前加载了哪些模型；后者负责对话补全，适合把本地推理接到日常问答、草稿生成或内部助手场景。配置集中在 baseUrl、defaultModel 与 timeoutMs，也可用环境变量 DSH_VLLM_BASE、DSH_VLLM_MODEL 覆盖，便于在不同机器或容器间切换。

更适合已经在用 vLLM（尤其 Docker 部署）、并希望把推理能力纳入 DSH 工作流的用户。README 也提示 Windows 原生 vLLM 往往不可用，Docker 通常是更稳妥的选择；若你使用 dsh-wsl-kit，还可通过可选套件批量链接同类插件，但本插件本身不依赖该套件安装。