DSH Plugins
返回列表
🤖

dsh-wsl-llamacpp

模型推理 更新于 2026.09.30

在终端中运行以下命令:

dsh plugin install 173787247/dsh-wsl-llamacpp

将以下提示词粘贴到 DeepSeek Harness 对话框中:

在 DeepSeek Harness 中执行 dsh plugin install 173787247/dsh-wsl-llamacpp,或按仓库说明从 https://github.com/173787247/dsh-wsl-llamacpp 安装本插件。

插件介绍

在 WSL 或本机已经跑着 llama.cpp、Unsloth Desktop 时,你往往只想用同一套 OpenAI 兼容接口做对话,而不是在插件里再装一套推理栈。dsh-wsl-llamacpp 把 DeepSeek Harness 接到这些服务上(默认本机 :8080),让 Agent 能像调用云端 API 一样访问本地模型。

插件提供 llama_status 与 llama_chat:前者确认服务是否可达并读出当前模型 id,后者走标准的 /v1/chat/completions 完成多轮对话。通过 baseUrl、defaultModel、timeoutMs 以及环境变量 DSH_LLAMA_BASE、DSH_LLAMA_MODEL,你可以对齐现有部署,继续复用已下载的 GGUF,无需重装工具链。

适合已经在本机维护 llama.cpp 或 Unsloth Desktop、希望在 DSH 工作流里统一编排本地推理的开发者。若你使用 dsh-wsl-kit,也可与其它 WSL 侧插件一起批量链接,但套件本身是可选的。

使用场景

  • 在 DSH Agent 里直接调用本机 llama.cpp 的对话接口
  • 部署 Unsloth Desktop 后需要统一检测服务与模型 id
  • 已有 GGUF 权重,不想为插件再装一套推理环境

适合人员

  • 在本机或 WSL 运行 llama.cpp 的开发者
  • 使用 Unsloth Desktop 做本地模型服务的用户
  • 希望在 DSH 中编排本地 OpenAI 兼容 API 的团队