DSH Plugins
返回列表
🖥️

dsh-local-model

客户端 更新于 2026.10.23

在终端中运行以下命令:

dsh plugin install miloye7711-dotcom/dsh-local-model

将以下提示词粘贴到 DeepSeek Harness 对话框中:

在 DeepSeek Harness 中执行 dsh plugin install miloye7711-dotcom/dsh-local-model,或按资料将 https://github.com/miloye7711-dotcom/dsh-local-model vendoring 到 Harness 配置后再挂载。

插件介绍

在本地跑 Ollama、llama.cpp、Strata 或其它 OpenAI 兼容推理服务时,Agent 往往需要知道服务是否在听、该选哪条 provider/model 路由,却又不想为每台机器写死脚本或把启动逻辑塞进插件本身。dsh-local-model 把「哪些服务可以启停」做成部署配置,由 Harness 现有的子进程能力去拉起进程,并通过一次模型列表 HTTP 探测判断就绪,再把结果里的引用交给模型路由使用。

核心能力集中在生命周期与可观测性:list 只看在线服务,status 覆盖全部配置项,start/stop/toggle 支持按名称或 all 操作,且默认互斥启动以避免多引擎抢同一块显存。客户端在 Composer 提供「本地模型」芯片、面板选服与快捷键,Composer 里也可用 /local-model 执行同样动作;stop 只终止本插件曾启动的进程,避免误杀外部已有的服务。

它不负责把聊天请求转发到本地端口——你需要在 Harness 里为对应端口配置 LLM 适配路由。适合已经在用 DeepSeek Harness、希望在对话里一键切换本地引擎、又让 Agent 能自主启停与巡检本地推理栈的开发者与进阶用户。

使用场景

  • 对话前一键启动默认本地引擎并切换到返回的 provider/model
  • Agent 在任务中检测 Ollama 或 llama.cpp 是否在线并按需启停
  • 多机部署时用同一份 servers 配置,避免在插件里写死路径与命令

适合人员

  • 在 DeepSeek Harness 里使用本地大模型的开发者
  • 需要 Agent 自主管理本地推理进程的高级用户
  • 同时维护 Strata、Ollama 或 llama.cpp 等兼容服务的运维者