dsh-local-llm
在终端中运行以下命令:
dsh plugin install philo-max/dsh-local-llm
将以下提示词粘贴到 DeepSeek Harness 对话框中:
在 DeepSeek Harness 中执行 dsh plugin install philo-max/dsh-local-llm,或从 https://github.com/philo-max/dsh-local-llm 安装该插件 bundle。
插件介绍
把 Harness 指到本机 http://127.0.0.1:xxxx/v1 看起来很简单,却常在两类问题上栽跟头:系统提示与工具 schema 合计约三万 token,而很多本地服务仍默认 8192 上下文;另有不少模板不认 developer 角色或 reasoning_effort,直接 400。本插件在写配置之前就探测这些能力,只写入端点真正需要的兼容开关。
它扫描常见端口上的 OpenAI 兼容服务(LM Studio、Ollama、vLLM、llama.cpp server、SGLang 等),可进一步探针已加载上下文长度、工具调用、以及对扩展字段的支持;设置面板里以卡片展示厂商、上下文与工具能力,点选即可注册为 provider,无需手写 YAML。Agent 侧提供 local_llm_scan 与 local_llm_register,注册后下次模型请求即生效。
适合在本地 GPU 或笔记本上跑推理、又希望 Harness 稳定用上本地模型的开发者;也适合需要对比多款本地栈、或想避免「声明过大 context 导致请求被拒」这类配置陷阱的用户。
使用场景
- 首次把 LM Studio 或 Ollama 接到 Harness 前做端口扫描与兼容性检查
- 系统提示超长导致 8192 上下文本地服务一直拒请求时排查已加载窗口
- 需要在多款本地栈之间切换并一键写入 llm-pi-ai provider 配置
适合人员
- 在本机 GPU 上跑 LM Studio、Ollama、vLLM 等并想用 Harness 的开发者
- 不想手写 YAML、希望通过设置面板注册本地模型的用户
- 经常踩 developer 角色或 reasoning_effort 400 的本地部署者