🤖

dsh-localforge

模型推理更新于 2026.10.07

在终端中运行以下命令：

dsh plugin install orfeomorello/dsh-localforge

将以下提示词粘贴到 DeepSeek Harness 对话框中：

在 DeepSeek Harness 的「设置 → 插件」中添加仓库源并安装，或执行 dsh plugin install orfeomorello/dsh-localforge；插件源码见 https://github.com/orfeomorello/dsh-localforge。

插件介绍

想在 DeepSeek Harness 里用本机模型，却不想每次改配置、反复探测服务端，也不想在量化模型上被并行请求拖垮——LocalForge 就是为这类场景写的适配层。它以 LM Studio 为主要联调目标，同时支持 Ollama、vLLM、llama.cpp HTTP、text-generation-inference 等 OpenAI 或 Anthropic 兼容端点，让对话流量走本地推理，而不消耗 DeepSeek API 余额。

相较同类 LM Studio 插件，LocalForge 更强调生产可用的细节：带 TTL 与显式失效的模型发现缓存，缺载模型时自动 load 并轮询就绪；按模型 ID 限制并发，避免 LM Studio 在并行流式下饱和；支持主备模型回退、推理预算上限、采样预设与请求前 token 预检。还提供 Prometheus 指标、可选健康检查与自动重连、Anthropic 风格第二条路由，以及带凭证脱敏的结构化日志。

适合已在 dsh 启用 web 配置、本地跑着 LM Studio 0.4.8+ 或其他兼容服务的开发者与团队；若你重视 TypeScript 严格模式、测试与 CI，并希望把本地推理纳入可观测运维，这个插件会更对口。