dsh-open-model
在终端中运行以下命令:
dsh plugin install yorelog/dsh-open-model
将以下提示词粘贴到 DeepSeek Harness 对话框中:
在 DeepSeek Harness 中执行 dsh plugin install yorelog/dsh-open-model,即可从开源仓库 https://github.com/yorelog/dsh-open-model 安装本插件。
插件介绍
在 DeepSeek Harness 里跑本地大模型,往往要自己在 HuggingFace、镜像站、下载工具、llama.cpp 或 MLX 服务之间来回切换,还要记得什么时候该关进程、磁盘里到底有哪些权重。 dsh-open-model 把这条链路收进一个 Host 插件:从检索仓库、拉取文件、扫描目录并注册,到启动平台运行时、发起 OpenAI 兼容推理,再到空闲自动释放,都在同一套工具与设置页里完成。
Windows x64 侧由 llama-server 承载 GGUF(可选 CPU、CUDA 或 Vulkan);Apple Silicon 上由 mlxcel-server 承载 MLX 与 safetensors。插件支持 HuggingFace、hf-mirror 与 ModelScope 等可配置端点,并能把代理、镜像写入子进程环境,避免空代理变量悄悄直连。注册模型会写入本地 registry,Web 控制台可搜索、下载、扫描、启停,Host 还会注册 open-model 提供商,让会话模型选择器直接走本机服务。
适合希望在 DSH 里「搜模型 → 下到固定目录 → 一键加载聊天」、又需要国内网络友好下载路径的用户;也适合已有本地权重、只想扫描注册并纳入空闲回收与 GUI 管理的开发者。Linux 与 macOS x64 上运行时由本插件管理为不支持,需自行安排推理服务后再对接其他方式。
截图预览
使用场景
- 在 DSH 设置页搜索 HuggingFace 或 hf-mirror 上的 GGUF/MLX 并后台下载到默认模型目录
- 把已有权重放进 modelRoots,扫描后一键注册并在面板里启动本地推理
- 会话里选用 Open Model Hub 提供商,让 Agent 直接走本机 llama-server 或 mlxcel-server
适合人员
- 希望在 DeepSeek Harness 内完成搜模、下模、加载全流程的桌面用户
- Windows 或 Apple Silicon 上需要 GGUF/MLX 本地推理并关心空闲自动释放的人
- 依赖国内镜像、ModelScope 或代理稳定拉取模型与 release 资源的用户