DSH Plugins
返回列表
🖥️

dsh-mlx-local

客户端 更新于 2026.08.17

在终端中运行以下命令:

dsh plugin install JshGao/dsh-mlx-local

将以下提示词粘贴到 DeepSeek Harness 对话框中:

在 DeepSeek Harness 中执行 dsh plugin install JshGao/dsh-mlx-local 即可安装该插件,源码仓库地址为 https://github.com/JshGao/dsh-mlx-local 。

插件介绍

在 Apple Silicon Mac 上跑本地大模型,过去意味着手动建 venv、盯着终端里的 mlx_lm.server、再想办法把它接进 DeepSeek Harness 的 provider 体系。dsh-mlx-local 把这一串操作收进一个插件:自动探测 Python 3.9–3.13、创建隔离 venv、安装 mlx-lm,然后在设置里给你一个专属的「MLX 模型」面板,一键启动、停止、切换模型。它还负责监控服务异常退出、回收残留进程、DSH 退出时自动关闭服务,不再让僵尸进程占着 8080 端口。

模型管理同样内置:添加或删除本地模型目录、从 Hugging Face 预下载权重、列出已有机型。切换模型时先优雅停掉旧服务再启动新服务。对 Qwen3 等支持思考的模型,主界面模型选择器会自动出现思考强度开关(Off / High),省去逐模型手动配置。插件不会额外注册 provider,本地端点直接通过 DSH 现有的自定义提供方机制,以 OpenAI 兼容协议接入 127.0.0.1:8080/v1。

如果你有一台 M 系列 Mac,希望推理留在本地而不想每次请求都绕道云端,并且不想花一下午折腾文档,这个插件就是为你准备的。只要 macOS 13 以上、磁盘留出几个 GB 放一个 4-bit 权重,就可以直接上手。

使用场景

  • 在 M 系列 Mac 上离线运行 Qwen3 等本地模型
  • 统一管理 mlx-lm 服务与 Python venv 生命周期
  • 通过 DSH 自定义提供方接入本地 OpenAI 兼容端点

适合人员

  • 偏好本地推理、不想每次请求都走网络的 macOS 用户
  • 希望免去手动建 venv 和盯终端的 M 系列 Mac 开发者
  • 已在用 DeepSeek Harness 并想接入本地模型的工程师