🤖

dsh-llamacpp-bridge

模型推理更新于 2026.10.07

在终端中运行以下命令：

dsh plugin install b8yg7vjstj-ctrl/dsh-llamacpp-bridge

将以下提示词粘贴到 DeepSeek Harness 对话框中：

在 DeepSeek Harness 中执行 dsh plugin install b8yg7vjstj-ctrl/dsh-llamacpp-bridge 安装本插件（源码仓库：https://github.com/b8yg7vjstj-ctrl/dsh-llamacpp-bridge），装完后重启 host 并硬刷新浏览器。

插件介绍

本机已经有一套 llama.cpp 和若干 GGUF 时，常见体验是：终端里拼一长串参数、等模型进显存，再在另一个界面里对 API 地址和模型名；换模型或目录里新加文件，往往要重复同一套流程。dsh-llamacpp-bridge 把这些杂事接到 DSH 里——模型列表直接从你的模型目录读取，你在对话里选好本地模型并发出第一条消息时，它在后台拉起 llama-server，等到端口就绪才把请求送出去，用起来和选云端模型几乎一样。

核心能力围绕「管进程、跟目录、看得见」。它支持单模型与 router 两种策略，切换模型时会先停掉当前实例、确认退出后再启动目标，避免显存里同时挂两个模型。目录变动会通过扫描、文件监听和兜底轮询保持列表同步；带视觉能力的 GGUF 还会按命名规则或设置里的手动绑定自动配上 mmproj。侧边栏的「llama.cpp 终端输出监控」面板展示当前状态、模型切换按钮和带时间戳的 llama-server 输出，需要时还可以走优雅的 Ctrl+C / Y 式退出，而不是一上来强杀进程。

适合已经在用 DSH（web profile）、本机有 llama-server 和模型文件夹、又希望本地推理无缝进模型选择器的人。你主要只需把 GGUF 放进目录并在设置里确认可执行文件与路径（可自动探测）；想盯启动过程、换模型或排查视觉投影未匹配时，面板和设置页就是日常入口。