DSH Plugins
返回列表
🖥️

dsh-llamacpp-studio

客户端 更新于 2026.10.21

在终端中运行以下命令:

dsh plugin install yu234567/dsh-llamacpp-studio

将以下提示词粘贴到 DeepSeek Harness 对话框中:

在 DeepSeek Harness 的设置 → 插件 → 添加插件中选择本地目录或执行安装命令,也可通过仓库 https://github.com/yu234567/dsh-llamacpp-studio 获取源码后安装。

插件介绍

本地跑 llama.cpp 往往意味着在终端里翻笔记、拼一长串 llama-server 参数,换模型或量化就要重来一遍,还要自己盯端口和日志。dsh-llamacpp-studio 把这件事搬进 DeepSeek Harness:侧边栏打开常驻图形页,自动发现 llama-server、模型目录和 .gguf,用表单代替背命令行。

插件把当前版本 llama-server 的 234 个启动参数按功能分组做成可搜索的表单,支持常用预设、三态布尔和原始参数逃生口;可启动与停止进程、保存配置与多个命名档案,并实时查看 stdout、stderr 与系统消息。启动后还能一键打开 llama-server 自带的 Web UI。它不替代 Harness 的模型供应商配置,职责是把本机 llama-server 跑起来并让你看得见;是否接到 OpenAI 兼容 provider,仍由你现有的配置或扩展决定。

适合已经在本机安装 llama.cpp、经常切换模型或量化、又不想每次手写参数的人;也适合需要 Router 模式、多 GPU 或视觉模型(含 mmproj)等场景,在界面里调 host、上下文、GPU 层数等常用项。配置与日志只写在本机,API 仅接受回环访问,适合在个人电脑或可信环境中做本地推理实验。

使用场景

  • 日常在本机启动单模型或视觉模型,用表单调 ctx、GPU 层数等而不用拼命令行
  • 需要 Router 模式在同一进程里挂载多模型目录,按文档设置 autoload 等参数
  • 切换量化或多 GPU、低显存方案时,保存命名档案并快速载入重试

适合人员

  • 已在电脑上安装 llama.cpp、经常改模型或参数的用户
  • 使用 DeepSeek Harness、想把本机 llama-server 当 OpenAI 兼容端点的人
  • 不想记 llama-server 长参数、但需要完整表单与日志的本地推理爱好者