DSH Plugins
返回列表
🤖

dsh-plugin-huihui-gemma

模型推理 更新于 2026.11.16

在终端中运行以下命令:

dsh plugin install niko4244/dsh-plugin-huihui-gemma

将以下提示词粘贴到 DeepSeek Harness 对话框中:

在 DeepSeek Harness 中执行 dsh plugin install niko4244/dsh-plugin-huihui-gemma,或从开源仓库 https://github.com/niko4244/dsh-plugin-huihui-gemma 安装该插件。

插件介绍

想在 DeepSeek Harness 里用本机跑的 Huihui Gemma 4 12B Coder,却常被「不是官方 provider、流式没增量、工具写成纯文本」卡住?这个插件把量化 GGUF 接进桌面端、Web 与 headless 的模型列表,并加上 OpenAI 兼容适配层,让对话和 Agent 能真正用起来。

适配器会把该微调习惯的文本式工具语法转成 harness 认识的 tool_calls,并把暴露给模型的工具收敛为 run_command、read_file、write_file、list_files 四项,再映射回完整 harness 能力;同时针对该模型会拿掉 skill 目录、处理 schema 回声,并在流式场景下合成 SSE,避免空轮次或「有请求无内容」的体验。

你需要自备 llama-server 与对应 GGUF,内存需满足所选量化(如 Q5 约 9–10 GB)。更适合本机推理、愿接受首包预填充稍慢、且主要依赖 shell 与文件类工具做编码助手的人;工具兼容是解析层而非原生 function calling,复杂或非标准写法仍可能漏识别。

使用场景

  • 在 Harness 里选用本机 Huihui Gemma 4 12B Coder 做对话与 Agent
  • 通过适配器把文本式工具输出当成 OpenAI 风格 tool_calls 使用
  • 配合 llama-server 在桌面端或 headless 跑量化 GGUF

适合人员

  • 需要在本机跑开源编码模型又不想手改 provider 配置的开发者
  • 主要依赖命令行与读写文件的 Harness Agent 用户
  • 已熟悉 llama.cpp 并愿意自己维护模型服务的进阶用户