DSH Plugins
返回列表
🤖

dsh-fine-tune

模型推理 更新于 2026.11.05

在终端中运行以下命令:

dsh plugin install songrui111/dsh-fine-tune

将以下提示词粘贴到 DeepSeek Harness 对话框中:

在 DeepSeek Harness 的插件市场中使用命令 dsh plugin install songrui111/dsh-fine-tune 安装本插件,开源地址为 https://github.com/songrui111/dsh-fine-tune。

插件介绍

如果你在 DeepSeek Harness 里想把**本机已下载的开源小模型**按自己的数据习惯来调一版,而不是反复手搓命令行和零散脚本,这个插件把「导入数据、训练、评测」收进一个面板里,让流程一眼看清、步步可走。

核心能力围绕 QLoRA / LoRA:支持从 JSONL 导入对话数据,训练前给出数据卡(样本量、token 分布、去重等)并做显存预估,放不下就不启动,减少训到一半 OOM 的挫败。训练后可在「评测与发布」里拿到**工具调用准确率**和文本相似度这类可判定的数字,并把产物做成 LoRA 适配器;需要交付或本地跑推理时,还可合并权重并导出 GGUF 给 Ollama。

它明确**不能**微调你正在对话的云端大模型(你没有对方权重),也受硬件边界约束:需要带 CUDA 的 NVIDIA 显卡与足够显存,文档也以「已知在 Windows + 指定配置跑通」为前提说明其他环境可能未验证。

因此它最适合:已经在 Harness 生态里、希望用 JSONL 快速试水或迭代小模型行为、并能接受按显存规模选择模型与序列长度的开发者或爱好者;若你的目标是「把云上大模型变成你的专用版」,需要先理解它训练的是你可下载、可部署的开源权重这一前提。

使用场景

  • 用 JSONL 对话数据在本机 NVIDIA GPU 上微调 Qwen / Llama 系小模型
  • 在训练前查看数据卡并做显存预估,避免启动后因 OOM 中断
  • 训练后评测工具调用准确率与文本相似度,并导出 LoRA、合并权重或 GGUF 供 Ollama

适合人员

  • 想在 DeepSeek Harness 里用面板完成导入—训练—评测的人
  • 有 NVIDIA 显卡与足够显存、主要面向 Windows 已验证环境的使用者
  • 需要用可量化指标验收微调效果并产出适配器或 GGUF 的开发者