dsh-fine-tune
在终端中运行以下命令:
dsh plugin install songrui111/dsh-fine-tune
将以下提示词粘贴到 DeepSeek Harness 对话框中:
在 DeepSeek Harness 的插件市场中使用命令 dsh plugin install songrui111/dsh-fine-tune 安装本插件,开源地址为 https://github.com/songrui111/dsh-fine-tune。
插件介绍
如果你在 DeepSeek Harness 里想把**本机已下载的开源小模型**按自己的数据习惯来调一版,而不是反复手搓命令行和零散脚本,这个插件把「导入数据、训练、评测」收进一个面板里,让流程一眼看清、步步可走。
核心能力围绕 QLoRA / LoRA:支持从 JSONL 导入对话数据,训练前给出数据卡(样本量、token 分布、去重等)并做显存预估,放不下就不启动,减少训到一半 OOM 的挫败。训练后可在「评测与发布」里拿到**工具调用准确率**和文本相似度这类可判定的数字,并把产物做成 LoRA 适配器;需要交付或本地跑推理时,还可合并权重并导出 GGUF 给 Ollama。
它明确**不能**微调你正在对话的云端大模型(你没有对方权重),也受硬件边界约束:需要带 CUDA 的 NVIDIA 显卡与足够显存,文档也以「已知在 Windows + 指定配置跑通」为前提说明其他环境可能未验证。
因此它最适合:已经在 Harness 生态里、希望用 JSONL 快速试水或迭代小模型行为、并能接受按显存规模选择模型与序列长度的开发者或爱好者;若你的目标是「把云上大模型变成你的专用版」,需要先理解它训练的是你可下载、可部署的开源权重这一前提。
使用场景
- 用 JSONL 对话数据在本机 NVIDIA GPU 上微调 Qwen / Llama 系小模型
- 在训练前查看数据卡并做显存预估,避免启动后因 OOM 中断
- 训练后评测工具调用准确率与文本相似度,并导出 LoRA、合并权重或 GGUF 供 Ollama
适合人员
- 想在 DeepSeek Harness 里用面板完成导入—训练—评测的人
- 有 NVIDIA 显卡与足够显存、主要面向 Windows 已验证环境的使用者
- 需要用可量化指标验收微调效果并产出适配器或 GGUF 的开发者