DSH Plugins
返回列表
🤖

dsh-strata

模型推理 更新于 2026.10.21

在终端中运行以下命令:

dsh plugin install averyjohnkucan-arch/dsh-strata

将以下提示词粘贴到 DeepSeek Harness 对话框中:

在 DeepSeek Harness 中打开「插件 → 添加插件 → GitHub」,粘贴 https://github.com/averyjohnkucan-arch/dsh-strata 后安装并启用,按提示刷新浏览器或重启 DSH。

插件介绍

想在 DeepSeek Harness 里跑 Strata Unleashed 的 GGUF,却不想自己拼命令行、对分片、配视觉投影和 MTP?dsh-strata 把模型档案、运行时安装、推理参数和可选的 Flash Next 实测调参收进「设置 → 模型 → Strata」一张卡片,与 DSH 对话模型选择器直接打通。

你可以从主机目录多选 GGUF,用「检查并分配」自动识别主模型、分片顺序、视觉投影与 MTP,并提示缺片或不受支持的格式。保存档案后,Start 会按需准备运行时与模型包(可取消、可看进度);也可挂接已在跑且模型 ID 匹配的外部服务。推理侧提供与引擎 help 对齐的 CLI 控件、完整 JSON 与环境变量编辑;可选「Tune saved profile」在当前 GPU 上测量并锁定你关心的项。还支持按模型配置 reasoning 等级、托管服务的 per-chat 原生 KV 检查点,以及与 dsh-model-scheduler 可选协同做 GPU admission。

适合已在本地 Web 版 DSH(0.2.1-rc.2 及以上)使用、愿意自备 CUDA/Python/CMake 等前提来构建或导入 Strata 引擎、并管理 Qwen4exp/Flash Next 等 Strata 生态模型的用户。它是独立 Cordis 包,不替换 DSH 界面,也不强绑其他插件;禁用或卸载后,~/.dsh/dsh-strata/ 里的档案与运行时数据仍可保留以便重装恢复。

使用场景

  • 在 DSH 里为多文件 GGUF 建档案并一键启动 Strata 推理服务
  • 对 Flash Next 档案做实测调参以平衡显存与解码速度
  • 需要视觉投影、MTP 与 per-chat KV 检查点的长对话本地部署

适合人员

  • 使用 DeepSeek Harness Web 本地配置的本机推理用户
  • 已具备 CUDA/Python 构建环境、想跑 Strata 引擎的进阶用户
  • 管理 Qwen4exp/Flash Next 等 Strata 生态模型与多档案的维护者