dsh-gpu
在终端中运行以下命令:
dsh plugin install zytsyj/dsh-gpu
将以下提示词粘贴到 DeepSeek Harness 对话框中:
在 DeepSeek Harness 中安装 dsh-gpu 插件,请运行命令 dsh plugin install zytsyj/dsh-gpu,源码地址为 https://github.com/zytsyj/dsh-gpu。
插件介绍
在 AI 模型开发和推理中,GPU 资源管理常常是一个瓶颈,尤其在涉及多任务或分布式环境时。dsh-gpu 作为 DeepSeek Harness 的 GPU 感知执行层插件,解决了这一问题:它无缝集成到 Harness 的 shell 执行器中,让代理能够自动选择空闲 GPU,执行命令和管理后台任务,从而简化 GPU 资源的分配与监控。核心能力包括实时查询 GPU 状态(如内存使用率、温度)、一次性命令执行和长期任务的后台运行,所有操作均支持本地或远程执行环境,无需额外配置。这款插件适合使用 DeepSeek Harness 进行模型推理、训练或基准测试的开发者和团队,尤其是那些需要高效利用多 GPU 资源以优化工作流的用户。
使用场景
- 实时监控 GPU 状态以优化资源分配。
- 执行 GPU 加速的模型训练或推理命令。
- 管理长期运行的后台 GPU 任务,如基准测试。
适合人员
- AI 模型开发者,需要高效利用 GPU 资源。
- 系统管理员,负责维护多 GPU 服务器。
- 研究人员,进行实验和性能测试。