dsh-ascend-perf
在终端中运行以下命令:
dsh plugin install newpage1/dsh-ascend-perf
将以下提示词粘贴到 DeepSeek Harness 对话框中:
在 DeepSeek Harness 中执行 `dsh plugin install newpage1/dsh-ascend-perf` 即可从源码主仓 https://github.com/newpage1/dsh-ascend-perf 安装并重载后刷新页面使用。
插件介绍
在昇腾集群上跑推理,最怕两件事:不知道哪台卡还空着,以及改了一版配置却不知道吞吐或首 token 到底变好还是变坏。dsh-ascend-perf 把环境看清、部署管住、调优有据接到 DSH 侧边栏里,用一条工作流把「看资源—起服务—比结果」串起来,而不是在 SSH 终端和零散脚本之间来回切换。
插件单一侧栏分三段:环境信息通过本机或 SSH 只读执行 npu-smi,按多环境展示占用档位与逐卡状态,连接失败时保留上次快照并标明过期或抖动;服务部署在双门确认与配置许可下,仅为本插件自带的 dsh-apf-svc 容器做预览、启动、状态与停止,启动前做芯片空闲与路径等预检;性能调优导入 vLLM benchmark 与 msprof profile,在基线与候选之间做对比,并按规则生成带证据的洞察,支持演示数据在无 NPU 环境完成闭环。
适合在 DSH 里日常运维昇腾推理环境的 SRE、平台与算法工程师:需要快速找空闲机、在远端以容器方式受控拉起 vLLM、并把 benchmark 与算子热点对齐到同一面板的团队。环境采集与服务操作边界写得很清楚——不写远端、不改 NPU 状态,部署只动自有容器,凭据放在插件目录外的 ~/.config/ascend-perf/,降低误操作风险。
使用场景
- 多集群快速查看哪台昇腾卡空闲、哪台高负载
- 在 SSH 目标上以受控方式预览并启动 vLLM 容器服务
- 导入 benchmark 对比基线与候选并查看规则化调优洞察
适合人员
- 日常运维昇腾推理环境的 SRE 与平台工程师
- 需要在 Harness 内完成部署与对比的算法与推理工程师
- 管理多环境 NPU 占用与容器推理服务的团队