DSH Plugins
返回列表
dsh-slot-health

dsh-slot-health

客户端 更新于 2026.10.16

在终端中运行以下命令:

dsh plugin install janpauldahlke/dsh-slot-health

将以下提示词粘贴到 DeepSeek Harness 对话框中:

在 DeepSeek Harness 中执行 dsh plugin install janpauldahlke/dsh-slot-health,或按 https://github.com/janpauldahlke/dsh-slot-health 说明将插件加入 Web 配置后重启 dsh web 并硬刷新。

插件介绍

本地跑 llama.cpp 或 Ollama 时,槽位、忙碌与否、模型是否常驻往往散落在原始接口里,很难一眼判断服务是否卡住还是在正常推理。dsh-slot-health 在 DeepSeek Harness Web 右侧栏提供「Slot Health」视图,每秒采样一次,把端点状态整理成可读的面板,而不是一长串未解释的 JSON。

插件通过请求形态自动识别后端类型,不会在界面上把 Ollama 说成 llama 那套词汇。对 llama.cpp,忙碌状态只依据 is_processing,并在主机侧计算 TTFT 与忙碌时长;还会在疑似卡死时给出明确提示。对 Ollama,区分「可达但未加载」与「已常驻模型」,并在 MODELS 卡片展示常驻详情;页眉与底部 dock 芯片会标明引擎与状态(例如 llama · busy、ollama · loaded)。

整体为只读监控:不向端点发起加载、卸载或终止操作,适合已在同一台机器上用 DSH Web 配置本地 OpenAI 兼容或原生端点、需要持续观察推理槽与模型加载情况的开发者与运维。

截图预览

使用场景

  • 本地 llama-server 多槽推理时快速看清哪一格真在忙
  • Ollama 常驻模型与空载状态分开看,避免把 reachable 误判成错误
  • 长时间生成疑似卡住时依赖 wedged 提示而不是永远显示 busy

适合人员

  • 在同一台机器上用 DSH Web 接本地推理端点的开发者
  • 需要盯 llama.cpp 槽位与 Prometheus 指标的同学
  • 用 Ollama 做本地模型常驻与调试的运维或爱好者