dsh-session-concurrency
在终端中运行以下命令:
dsh plugin install MingoYung/dsh-session-concurrency
将以下提示词粘贴到 DeepSeek Harness 对话框中:
在 DeepSeek Harness 中执行 dsh plugin install MingoYung/dsh-session-concurrency,或从 https://github.com/MingoYung/dsh-session-concurrency 获取构建产物后在「插件 → 添加插件」中安装并启用。
插件介绍
本地模型在固定硬件与推理配置下,往往只能稳定承载一路并发。主 Agent 与多个子 Agent 同时向同一服务发请求时,请求会在后端排队、通道长时间被占,响应变慢,有时还会出现生成速度明显下降。仅把子 Agent 数量设为 1 仍不够:主 Agent 与子 Agent 仍可能同时争用同一路推理能力。
本插件是 DeepSeek Harness 原生扩展,在输入框左侧提供会话级控制:用 1–10 滑杆设定当前根会话及其子孙 Agent 最多同时运行的模型推理流数,主 Agent 计入额度。选 1 时,同一会话内推理请求依次执行,超额请求在 DSH 侧异步等待,由程序监听状态,无需主模型轮询或临时放宽通道。其他主会话可独立设置;本地单路与云端会话可分别保留「宿主默认」或更高额度。
额度限制的是同时进行的推理请求,而非子任务能否被创建或驻留。插件还提供状态面板,区分实际推理、排队、让位等待与暂停任务等;设置持久化到本地,子会话显示「并发 继承」。适配 DSH NEXT 与对应内核版本的扩展接口,覆盖 llm/stream 路径上的常用本地模型与进程内子 Agent 派发。
适合在本地部署、当前只能高效跑单路推理的模型服务上跑多 Agent 工作流的用户;也适合本地与云端混用时,希望按会话精细控压、避免来回改全局设置的场景。实际延迟与 tok/s 改善取决于模型、硬件与后端,插件的目标是减少同一会话内的请求竞争,而非保证整体提速。
使用场景
- 本地 Qwen 等单路推理服务上跑主 Agent 加多个子 Agent
- 多分支 subagent 派发导致后端队列堆积、响应变慢
- 同一台机器上本地会话设 1、云端会话保留更高并发
适合人员
- 本地部署 DeepSeek Harness、模型只能高效单路推理的用户
- 频繁使用原生子 Agent 或多 Agent 工作流的开发者
- 本地与云端模型混用、需要按会话控压的团队