dsh-session-slm-router
在终端中运行以下命令:
dsh plugin install NinjaSln-labs/dsh-session-slm-router
将以下提示词粘贴到 DeepSeek Harness 对话框中:
在 DeepSeek Harness(cordis)终端中执行 dsh plugin install NinjaSln-labs/dsh-session-slm-router 即可安装,插件源码托管于 https://github.com/NinjaSln-labs/dsh-session-slm-router 。
插件介绍
DeepSeek Harness 的多轮会话中,模型档位一旦确定便固定不变,轻量提问与复杂推理共享同一套算力。dsh-session-slm-router 针对这一痛点,在每一轮调用外部 vertical-small-model CLI 对用户发言做强弱分类预测,为后续动态路由积累真实流量数据。
插件默认运行在 shadow 模式:只预测、只写本地 JSONL 影子日志,绝不触碰当前会话的活跃模型。日志字段包括预测档位、置信度、决策标签及脱敏后的发言摘要(SHA-256 前 16 位 + 前 80 字),便于团队离线复盘路由质量。准备进入灰度时,切换 weak-only 模式即可放行单向降档换模,不会升档、不会改写用户持久化的模型偏好。内置槽位健康缓存会根据 provider 存活与实测可用性动态调整生效顺序,避免请求打到已注销或不可用的端点。
适合已在 cordis 宿主上部署 vertical-small-model CLI、希望以零风险观察、灰度、放量的节奏引入 SLM 路由的开发者与平台运维。整个插件运行时零额外依赖,测试使用 Node 内置 runner 且不触网,接入成本极低。
使用场景
- 观察多轮会话中哪些轻量请求可路由给小模型
- 灰度验证降档换模后用户侧延迟与成本变化
- 离线复盘 CLI 预测准确率与槽位健康缓存效果
适合人员
- 已在 cordis 宿主上部署 vertical-small-model CLI 的开发者
- 希望零风险引入 SLM 路由、先观察再放量的平台运维
- 需要按轮次采集脱敏路由决策日志用于效果复盘的算法团队