DSH Plugins
返回列表
🤖

jev-harness-router

模型推理 更新于 2026.09.28

在终端中运行以下命令:

dsh plugin install mattlennon/jev-harness-router

将以下提示词粘贴到 DeepSeek Harness 对话框中:

在 DeepSeek Harness 中执行 dsh plugin install mattlennon/jev-harness-router 安装本插件,源码与文档见 https://github.com/mattlennon/jev-harness-router。

插件介绍

在 DeepSeek Harness 上同时对接多家 Chat Completions(DeepSeek、Kimi、智谱等)时,模型能力、价格与推理形态各不相同,若全靠手工切换,很难在真实对话里兼顾成本、质量与可观测性。jev-harness-router 以 TypeScript 插件形式把「该用哪一档、哪一家」变成可配置、可度量的路由决策,而不是每次改环境变量或硬编码模型名。

插件覆盖文本对话、函数工具调用、厂家推理回放与 SSE 流式输出,并围绕新版 Harness 适配请求消息、独立 tool 消息、完整工具投影与受管 LlmAdapter。economy 与 strong 两个逻辑档位可登记任意数量的厂家与模型;路由支持 off、shadow、auto 等模式,配合固定模型、最多一次自动升级、SQLite 原子预留与重启恢复,在预算与用量维度做逐次记录(usage、缓存、推理、费用、首 token 延迟等),并具备质量门槛、预计费用排序、前缀缓存观察、工具结果压缩与可追溯检查点等能力。

适合正在用 Harness 搭建 Agent 或对话宿主的开发者:需要统一接入多家 API、希望在联调阶段用 shadow 对照路由效果、上线前完成校准后再启用 auto,且要在多轮工具调用场景下看清每一跳花了多少钱、何时升级档位。项目明确不提供图像/音视频、自动厂家故障迁移或管理 UI;预计费用与质量门槛需自行校准,不能替代真实任务评测。

集成时与 Harness 0.1.7-rc.2 / Cordis 4.0.4 对齐,宿主需挂载 llm 与 tools,Agent 的 provider/model 使用配置中的受管路由。未显式 beginTask 时会用首次用户输入创建会话任务;跨模型不直接移植原始推理状态,新业务应结束旧任务后再开始,必要时借助检查点保留证据。

使用场景

  • 在 Harness Agent 中按 economy/strong 双档自动选择 DeepSeek、Kimi 或智谱等模型
  • 多轮工具调用场景下追踪每次请求的用量、费用、延迟并控制升级预算
  • 先用 shadow 对照路由效果,校准后再启用 auto 进行生产对话

适合人员

  • 基于 DeepSeek Harness 与 Cordis 构建 Agent 或对话宿主的开发者
  • 需要统一接入多家 Chat Completions 并做成本可控推理的团队
  • 要在上线前完成路由验证、用量对账与检查点追溯的集成工程师