DSH Plugins
返回列表
dsh-model-router

dsh-model-router

模型推理 更新于 2026.08.26

在终端中运行以下命令:

dsh plugin install tianji-qingtian/dsh-model-router

将以下提示词粘贴到 DeepSeek Harness 对话框中:

要在 DeepSeek Harness 中安装此插件,请运行命令:dsh plugin install tianji-qingtian/dsh-model-router,完整源码地址为 https://github.com/tianji-qingtian/dsh-model-router。

插件介绍

在使用大型语言模型时,成本控制与服务可靠性是关键挑战。dsh-model-router 为 DeepSeek Harness 提供了一个智能路由与优化方案,它能自动识别简单问题,并将其直接路由到廉价模型回答,从而大幅降低日常使用成本。同时,插件内置了故障回退机制,当服务提供商出现临时性错误时,能自动切换到廉价模型重试,确保对话不中断。

该插件的核心能力在于其精细的路由判断:通过零前缀闪存调用,它能以极低延迟区分简单查询与复杂任务,并将前者快速处理。它还支持视觉感知路由,能正确处理包含图像的消息,避免在文本模型上盲目回答。实时统计功能则通过 Composer 停靠面板,清晰展示每次会话的令牌使用、缓存命中率和估算成本,帮助用户透明化开支。在自动模式下,它还会主动询问用户选择,平衡自动化与控制权。

dsh-model-router 特别适合需要优化 AI 模型使用成本的开发者、研究人员或企业用户。无论是处理高频简单查询的客服场景,还是追求成本效益的日常开发,它都能通过智能路由显著提升效率。对于重视服务稳定性的用户,其自动故障回退功能提供了额外保障,让模型推理更加健壮可靠。

截图预览

使用场景

  • 当用户提出简单查询时,插件使用廉价模型直接回答,节省开支。
  • 在服务出现临时错误时,自动回退到廉价模型,确保对话不中断。
  • 通过 Composer 面板实时查看令牌使用和成本,优化模型开销。

适合人员

  • DeepSeek Harness 的开发者,希望降低模型推理成本。
  • 企业用户,需要处理大量简单查询,控制运营开支。
  • AI 研究人员,进行实验时寻求成本效益的解决方案。