dsh-llm-governor
在终端中运行以下命令:
dsh plugin install young-tim/dsh-llm-governor
将以下提示词粘贴到 DeepSeek Harness 对话框中:
要在 DeepSeek Harness 中安装此插件,请运行 dsh plugin install young-tim/dsh-llm-governor,插件源码位于 https://github.com/young-tim/dsh-llm-governor。
插件介绍
在构建复杂的 AI 服务时,简单的模型调用往往无法满足多用户环境下的成本控制和权限管理需求。随着团队规模的扩大,如果没有统一的治理层,资源分配极易失控,且缺乏透明的审计追踪。`dsh-llm-governor` 正是为了解决这一痛点而生,作为 DeepSeek Harness 的原生扩展,它在不代理真实请求的前提下,为模型调用链注入了强大的治理能力。
该插件的核心在于其灵活的智能路由与严格的访问控制。它支持多种路由策略,包括手动选择、基于质量的 Quality First 以及基于额度的 Credit First,并能自动处理模型调用失败后的重路由,确保服务的稳定性。通过为每个用户分配月度 Credits 和精细化的模型画像(Lite/均衡/Pro),管理员可以精准地控制成本与性能,所有决策都会被记录在 Governor Trajectory 中,提供可追溯的审计日志。
无论是个人开发者想要在本地配置单一用户,还是小团队通过 Header 模式接入,亦或是大型企业利用 JWT 集成企业级 IdP,该插件都提供了灵活的适配方案。它专注于策略层,不侵入凭证管理,让 DSH 专注于推理本身。对于希望在现有架构上构建可扩展、安全且易于审计的 AI 服务的企业,这是一个不可或缺的治理利器。
使用场景
- 多租户 AI 服务成本控制
- 企业级模型访问权限管理
- AI 调用全链路审计追踪
适合人员
- 需要精细化成本控制的 AI SaaS 提供商
- 管理多用户 AI 调用权限的开发团队
- 对 AI 使用行为有审计要求的企业 IT 管理员