dsh-llm-ai

模型推理更新于 2026.08.27

在终端中运行以下命令：

dsh plugin install WooLeo1995/dsh-llm-ai

将以下提示词粘贴到 DeepSeek Harness 对话框中：

在已安装 DeepSeek Harness 的终端中执行 dsh plugin install WooLeo1995/dsh-llm-ai，CLI 会自动完成 npm 安装、bundle patch 挂载与 llm-pi-ai 替换；插件源码地址为 https://github.com/WooLeo1995/dsh-llm-ai 。

插件介绍

在 DeepSeek Harness 生态中，LLM 推理层长期依赖 pi-ai 这一外部实现，导致供应商覆盖受限、协议扩展僵硬、故障归因困难。dsh-llm-ai 彻底替换了这一依赖：它以社区维护的 models.dev 注册表为唯一模型事实源，用原生 fetch + SSE 流式管线完成请求，不引入任何 pi-ai 代码路径，同时保留与现有 ctx.llm 接口的完全兼容。

核心能力集中在三处。第一，动态路由：providers 字典与用户设置逐供应商合并，新增、改写、停用网关均可在下一条请求即生效，无需重启进程；203 个 models.dev 供应商全部声明在配置目录中，诚实标注当前不可服务的协议族。第二，推理与兼容性控制：三级或四级 reasoning 声明逐级别映射到实际 wire 拼写，maxTokensField、supportsDeveloperRole、thinkingFormat 三个兼容开关按模型→路由→协议默认三级回退解析，未知键直接拒绝而非静默丢弃。第三，稳健的运行时语义：14 类稳定错误码区分可重试与不可重试故障，流空闲看门狗、图像 offload、工具调用原始字符串参数、usage 与 cache-hit 计量一应俱全；注册表缓存到磁盘，离线启动仍可服务。

它适合这样的场景：你在 DSH Desktop 或 Harness 0.1.1-rc 线中需要多供应商 openai-completions 推理，又不想被 pi-ai 的协议绑定拖住；你需要在离线环境或弱网条件下保持模型目录可用；你希望错误归因有明确分类、密钥永远不落在配置文件中。如果你已经在用 llm-pi-ai 且运行稳定，这个插件提供了无破坏性的替换路径——凭据引用、路由命名、设置层语义均保持向后兼容。