DSH Plugins
返回列表
🤖

dsh-llm-finish-reason-tolerance

模型推理 更新于 2026.08.25

在终端中运行以下命令:

dsh plugin install michael-han-il/dsh-llm-finish-reason-tolerance

将以下提示词粘贴到 DeepSeek Harness 对话框中:

要在 DeepSeek Harness 中安装该插件,请运行 `dsh plugin install michael-han-il/dsh-llm-finish-reason-tolerance`,该插件源码位于 https://github.com/michael-han-il/dsh-llm-finish-reason-tolerance。

插件介绍

在使用 DeepSeek Harness 与某些 OpenAI 兼容提供商(如 Snowflake Cortex)时,经常会遇到一个棘手的兼容性问题。这些服务虽然在流式传输中正确发送了 `data: [DONE]`,却从未在响应中包含标准的 `finish_reason` 字段。这会导致 Harness 的模型客户端将其误判为流截断错误,从而终止整个对话回合,尽管实际内容已经完整返回。

`dsh-llm-finish-reason-tolerance` 插件正是为了解决这一痛点而生。它作为 Harness 的全局监听器,精准拦截并重写特定的流结束错误。通过智能判断已发送的内容类型,它能将原本的“传输失败”转化为正常的“成功结束”状态,确保 Agent 能够自然地完成当前回合,而不会因为一个缺失的元数据字段而中断任务。

这个插件非常适合正在集成 DeepSeek Harness 的开发者,特别是那些需要支持 Snowflake Cortex 或其他类似行为提供商的团队。它无需修改底层代码,只需安装并重启即可生效,极大地提升了 Harness 对非标准 OpenAI API 实现的兼容性和鲁棒性。

使用场景

  • 集成 Snowflake Cortex 模型网关
  • 解决流式响应缺少结束标志的问题
  • 确保 DeepSeek Harness 与非标准 API 的兼容性

适合人员

  • 使用 DeepSeek Harness 的 AI 开发者
  • 集成复杂 LLM 网关的架构师
  • 处理非标准 API 响应的运维工程师