dsh-llm-finish-reason-tolerance
在终端中运行以下命令:
dsh plugin install michael-han-il/dsh-llm-finish-reason-tolerance
将以下提示词粘贴到 DeepSeek Harness 对话框中:
要在 DeepSeek Harness 中安装该插件,请运行 `dsh plugin install michael-han-il/dsh-llm-finish-reason-tolerance`,该插件源码位于 https://github.com/michael-han-il/dsh-llm-finish-reason-tolerance。
插件介绍
在使用 DeepSeek Harness 与某些 OpenAI 兼容提供商(如 Snowflake Cortex)时,经常会遇到一个棘手的兼容性问题。这些服务虽然在流式传输中正确发送了 `data: [DONE]`,却从未在响应中包含标准的 `finish_reason` 字段。这会导致 Harness 的模型客户端将其误判为流截断错误,从而终止整个对话回合,尽管实际内容已经完整返回。
`dsh-llm-finish-reason-tolerance` 插件正是为了解决这一痛点而生。它作为 Harness 的全局监听器,精准拦截并重写特定的流结束错误。通过智能判断已发送的内容类型,它能将原本的“传输失败”转化为正常的“成功结束”状态,确保 Agent 能够自然地完成当前回合,而不会因为一个缺失的元数据字段而中断任务。
这个插件非常适合正在集成 DeepSeek Harness 的开发者,特别是那些需要支持 Snowflake Cortex 或其他类似行为提供商的团队。它无需修改底层代码,只需安装并重启即可生效,极大地提升了 Harness 对非标准 OpenAI API 实现的兼容性和鲁棒性。
使用场景
- 集成 Snowflake Cortex 模型网关
- 解决流式响应缺少结束标志的问题
- 确保 DeepSeek Harness 与非标准 API 的兼容性
适合人员
- 使用 DeepSeek Harness 的 AI 开发者
- 集成复杂 LLM 网关的架构师
- 处理非标准 API 响应的运维工程师