按标签浏览
# 流式推理 / streaming & reasoning(13)
CodeBuddy 模型推理插件,支持 OAuth 登录、动态加载账号模型目录、流式请求及多档推理等级选择,兼容国内与国际版站点。
通过 ChatGPT Codex OAuth 流程接入 Codex 模型的独立 DSH 插件,支持流式输出、工具调用、推理及自动令牌刷新。
挂在 llm/stream 上监测推理流塌缩刷屏,命中短句/段落重复等规则时断流并以 finish(error) 结束,避免半截垃圾进入对话历史。
为 DeepSeek Harness 添加画中画浮动聊天窗,支持会话切换、流式跟随与免页发送,Chromium 原生置顶或页内回退。
为 DeepSeek Harness 提供 LongCat-2.0 模型适配,支持 1M 上下文、思维模式与工具调用,SSE 流式输出。
OpenAI 兼容本地 HTTP 网关,在本地端口暴露 DeepSeek Harness 已配置的全部模型,请求经 Harness 适配器转发,网关不存储凭据。
DSH 流式推理防复读插件:边收 reasoning 边判打转,命中即截断该段思考,避免退化内容被回灌放大。
将 Claude 与 ChatGPT(Codex)订阅经 OAuth 接入为 DSH 推理路由,支持流式对话、会话模型选择与订阅用量展示,无需 API Key。
针对 Node undici 约 300 秒流体空闲超时导致长停顿 LLM 流误报 TRANSPORT 的问题,进程级放宽 fetch 超时,便于自托管推理端点。
对 LLM 中继 /v1/messages 流式请求做 TTFT 对冲:deadline 内无响应头则并行第二请求先到先用,5xx/504 重抽,4xx/429 原样返回,附统计。
在 DSH 页面漂浮一只半透明鲸鱼精灵,点击即开轻量临时聊天窗口,支持流式输出与自定义端点,不影响会话历史。
为 DeepSeek Harness 接入已登录的 Grok Build 官方账号,支持动态模型发现、流式推理、图片输入与 Web/X 搜索。