DSH Plugins
返回列表
🤖

dsh-ctx-probe

模型推理 更新于 2026.09.08

在终端中运行以下命令:

dsh plugin install IYIcode/dsh-ctx-probe

将以下提示词粘贴到 DeepSeek Harness 对话框中:

在 DeepSeek Harness 中执行 dsh plugin install IYIcode/dsh-ctx-probe 即可安装该插件,源码地址为 https://github.com/IYIcode/dsh-ctx-probe 。

插件介绍

llm-pi-ai 对未声明 contextWindow 的模型默认套用 262144 token 兜底。如果你的 llama.cpp 以 -c 65536 启动,内置的 80% 压力压缩永远触发不了,第一个超长请求直接 400 溢出。手动改设置容易忘,服务器重启换了窗口大小又得再改一遍。dsh-ctx-probe 针对的就是这个场景:在每次模型调用前查询服务器真实的运行时窗口(meta.n_ctx,而非训练期的 n_ctx_train),再把 DSH 配置对齐到该值。服务器改小,溢出前自动收紧;服务器改大,自动放宽。双向同步,全程零填写。

探测策略覆盖 llama.cpp /v1/models、/slots、/props 以及 Ollama /api/show 四个端点,取第一个可用结果。本机地址每次请求都重新探测,服务器重启后下一条消息即生效;远端地址走约 10 分钟 TTL 缓存,配合单飞与指数退避防止探测风暴。插件侧所有错误静默吞掉,探测失败永远不会拖垮 agent 循环。

如果你把本地推理服务器接入 DSH、又不想在每次重启后手动调窗口,这个插件安装并重启 Web Host 之后即可持续工作。完全自包含,不改 node_modules,不依赖任何 @deepseek-ai 包,与手动目录或定时拉取类插件的本质区别在于:请求时实时探测、双向自动同步。

使用场景

  • 本地 llama.cpp 启动参数与 DSH contextWindow 不一致导致 400 溢出
  • Ollama 模型未声明 contextWindow,内置兜底值过大压缩无法触发
  • 服务器重启后窗口大小变化,需要下一条请求即自动对齐

适合人员

  • 在 DSH 中接入本地推理服务器、不想手动维护窗口值的开发者
  • 使用 llama.cpp 或 Ollama 做本地 LLM 部署并频繁调整 -c 参数的用户
  • 希望 agent 循环中探测失败不影响主流程的 DSH 使用者