DSH Plugins
返回列表
modelspoke

modelspoke

模型推理 更新于 2026.09.05

在终端中运行以下命令:

dsh plugin install americanjeff/modelspoke

将以下提示词粘贴到 DeepSeek Harness 对话框中:

在 DeepSeek Harness 终端执行 dsh plugin install americanjeff/modelspoke 即可安装该插件,源码地址为 https://github.com/americanjeff/modelspoke ,安装后重启 dsh 一次,再在 web UI 的 Settings 页面中打开 modelspoke 配置即可开始使用。

插件介绍

通过 DeepSeek Harness 连接本地或 OpenAI 兼容模型服务器时,内置的自定义 provider 机制存在明显短板:无法自动发现模型能力、不支持图像输入、没有推理力度设置入口,也缺少统一的管理界面。modelspoke 正是为填补这些空白而生的插件。

它提供了针对 llama-swap 和 Ollama 的一级能力发现,内置 llama-server、vLLM、sglang 等常见后端的模型预设表,并在 dsh Web UI 中提供完整的设置页面——添加 provider、逐项编辑上下文窗口、最大输出 token、推理力度映射、图像输入等字段,还能为同一底层模型维护多套配置档案。此外,它修复了上游会话聊天中内联图片缺失支持的问题。

适合运行多台本地 OpenAI 兼容服务器、通过 llama-swap 或 Ollama 管理大量本地模型、并希望用单一入口替代逐条手改 provider 配置的开发者。

截图预览

使用场景

  • 运行多台本地 OpenAI 兼容服务器,在 Harness 中集中配置与切换
  • 使用 llama-swap 或 Ollama 管理大量本地模型,自动读取能力元数据
  • 为不同模型逐项设置推理力度、图像输入、上下文窗口等参数

适合人员

  • 本地模型爱好者与独立开发者
  • 通过 llama-swap 或 Ollama 维护大模型仓库的管理者
  • 需要统一入口替代逐条手改 provider 配置的 Harness 用户