dsh-llm-friendli
在终端中运行以下命令:
dsh plugin install Lee-Si-Yoon/dsh-llm-friendli
将以下提示词粘贴到 DeepSeek Harness 对话框中:
运行 dsh plugin install 命令即可在 DeepSeek Harness 中安装该插件,完整源码见 https://github.com/Lee-Si-Yoon/dsh-llm-friendli
插件介绍
DeepSeek Harness 内置的推理服务商数量有限,FriendliAI 上的模型无法直接接入使用。dsh-llm-friendli 正是为解决这个问题而生:它基于 Friendli 的 OpenAI 兼容聊天接口实现了 harness 的 LlmAdapter 契约,将 Friendli 注册为一等公民服务商,无需手写任何配置文件即可即用。
插件的核心能力有两点。其一,模型目录在运行时从 Friendli 实时拉取,新上线的模型会立刻出现在 dsh web 界面中,无需手动维护模型 ID。其二,API 密钥每次请求都从环境变量读取,从设计上确保密钥不会出现在配置文件或代码仓库中,兼顾安全与便利。
如果你已经拥有 FriendliAI 账号,希望在 dsh web 界面里直接挑选 Friendli 模型进行对话或推理,或者需要让外部 Agent 通过 Harness 流水线调用指定的 Friendli 模型,这个插件就是为你准备的。
使用场景
- 在 dsh web 界面中直接挑选 Friendli 模型进行对话或推理
- 让外部 Agent 通过 Harness 流水线调用指定的 Friendli 模型
- 无需手动维护模型 ID,自动发现 Friendli 新上线的模型
适合人员
- 已有 FriendliAI 账号、希望接入 Harness 生态的开发者
- 需要多服务商切换的 LLM 应用构建者
- 重视 API 密钥安全管理、偏好环境变量而非硬编码配置的用户