dsh-ai-output-trust

admin-security 更新于 2026.10.16

在终端中运行以下命令：

dsh plugin install feely0208/dsh-ai-output-trust

将以下提示词粘贴到 DeepSeek Harness 对话框中：

在 DeepSeek Harness 中执行 dsh plugin install feely0208/dsh-ai-output-trust，或按插件市场说明从 https://github.com/feely0208/dsh-ai-output-trust 安装 dsh-ai-output-trust。

插件介绍

在 Agent 与 AI 应用里，让模型生成脚本再执行听起来省事，但模型输出本质是不可信输入：提示注入、幻觉或越权指令都可能混进同一段文本。一旦把 AI 回复直接交给 eval、子进程、SQL 或文件系统，就等于把任意代码执行权交给概率模型，OWASP 将其归为 LLM05 不当输出处理。

dsh-ai-output-trust 专注 AI 输出信任边界：在代码里查找四类明确高危用法，包括动态执行（eval、new Function）、将 AI 输出拼进 shell 调用、拼进 SQL，以及以 AI 给出的路径做文件访问（含路径穿越风险）。它用精确变量命名识别 AI 或 LLM 相关数据，而不是见到 .content 就报警，因此只调模型却把结果当不可信输入处理的常见写法不会被误伤。

适合接入大模型、编排 Agent，或评审模型输出是否被直接落地执行的研发与安全团队。插件只做调用点附近的静态检查，不做完整数据流分析；建议统一 ai、llm、model 等前缀命名以减少漏报。与查 CI 脚本注入的 dsh-ci-guard 分工不同：本插件面向运行时代码里的输出信任问题。