DSH Plugins
返回列表
⚙️

dsh-session-eval

工作流 更新于 2026.10.12

在终端中运行以下命令:

dsh plugin install kittimzhe/dsh-session-eval

将以下提示词粘贴到 DeepSeek Harness 对话框中:

在 DeepSeek Harness 中执行 dsh plugin install kittimzhe/dsh-session-eval,或按文档从 https://github.com/kittimzhe/dsh-session-eval 安装插件包。

插件介绍

改完插件、提示词或模型之后,你往往只能凭感觉判断 Agent 是否更稳了——基准可以绿灯,真实会话却可能在悄悄变差。dsh-session-eval 针对的是这种「事后复盘」场景:它不替你重新跑用例,也不请 LLM 当裁判,而是直接读取已经落盘的会话日志,用文档化、固定的阈值打出可复现的评分卡,并支持跨会话对比,回答「这次改动让表现变好还是变坏了」。

核心能力围绕三条命令展开:/eval 为当前或指定会话生成等级卡;/eval-diff 在两次会话之间做带噪声容差的回归对比;/eval-history 在工作区内批量评分最近 N 次会话并汇总趋势。评分维度包括可靠性(工具错误率)与 Re-ask(用户连续追问的纠偏信号)等,综合等级取各维度中最差一档,设计偏保守。同一套日志每次输入都会得到相同结果,没有采样、没有模型参与评判,因此 diff 结果适合当作回归信号长期跟踪。

它与 dsh-session-export、dsh-session-recall 同属会话工具链:导出回答「发生了什么」,回忆回答「以前做过什么」,本插件则负责「那次会话好不好、趋势是否在改善」,三者都经由 sessionQuery 读取,JSONL 或 SQLite 后端均可。

适合在真实工作流里迭代 Harness 配置的人——例如对比某次 prompt 调整前后各十条会话,若可靠性持续回归,往往比单次 benchmark 更能反映日常使用中的损伤。若你需要事先编写 YAML 用例做部署前压测,应搭配 dsh-eval;两者互补,一个看预测,一个看实际发生的事。

使用场景

  • 改完提示词或插件后,对比改动前后若干次会话的评分与趋势
  • 为当前或指定会话快速生成可靠性、Re-ask 等等级卡
  • 用 /eval-history 批量评分工作区内最近 N 次会话,发现持续性可靠性回归

适合人员

  • 在真实任务里迭代 DeepSeek Harness 配置的个人开发者
  • 维护 Agent 插件或提示词、需要可复现质量信号的贡献者
  • 希望用已有日志做事后复盘、而非另写基准用例的团队