auto-mouse
在终端中运行以下命令:
dsh plugin install Fish121380/auto-mouse
将以下提示词粘贴到 DeepSeek Harness 对话框中:
在 DeepSeek Harness 中执行 dsh plugin install Fish121380/auto-mouse,从 https://github.com/Fish121380/auto-mouse 拉取插件并注册 MCP 端点,按提示确认端口 49153 后即可使用。
插件介绍
大语言模型推理能力日益强大,却至今难以真正"看见"你的桌面。auto-mouse(Little Mouse Pointer)解决的正是这一断层:它是一个专门面向 AI agent 的 Windows 桌面上下文选取器,让你用鼠标框选任意窗口、控件或屏幕区域,系统随即通过 UI Automation 树、高清截图和本机 OCR 三条通道提取结构化上下文,再经 MCP stdio 接口交付给 OpenAI Codex、DeepSeek Harness 或任何兼容客户端——全程本地完成,隐私数据不离开机器。
核心工作流围绕三个 MCP 工具展开:ui_context_pick 发起一次交互选取并返回窗口标题、控件层级、截图与识别文本;ui_context_current 随时查询当前缓存的上下文快照;ui_context_clear 在任务结束后主动清除,避免残留。发行包为 self-contained 的 Windows x64 可执行文件,无需额外安装 .NET 运行时,配置一条 MCP 端点即可接入现有工作流。
如果你在日常开发中频繁需要让 AI 理解某个 GUI 的状态——读一段报错弹窗、辨认一个表单的字段结构、或截取一块区域让模型分析布局——而又不想把屏幕数据上传到第三方 OCR 服务,那么这个轻量、本地、即插即用的工具值得纳入你的 AI 工具链。
使用场景
- 框选报错弹窗,让 AI 读取控件文本快速定位问题
- 截取表单区域,用本机 OCR 识别字段结构辅助代码生成
- 选取窗口布局,让模型分析 UI 层级并给出改进建议
适合人员
- 使用 DeepSeek Harness 或 Codex 搭建 AI 编程助手的开发者
- 需要 AI 理解桌面 GUI 状态又不愿上传屏幕数据到云端的用户
- 在 Windows 上构建桌面自动化工作流的工程师