给 AI 智能体装上『手和眼』的开源 CLI:不靠截图识图,直接读系统无障碍树操作桌面应用,快照返回带 ref 的 JSON,定位准还省 token。想做电脑自动化代理、RPA、接自动化单子的值得看;要会写代码,纯小白门槛不低。
项目自述 · 据 README 提炼
让 AI 智能体操作电脑,传统做法靠截图加像素识别,慢、贵、容易点错。agent-desktop 换了个思路:通过操作系统无障碍树(accessibility tree)读取桌面应用,一次快照返回 JSON,每个可操作元素都带一个 ref,智能体对 ref 执行动作后再快照确认,全程不做像素匹配,操作循环留在你自己的智能体代码里。它同时是 CLI 和 C 库,覆盖 macOS、Windows、Linux,每条 CLI 命令在独立进程运行,无头调用也禁止前台激活与合成输入。上手很简单:npm install -g agent-desktop,Bun/Yarn/pnpm 同样能装,内置 x64 与 ARM64 原生二进制;不想走 JS 启动器可直接从 GitHub Releases 下载对应平台压缩包,Homebrew 和 Scoop 官方包在提交中。注意:快照、剪贴板、截图、命令输出都可能包含私人桌面内容,别传公开日志。另附可选的 JEV 辅助工具,把屏幕描述发给配置好的模型提供商。适合正在写电脑操作智能体、做桌面自动化的开发者;想接自动化外包的新手可以研究,但需要一定编程基础。
vercel-labs/agent-desktop
2026-11-03 榜单 · ★ 2,275(进页自动刷新) · 本期涨星 +2275 · 语言 Rust
做AI项目,先看AI雷达 - AiRadar.com.cn · 全部GitHub热榜 →