「假电脑」教AI用电脑,出的题连GPT
「假电脑」教AI用电脑,出的题连GPT-6 Astra都做不对
2026年11月07日 06:39
你是否也好奇 GPT-6 Astra 惊人的 computer-use agent (CUA) 电脑使用能力如何训练得到?
来自微软研究院 (Microsfot Research), 北卡罗来纳大学教堂山分校 (UNC-Chapel Hill), 佐治亚理工大学 (Gatech), 和美国东北大学 (Northeastern University) 的研究者提出了最新研究成果 WildAWM。
论文标题:Agent World Model in the Wild: Computer-Use Agent Environment Synthesis
arXiv 链接:https://arxiv.org/abs/2610.26828
项目主页:https://msr-orchard.github.io/WildAWM/
开源代码:https://github.com/MSR-Orchard/WildAWM
开源环境、任务与模型:https://huggingface.co/collections/ChilleD/agent-world-model-in-the-wild
想让 agent 学会用电脑,最简单直接的办法就是让它在电脑环境中进行交互、训练,可是一方面真电脑环境成本高、很难大规模铺开,而且可能会引入安全风险,比如 OpenAI 最近披露了一起 agent 在线环境中学习却意外地攻击了 huggingface 服务器的事件。
WildAWM 使用合成的个人电脑环境(有 shell,有文件系统,有浏览器,有常见的应用 MCP 服务比如 email)来作为现实训练环境的替代。而且,为了避免间接蒸馏私有模型的嫌疑,WildAWM 完全使用开源模型进行合成。合成环境后,再在里面合成高质量的 agent 任务、对应的 verifier 验证器,来组成 {environment, task, verifeir} 训练样本,只在这些合成的环境中训练两个 Qwen 模型(Qwen3.6-35b-a3b 和 Qwen3.5-4b),却在 8 个横跨 web agent, claw agent 和 GUI computer-use agent OOD 常见评测榜单上全部有提升。
从 Agent World Model (AWM) 到 WildAWM
最近,前沿实验室已经展现了 RL 对于 agent 的性能提升有巨大的帮助。agent 要在交互里学,需要和环境进行交互。拿真实系统交互并不现实:环境没法大批量复制,状态也很难重置,agent 一旦点错,删掉的文件、发出去的邮件都是真的,还可能带来安全隐患。
今年 2 月,研究团队发布了 Agent World Model(AWM,ICML 2026)。区别于 world model 往往使用神经网络模拟环境、预测下一个 state(作为环境),AWM 用代码和数据库合成可执行、可交互的环境,一共生成了 1000 个,覆盖各种日常场景,专门用来给多轮调用工具的 agent 做强化学习。只在这些合成环境里训练,模型在三个 OOD benchmarks 上都有不错的分布外泛化。
WildAWM 是这个系列的新工作,这次面向通用的计算机使用 agent(computer-use agent,CUA),不再一个个地合成工具环境,而是直接合成一整台个人电脑。
合成一整台电脑环境
真正的 computer-use agent 应该是 agent 可以访问这台电脑的任何界面,而不局限于一种界面,agent 可以使用 CLI 就像 coding model 一样用代码高效完成任务,也可以使用 GUI,操纵鼠标、键盘访问图形界面网页,也可以接入 MCP service 发现便捷的软件 services(比如 email)。
网站、应用、MCP 服务和本地文件都在一台机器上,状态也连在一起。已有的合成方法大多做的是每个应用各自是一个孤立的环境,比如专门合成 terminal 环境的,比如专门合成网页环境的等等。
WildAWM 的每个环境都是某一个人的电脑。合成从一个虚构人物开始:先定下这个人的职业、联系人、常去的网站和手头在忙的几件事,再把这些事排成一天一天的计划。接着,使用一个 coding agent(GLM-5.2 加 OpenCode)按天把计划落到环境里,往数据库里写记录,往文件夹里放文件,每一天都接着前一天的状态往下做,自然数据也会一天天合成得越来越多。注意这些网页,应用,数据全部是合成的,全部在本地,不需要联网。