AI Agent学会自我进化!微软与UCSB新研究:自己读论文、改代码
AI Agent 能否像研究人 员一样,从论文中学习?
最近两年,大语言模型的能力不断提升,围绕模型构建的 AI Agent 也逐渐能够处理复杂的任务。从调用工具、操作软件,到规划和执行多步骤工作流,Agent 从处理简单的问答,走向能够独立解决长程复杂工具调用的任务。与此同时,每天也都有很多新的 agent 领域的 preprint 公开在 arXiv 中。
但一个现实问题随之出现: 当 Agent 遇到能力瓶颈时,我们该如何让它变得更好?
最直接的办法是训练更强的模型。然而,Agent 的表现并不完全取决于底层模型。工具如何调用、上下文如何管理、经验如何复用,以及任务如何规划,都会影响最终的执行效果。
这些围绕模型运行的软件系统,通常被称为 Agent Harness 。
近期,Meta Harness 等研究开始探索自动优化 Harness:让一个 Coding Agent 分析任务执行中的失败,再尝试修改 Harness 的代码,并通过实验寻找更好的版本。
这种方式已经展现出一定潜力,但也存在一个明显的局限:Coding Agent 提出的改进,很大程度上依赖于自身 Backbone 模型已有的知识,以及此前观察到的失败案例。如果一个问题还没出现,或者模型本身不知道某种更好的解决方法,它就很难主动探索相应的改进方向。
人类研究人员面对类似问题时,通常会阅读最新论文,了解其他研究者提出的方法,再尝试将这些方法应用到自己的系统中。那么,能否让 Agent 也具备这样的能力?
近日,来自 UCSB 和微软的研究团队提出了 ScholarEvolve ,尝试将阅读研究文献、实现算法、评估效果这一研究过程自动化,让最新的学术成果能够直接参与 Agent Harness 的演化。
论文: Learning from Research: Toward Lifelong Agent Harness Evolution
论文地址: https://arxiv.org/abs/2609.40169
代码地址: https://github.com/UCSB-NLP-Chang/ScholarEvolve
研究机构: 加州大学圣塔芭芭拉分校(UCSB)、微软
在不修改底层模型参数的情况下,ScholarEvolve 将 Qwen3.5-27B 在 AppWorld Challenge 上的任务完成率从 49.6% 提升至 63.6%, 提高了 14.0 个百 分点 。
ScholarEvolve
Agent 通过自动研究实现可持续进化
ScholarEvolve 的核心思路并不复杂:让 Agent 不再仅仅依靠自己的经验寻找改进,而是 主动从研究文献中获取新的方法 。不过,阅读论文只是第一步。真正困难的是,如何从海量研究中找到不同的改进方向,并将它们转化为能够合并起作用的 Harness。
为了解决这个问题,ScholarEvolve 设计了一套自动化的研究与演化流程。
1)将 Agent Harness 拆成五个主要的功能模块。
这五个模块分别负责 工具 接 口(Tools) 、 上下文管理(Context) 、 技能(Skills) 、 记忆(Memory) 和 工作流(Workflow) 。这样的划分让系统能够更有针对性地寻找改进。例如,当 Agent 容易丢失历史信息时,可以研究新的上下文压缩或记忆检索方法,而当 Agent 无法有效完成长程任务时,则可以尝试新的任务规划与工作流设计。
2)让 Research Agent 从论文中寻找解决方案。
系统首先分析 Agent 的执行轨迹,识别反复出现的问题,并将其转化为更一般的能力需求。
随后,Research Agent 根据不同模块的职责构建检索查询,从 arXiv 等学术文献来源中寻找相关研究。
然而,ScholarEvolve 并不是简单地选择检索结果中最相关的几篇论文。因为高度相关的论文可能使用非常相似的方法。如果将有限的实验预算全部花在这些论文上,搜索就很容易局限于少数技术路线。为了解决这个问题, ScholarEvolve 使用 Topic Modeling,将检索到的 论文按照 不同的技术机制进行归类,并尽量覆盖彼此不同的研究方向。
例如,同样是改善上下文管理,有的文章通过压缩上下文降低长度,有的则通过检索重要片段保留关键证据。两者解决的是相似问题,却采用了不同的机制,这使得 ScholarEvolve 能够在有限预算内探索更多不同的解决方案。
3)将论文中的方法实现为代码,并寻找最佳组合。
Research Agent 会进一步阅读选中的论文,包括 GitHub 中的代码实现和附录里的 prompt 细节,生成具体的实现方案,再交由 Coding Agent 修改对应的 Harness 模块。每个候选实现都会在验证任务上测试实际效果。但一个模块单独表现好,并不意味着它与其他模块组合之后仍然有效。
因此,ScholarEvolve 还会尝试组合不同模块的改进,评估完整 Harness 的性能,并保留经过验证、优于当前版本的设计。
整个过程类似于一次自动化的科研: 从最新的文献中提取核心方法,通过代码实现,再用实验结果决定是否采用。