登录

NeurIPS 2026|MemSkill让智能体学习并进化记忆技能


速读:随后,Controller在更新的技能库上进入下一轮训练,再通过任务反馈继续改进,形成自进化闭环。 技能学习与进化闭环。
2026年11月02日 21:45

随着递归自我改进(Recursive Self-Improvement,RSI)受到关注,智能体如何从交互经验中持续改进自身成为研究热点。智能体记忆机制影响着这些经验能否被有效保留和利用。

然而,现有系统常依赖新增、更新、删除和跳过等预设记忆提取操作,难以根据任务反馈持续改进记忆构建方式。

来自 南洋理工大学等机构的研究团队在 NeurIPS 2026 上发表了 MemSkill。 它将记忆操作表示为可学习、可复用、可进化的  Memory Skills, 通过任务反馈优化技能选择,并根据失败案例完善和扩展技能库,使记忆系统能够随交互经验的积累持续进化。

论文题目: MemSkill: Learning and Evolving Memory Skills for Self-Evolving Agents

Author: Haozhen Zhang, Quanyu Long, Jianzhu Bao, Tao Feng, Weizhi Zhang, Haodong Yue, Wenya Wang

Affiliation: Nanyang Technological University, University of Illinois Urbana-Champaign, University of Illinois Chicago, Tsinghua University

arXiv: https://arxiv.org/abs/2602.02474

GitHub: https://github.com/ViktorAxelsen/MemSkill

核心思路 将记忆方法变成可进化的技能

要改进记忆构建,首先要让 “如何记忆” 成为可修改的对象。MemSkill 因此将记忆操作封装为 Memory Skills,用自然语言说明用途、适用条件、执行方式与约束,供系统按需修改和复用。

如图 1 所示,MemSkill 将交互历史切为连续片段,根据当前文本片段和已有记忆,从技能库(Skill Bank)中选出相关记忆技能,再将三者一起交给 LLM。LLM 按记忆技能的指导提取或修订记忆信息,将更新写入记忆库(Memory Bank),供后续问答与决策检索使用。

图 1  逐轮操作与片段级技能引导构建的对比 图 1  逐轮操作与片段级技能引导构建的对比 方法框架 学习技能选择并持续改进技能库

MemSkill 的核心出发点是让记忆提取随反馈改进。如图 2 所示,框架从新增、更新、删除、跳过四项初始的记忆操作出发,由 Controller 负责选择技能,Executor 据此构建记忆,下游任务表现用于优化 Controller 的技能选择策略。训练中的失败案例会被收集起来,由 Designer 周期性分析,以修订和扩展技能库。

随后,Controller 在更新的技能库上进入下一轮训练,再通过任务反馈继续改进,形成自进化闭环。

图 2  技能学习与进化闭环 图 2  技能学习与进化闭环 Controller 与 Executor 选择技能并构建记忆

长期交互中,不同片段的记忆需求会不断变化(如记住新偏好、保留事件细节,或更新过时信息)。MemSkill 因此训练了一个轻量的 Controller,按顺序为每个文本片段分别选择 Top-K 项记忆技能。选定技能后,Executor 将当前文本片段、已有记忆与选中的记忆技能一起输入 LLM,由 LLM 按技能指导生成记忆更新。多个技能在一次调用中完成记忆提取或更新,减少逐轮、逐操作处理的重复开销。

训练时,MemSkill 会将构建出的记忆用于下游问答或交互任务,并把任务表现作为奖励,通过强化学习更新 Controller。任务结果由此反馈到下一轮技能选择中,让 Controller 逐步学会更有效的技能组合。

Designer 根据下游任务的反馈持续完善技能库

在持续评估下游任务表现的过程中,失败案例会被收集到困难案例缓冲区(Hard Case Buffer)。Designer 定期从中筛选代表性难例进行分析,找出需要补充或调整的记忆规则,再修订已有技能或新增技能。

Controller 随后在更新的技能库上继续训练,探索新技能的用途。由此形成从任务反馈到技能改进、再到选择策略更新的循环。训练完成后,Controller 与技能库便可直接用于后续交互中的记忆提取。

实验结果 长期对话与具身交互中的全面评估

作者在长期对话问答和具身交互两种设置下,对 MemSkill 进行了全面评估。实验采用 LLaMA 与 Qwen 作为 Base Model,覆盖 LoCoMo、LongMemEval 和 ALFWorld,结果如下表所示。

主题:技能