遗忘

本次机器遗忘技术是一种良性遗忘技术，依赖于一个名为雕刻性记忆遗忘适配器，英文简称为SMFA。

这个过程中产生的参数更新，被单独打包成为一个叫做记忆遗忘适配器的小模块。

比如模型现在将特朗普与美国总统绑定，但几年后总统更迭，模型若仍回答特朗普就错了，这时就需要遗忘过时的信息。

时增林告诉DeepTech：“我们首次在多模态大模型遗忘问题上，提出有益遗忘这一概念，并首次定义了对于多模态大模型而言，什么是有益的遗忘能力。

同时，我们也首次提供了能够实现这种有益遗忘的方法，即我们的SMFA。

为了公平、严格地测试各种遗忘方法的优劣，时增林团队还构建了世界上第一个针对多模态大模型选择性遗忘的综合测试基准，命名为S-MLLMUnBench。

近日，合肥工业大学教授时增林团队打造出一款机器遗忘技术，能让AI安全地忘记你的隐私，同时还能确保其他看家本领完全不受影响，等于给AI做了一场脑部手术，只切除有害的记忆肿瘤，而完好的大脑功能完全保留下来。

比如，遗忘更新试图改变某个参数，而这个参数的改变方向恰恰会损害锚点想要保护的知识。

时增林告诉DeepTech：“我们首次在多模态大模型遗忘问题上，提出有益遗忘这一概念，并首次定义了对于多模态大模型而言，什么是有益的遗忘能力。