对话MIT梁琪瑶：正因为对AI乐观，所以才对科研悲观
“正因为对 AI 乐观，所以才对科研悲观。”采访中，梁琪瑶用这样一句看似矛盾的话，形容自己对 AI 与学术研究未来的判断。
几年前，她还在研究量子计算。作为一名接受物理学训练的研究者，她始终对世界的运行机制抱有好奇，希望通过理论与实验，解释那些尚未被理解的现象。2022 年底，ChatGPT 的出现，让她找到了一个新的研究对象—— AI 。
尽管大模型已经展现出令人惊讶的能力，但人们仍然很难解释，这些能力究竟是如何产生的。在她看来，如今的 AI 研究仍带有某种“炼金术”色彩。研究人员知道哪些方法能够提升模型性能，却未必清楚背后的原理。她希望改变这一点。
与利用 AI 解决其他学科的问题不同，她尝试反过来，用物理学的方法研究 AI，将 AI 视为一个有待理解的复杂系统。从扩散模型的组合泛化，到大语言模型的后训练，她始终沿用一套看似简单的方法：构建小型的“玩具模型”（Toy Model），通过控制变量、观察现象，寻找复杂系统背后的规律。
然而，随着 AI 能力不断提升，一个新的问题也逐渐浮现：如果 AI 不仅能够被科学研究，还能反过来开展科学研究，人类科学家又将扮演什么角色？这个问题已经开始影响她对自身未来的判断。她相信 AI 可能在不久的将来展现出远超人类的科研能力，却也因此开始怀疑，传统科研方式以及研究者自身的价值，将如何在技术变革中延续。
从量子计算转向 AI ，她为什么始终执着于解释那些尚未被理解的现象？而当 AI 开始挑战科研本身，一个试图通过科学理解世界的人，又该如何面对自己的未来？围绕这些问题，DeepTech 与她展开了一次对话。
一个好奇的人，试图理解这个世界
DeepTech： 你本科阶段研究的是量子计算，硕士和博士阶段转向了生成模型和智能机制。这个转变如何发生的？
梁琪瑶： 我的研究路径并不传统。本科时，我学习物理和数学，从事过几年的量子计算相关研究，以理论工作为主，也在两家量子计算初创公司实习过。2022 年左右，我进入 MIT（麻省理工学院）读博，第一年仍然延续此前的研究方向，跟随不同导师轮转。这一年的 11 月，ChatGPT 发布，让我意识到 AI 可能是一个重要的方向，于是决定转向。
不过，这个决定并不完全由 ChatGPT 促成。早在博士入学前，我就在思考自己真正的科研兴趣，也与许多老师讨论过。我一直想理解智能和意识如何产生。 作为一名物理学研究者，我曾经的理想，或许就是解释这个世界上的所有物理机制。
物理是一门实验科学。我虽然一直做理论，但更倾向于贴近实验、能够得到快速验证的理论。在传统物理的某些方向，实验已经跟不上理论发展的速度，验证一套理论往往需要投入大量资金和资源。如果理论迟迟无法通过实验验证，研究者也就难以判断它是否正确。这与我所理解的实验科学存在一定距离。
ChatGPT 出现后，研究 AI 在某种意义上成了“有截止日期的哲学”（philosophy with a deadline）。我们需要理解，这些模型为什么能够产生所谓的智能，这让我看到了一个值得投入的方向。
对我而言，很重要的一件事是理论能否描述现实。 所有这些东西都只是工具，是我们理解和描述现实的一种语言。有人说：“所有理论都是错的，但有些是有用的”（all theories are wrong, some are useful）。 对我来说，判断一种理论好不好，某种程度上要看它的普适性（generality）和简洁性（simplicity）：能否在尽可能少的假设下，捕捉到适用于不同情境的基本规律。理想情况下，好的理论还能帮助我们向未知情境外推，提出可以通过实验检验的预测。
DeepTech： 从量子计算到 AI，你的科研方法发生了什么变化？
梁琪瑶： 我在做的事情其实一直没变。研究领域变了，但科研方法和使用的工具没有本质变化。就像手里有一把锤子，过去用它研究量子计算，现在用它研究 AI。物理学试图理解世界的运作机制。面对一个不知道内部结构的黑盒，我们可以观察它的输入与输出，再建立模型，刻画其中的过程。研究量子计算时，我可能需要为一条囚禁离子链建模；研究 AI 或大脑时，同样需要建模、提出假设，再通过实验检验。改变的是研究对象，延续下来的是这套思考方式。
用小玩具拆解大模型
DeepTech： 你 把现在的研究方向称为 “AI 的物理学”(Physics of AI)。可以解释一下这个概念吗？
梁琪瑶： “AI 的物理学”（physics of AI），或者更广义的 “AI 科学”（science of AI），是一个较新的研究方向。一些研究者希望将其发展成一门交叉学科，把 AI 作为复杂系统来研究。其实物理、生物等传统学科，也是在研究特定的复杂系统。
AI 虽然由人类创造，却呈现出许多我们尚不能解释的现象，也缺少完善的理论来指导探索。当前，大量资金进入这个领域，许多工作沿用工程思路，通过投入资源、不断试错来改进模型，却未必能解释改进为何有效。
现在的 AI 训练在某种程度上还有点像炼金术。我们通过大量实验，发现了很多非常有效的训练方法，却不一定理解它们为什么有效。炼金术中有一种叫“愚人金”（fool’s gold）的矿物，看起来像黄金，却有着完全不同的性质。AI 研究中也存在类似的现象：一种方法可能在特定任务上表现得非常出色，让我们以为发现了某种普遍规律，但换一个环境，这种规律可能就不再成立。
我认为，理论研究的价值，就是帮助我们区分哪些发现反映了更普遍的原理，哪些只是特定条件下的经验规律。好的理论应该能够用尽可能简单的原理解释尽可能广泛的现象，并帮助我们预测什么方法会有效、为什么有效。这需要结合数学、神经科学、认知科学、语言学和哲学等不同领域的工具。目前，我们对 AI 模型仍缺少共识性的理解和坚实的理论基础。这既是值得探索的科学问题，也是学术界仍有机会与大厂竞争的方向。
换句话说，我们已经找到了很多有效的“配方”，却还没有真正理解背后的“化学原理”。理论研究的目标，就是让我们从反复试错，走向能够解释、预测，甚至设计智能的科学。
DeepTech： 这种思路如何落实到 你 的研究中？
梁琪瑶： 我的硕士和博士研究主要有两个研究对象：扩散模型，以及大语言模型的后训练。相关论文基本采用的都是同一种方法：构建玩具模型（toy model），也就是用于研究机制的简化模型。简化的对象可以是数据，也可以是模型本身。开个玩笑，我可能就是个 one-trick pony：研究对象换来换去，最后使的还是搭玩具模型这一招。
玩具模型没有固定形式，取决于研究对象和想解释的机制。例如，我们怀疑某种现象与数据、训练方法、优化器或网络性质有关，就可以围绕这个假设构建模型。
举例来说，如果怀疑原因在于 Transformer（一种常用于大语言模型的神经网络架构）本身，就可以先用小型 Transformer 做实验。小模型成本低，可以训练多个版本，逐项调整设定，观察结果如何变化。这个过程像盲人摸象，先摸清鼻子，再摸清腿，逐渐形成对整头大象的理解。 Transformer 像那头大象，玩具模型就是摸象的手段。每个小实验都可能捕捉到大模型的部分特征，通过不断替换设定、检验原因，我们可以把局部认识拼接起来，形成更全面的理解。
DeepTech： 这套方法是怎样形成的？
梁琪瑶： 我觉得它可能来自我接受的物理学训练：不理解一个现象时，就尝试复现它。简单来说，就是设计一个简单的、只包含少数要素的系统，排除其他因素，进一步判断这些要素及其组合如何起作用。
其实这是在用排除法，目的是找到能够刻画现象的最小模型或最简描述。我高中的第一节物理课就有类似的训练。当时我的老师带来一个黑箱，看不到内部结构，只能往里面倒水，根据流出的水，推断箱子里面里面有什么。黑箱里就是我们要研究的对象，采用的方法无非就是：做实验、提出假设，通过实验否定或支持假设，再提出新的假设。
DeepTech： 以扩散模型为例， 你 想解释什么，又如何设计实验？
梁琪瑶： 硕士期间，我主要研究扩散模型如何实现组合泛化（compositional generalization）。例如，一个人看过蓝色圆圈、蓝色方块和红色圆圈后，即使没有见过红色方块，也能想象它的样子，这就是利用已知元素生成新组合的能力。
当时，我们研究的扩散模型使用 U-Net 架构。它像一个两端宽、中间窄的蝴蝶结，中间经过瓶颈层。我们猜测，这里可能集中了较为紧凑、提炼后的表征，因此想观察它是否具有组合性质。
为此，我们构建了一个玩具数据集，让模型根据输入的 x、y 坐标，在相应位置生成一个高斯斑点。数据的两个属性就是横、纵坐标，模型输出的则是图像。通过这个简化任务，我们观察瓶颈层的表征，尝试理解模型如何组合两个坐标信息。最终的结果没有预想中那么清晰。直到现在，我们仍然缺少明确的机制性解释，来说明模型究竟如何完成组合。这一方向还有许多现象有待理解。
DeepTech： 后来，是什么吸引 你 转向大语言模型后训练？
梁琪瑶： 虽然 ChatGPT 促成了我的转向，但起初我对大语言模型的兴趣并不强。我是个“视觉动物”，更习惯用可视化的方式思考。对我而言，图形、图像和视频比语言更直观；扩散模型又受到物理过程的启发，而大语言模型更偏向统计和下一个词元预测。
转变的契机是去年暑假的实习。当时，团队开始用进化策略（evolution strategies）做大语言模型后训练。这是一种古老、朴素且不使用梯度的算法，与后训练中常用的策略梯度等强化学习方法很不一样。原本大家并不认为它能在十亿参数级模型上起作用，结果却发现它确实有效。
我的科研理念有点像小孩：什么好玩，我就想做什么。 一个问题如果让我反复思考，甚至晚上睡不着，我就想把它弄明白。进化策略为何有效，正是这样的一个问题。传统优化中的“维度灾难”意味着，在高维问题中，使用方差较高、又不计算精确梯度的方法往往很困难。因此，这个结果很反直觉。但比起算法本身，我更感兴趣的是这个现象背后暗示了什么。
一个拥有数十亿参数的模型，为什么可以用如此简单的方法优化？这是否意味着，预训练已经让模型具备了足够丰富的能力，以至于后训练实际上只需要在一个远低于参数维度的空间里进行调整？换句话说，模型的参数空间很高维，并不代表我们需要解决的优化问题本身也是高维的。如果是这样，我们对大模型训练，尤其是预训练与后训练关系的理解，可能需要改变。相比单纯把模型的性能再提高一点，我更想弄明白这些现象背后的基本原理。
DeepTech： 玩具模型在这项研究中发挥了什么作用？
梁琪瑶： 研究大语言模型时我仍然使用玩具模型。应用进化策略，甚至强化学习时，我们观察到了非单调的训练动力学（non-monotonic training dynamics）。我尝试构建一个玩具模型，复现这种现象，再用它解释大语言模型中的观察结果。虽然研究对象不同，方法仍然是从简化系统入手，寻找现象背后的机制。
DeepTech：从玩具模型中总结出的规律，要经过怎样的验证，才能用于理解更大规模的模型？
梁琪瑶： 小模型不一定能捕捉大模型中发生的一切。研究的难点在于，找到一个既能充分刻画目标现象、又足够便宜，还能隔离变量的小模型。大模型的变量太多，难以同时控制，实验成本也高；在小模型上，我们才更容易逐项考察变量的影响。
但规模扩大后，原有认识是否仍然成立，需要进一步考察。缩放规律（scaling law）提供了一种预测思路：观察一系列较小模型中，目标量如何随规模变化。如果这些模型落在同一条缩放关系曲线上，就有可能预测更大规模下的趋势，但这种外推并非必然成立。物理学也有类似的做法：通过局部观测总结规律，再考察它能否适用于更广阔的空间。我们希望在小模型上发现的东西足够基础，扩大规模后仍然有效。
经验规律通常有自己的适用范围，并不是说它完全错了，而是它的用处有边界。 超出边界、近似失效时，就需要发展新的理论，继续完善理解。
DeepTech： 除了用科学理解 AI，AI 又能怎样反过来帮助科学？
梁琪瑶： 神经科学与 AI 之间可以有双向的方法借鉴。例如，研究模型内部激活时，可以借鉴计算神经科学中的降维方法，或神经元调谐曲线：把单个神经元的激活画成输入刺激的函数。反过来，AI 也可能帮助神经科学。
对于短期记忆和长期记忆如何转化、情景记忆与语义记忆是什么关系，我们仍然缺少共识。我的实验室和导师研究空间导航与记忆，即便如此，我们也没有完整理解这些机制，很难指望仅凭有限的人脑知识指导智能体系统设计。未来，AI 或许能反过来帮助我们理解自己，理解大脑如何工作。
AI for science 是用 AI 做科学研究，science for AI 则是用科学研究 AI。 如果 AI 科学本身成为一门学科，自然也可以尝试借助 AI 来研究它。 目前已有研究者探索递归自我改进（recursive self-improvement），让智能改进智能；至于如何让 AI 帮助解释自身背后的理论，我还不确定具体应该怎样做。AI 虽然尚未被充分理解，但它是被创造出来的系统，想必也遵循某些物理规律。我相信，它仍然可以被解释，相关研究也应当能够像其他科学一样被形式化。
当 AI 开始挑战科研本身
DeepTech： 当 AI 从被研究的对象变成参与科研的工具， 你 怎样看待接下来值得研究的问题？
梁琪瑶： 这让我重新思考科研的本质：研究由人完成，还是由 AI 完成？谁使用研究成果，研究以什么为载体？现有的同行评审体系，也正在受到 AI 生成研究的冲击。我对此很迷茫。如果相信 AGI、相信 AI 能够自我改进，甚至相信超级智能会解决人类的一切问题，那么继续做科研，还有什么值得投入？我没有答案。
如果沿用“古法科研”的方式，AI 的物理学仍然值得研究，也许能够带来不同于工程叠加的突破。但我越来越意识到，人需要承认自己的局限。过去，我们认为人类智能尚未被替代，还可以继续尝试；现在我担心，这可能只是一个阈值问题。 一旦越过某个阈值，AI 开始自我改进，走上指数增长的轨道，能力就可能不断加速。 我身边许多人也在问同一个问题：还剩下什么值得做？
DeepTech： 如果目的是理解 AI 本身，而不是改进它，人类的研究还会有自己的位置吗？
梁琪瑶： 这取决于我们为什么研究 AI。如果目的是改进它，那么一旦实现递归自我改进，或许就不再需要先理解它。如果是出于理解 AI 本身的兴趣，今天的研究仍然有意义。但当超级智能出现时，我们想解决的问题，也可能由它更好地处理。
在这样的设想中，未来甚至可能不再需要今天这种研究过程。AI 像一个无所不知的“神谕”，或者瓶中的精灵：提出问题，就能获得答案。也不必再亲自搭建玩具模型，AI 可能十分钟就能做出一千个玩具模型。我们的科研就不再是盲人摸象，而是已经把大象身上的每一寸都看清楚了。
DeepTech： AI 发展的速度有可能被主动放慢吗？ 你 最担忧的是什么？
梁琪瑶： 我认为不可能。即使一部分人停下来，仍然会有其他人继续推进。列车已经高速行驶，很难再让它停下。我们能够做的，或许是将更多资源投入 AI 安全研究。但我也担心，当我们创造出远比自己聪明的系统时，是否还有能力控制它？风险未必来自恶意。一个系统即使没有恶意，也可能造成大规模破坏。
DeepTech： 如果工作和科研不再像今天这样定义一个人，我们还需要思考什么？
梁琪瑶： 人们会把时间花在哪里？还有什么值得投入注意力和资源？今天，许多人把存在价值与产出紧密绑定。可当存在价值不再与产出挂钩时，你存在的价值和意义是什么？
面对这些问题，需要保持开放心态。我相信会有巨大的变革，但它将以什么方式、朝什么方向发生，仍不确定。思考这些问题，可能比当下具体做什么更重要。 因为变化可能向好，也可能向坏。我们应该主动想象未来，思考社会应该朝哪个方向改变，这是人类共同的课题。
DeepTech： 你 对 AI 的发展乐观，却对人类继续做研究有些悲观？
梁琪瑶： 正因为对 AI 乐观，所以才对研究悲观。这不只是对技术能力的判断，也与资源的聚集有关。大量资金、人才进入这个领域，面对这样一列高速行驶的列车，资源有限的个人还能贡献什么，我很难判断。与此同时，我也担心安全研究赶不上模型能力发展的速度。因此，对 AI 能力发展的乐观，并不意味着我对人类未来同样乐观。
但换个角度想，现在可能也是个人最有机会做出有意思的东西的时代。AI 让很多过去需要一个团队、甚至几年才能完成的事情，变成一个人就可以尝试的项目。我们能探索的想法、能做的实验，比以前多了太多。过去，很多想法可能只能停留在脑子里，因为实现成本太高；但现在有了 AI，不少想法当天就能动手试。
我不确定未来人类研究者会扮演什么角色，但至少在当下，我觉得这是一个非常令人兴奋的时代。我们从来没有过这么多可以探索的可能性，也从来没有过这么强大的工具去探索它们。对一个好奇心很强的人来说，这其实是一件非常幸福的事。 未来会怎样我不知道，但至少现在，我觉得是一个特别适合有好奇心的人活着的时代。
运营/排版：何晨龙
注：封面/首图由 AI 辅助生成