AI做出的科学发现，谁来证明它是对的？
9 月 20 日至 21 日，以“下一代物理智能前沿”为主题的 PAIR Conference 2026 在上海举行。会议由上海物理智能与机器人研究院举办，邀请来自高校、科研机构及产业界的多位专家学者，围绕下一代智算系统、下一代智能载体、下一代科学发现和下一代计算范式等方向展开讨论。
在“下一代科学发现”专题论坛上，几场报告分别从科研基础设施、生物工程、药物研发和科学成像等角度，讨论 AI 如何进入科研的各个环节。论坛最后的圆桌以“模型结果如何成为可信科学证据——跨学科验证、复现与适用边界”为主题，将讨论收束至一个核心追问： 当 AI 给出一个看上去很有价值的结果，它要经过怎样的检验，才能成为可信、可复用的科学证据？
圆桌讨论由清华大学信息国家研究中心副研究员郭雨晨主持，四位学科背景各不相同的青年研究者参与对话， 他们分别是清华大学药学院副教授张数一；复旦大学研究员鲍峰；复旦大学青年研究员、旦源星途创始人张宏亮，以及律动造物CEO、新南威尔士大学讲师谢童。
AI for Science 这几年的主线是证明模型“能做”：能预测蛋白质结构、筛出成千上万个候选材料、自动规划合成路线。但生成候选的速度提升了几个数量级，实验验证的速度并没有同步跟上。两者之间的落差，正在成为决定这一领域成果含金量的关键变量。
图 | （左一起）郭雨晨、鲍峰、张数一、谢童与张宏亮进行圆桌讨论（来源：PAIR） 以下内容根据圆桌讨论整理。
预测很快，验证太慢
圆 桌开场后 ，围绕什么样的 AI 预测值得送进实验室，四位嘉宾基于验证成本的回答恰好构成由低到高的梯度。
鲍峰先从机器学习的方法论说起。判断一个模型能否推广到真实世界，机器学习有一套成熟做法：把数据分成训练集、验证集和测试集，用模型没见过的数据评估它的性能。这套做法在图像识别里行之有效，因为可用的数据足够多。但进入许多科学场景后，这个前提就不成立了。
他以近两年备受关注的 AI 虚拟细胞为例，这类模型希望预测细胞在基因扰动下的响应，其中一个经典任务是预测两个扰动同时发生时细胞会出现什么变化。人类细胞约有 2 万个基因，而他去年调研到的最好的数据，只覆盖了其中的 100 多个扰动基因。在这样的数据上训练出的模型，指标表现再漂亮，也很难证明它对其余上万个基因的预测同样可靠。
因此鲍峰的态度是， 把模型结果推向真实验证时要“保持怀疑，降低期待”。 与其指望模型直接给出正确答案，不如在前端多做预实验和预分析，在模型辅助下尽量拉高最终成功的概率。
至于蛋白质设计领域，张数一认为，计算已经不是眼下最主要的限制，关键在于能否在标准化、高质量的平台上快速拿到功能验证的反馈。蛋白质在这方面有天然优势：设计出的新蛋白只需要改写序列，DNA 合成和蛋白表达的成本已经降到可以接受的水平，一支小试管里就能容 纳 10 ¹⁰ 量级的序列。小分子则不同，侧链上的一点改动就可能让整条化学合成路线推倒重来。
他还将这种优势和生物的演化联系起来。工程学习惯于标准化、模块化，生物系统则天然带有演化机制，可以在海量变体中自行筛选。如果能搭建承接这种量级的高通量自动化平台，再把演化过程中产生的数据反过来训练 AI，生命科学反而可能成为 AI 设计最先跑通“设计—验证—再设计”循环的领域。
材料领域的情况则更为复杂。谢童提到，2023 年底，谷歌 DeepMind 的材料探索图网络（GNoME）和美国劳伦斯伯克利国家实验室（LBNL）的自主实验室 A-Lab 先后在《自然》（ Nature ）发表论文，让很多人相信 AI 驱动的材料发现已经到来。
其中，GNoME 报告了约 220 万个低于已知凸包（即热力学上可能稳定）的晶体结构，其中约 38 万个被列为新的稳定材料。几年过去，谢童的判断是，这些计算预测和实验室里真正做出来、用得上的材料之间仍有很大差距。
他认为，问题出在“分布”上。材料领域的许多预测仍落在已有理论和已知化学空间之内，模型只是算得更快，很难称为真正的科学发现。这一看法与学界此前的质疑相互印证：美国加州大学圣塔芭芭拉分校（UCSB）团队 2024 年在《材料化学》（Chemistry of Materials）撰文，认为 GNoME 的预测中很多只是已知化合物的简单延伸，几乎找不到同时满足新颖性、可信度和实用性的例子。
与此同时，实验成本下降的转机也正在出现。谢童早年做钙钛矿材料时，一周只能做 8 个样品；现在他的实验室一天能做 250 多个。通量提升之后，实验不必再以成功为前提，研究者可以去尝试分布之外、从未有人做过的材料。即便失败，这些结果对模型改进也有很大价值。
到了张宏亮研究的聚变堆、裂变堆材料，验证成本再抬高一层。 面向等离子体和反应堆堆芯的材料，要在强辐照、高温、强腐蚀和高应力的多场耦合环境下服役；而对该领域学者而言，一次辐照考核的周期以年计算，可用数据极少。
在这种条件下，张宏亮决定是否开展实验的前提很明确：模型必须给出不确定性分析和清晰的适用边界，包括适用的温度范围、辐照剂量、剂量率和应力水平。只有边界与实际工况吻合、预测符合物理规律，才值得投入下一轮实验。“对我们来说，模型验证不是 AI 模型研究的最后一公里，而是对模型进行压力测试的环境。”
“AI 预测”的价值在不同领域内差异极大：一个蛋白质预测可以很快、很便宜地得到检验；但在聚变材料领域，检验一个预测可能需要数年。因此， 验证越昂贵，模型越需要具备“自知之明”，能厘清自身的能力边界。
谁来检验“检验”？
筛出值得做的候选之后，接下来是设计可靠的实验。这个问题乍听起来有些多余，做了实验、看了结果，对错自然分明。但 A-Lab 已经有了验证环节出问题的“前车之鉴”。
在研究论文中，团队曾报告 A-Lab 在 17 天连续运行中，从 58 个目标化合物里自主合成出 41 个。目标来自材料项目（Materials Project）数据库和 DeepMind 的稳定性计算，合成配方由在文献数据上训练的模型给出，产物判定也交给算法：深度学习模型从 X 射线衍射（XRD）图谱中识别物相，再通过理论模型拟合实测图谱来确认结论。
论文发表后不久，英国伦敦大学学院（UCL）和美国普林斯顿大学（Princeton University）的研究人员重新检查了这些图谱，2024 年 3 月在《PRX 能源》（ PRX Energy ）发文指出，自动化分析大量拟合不佳，且忽略了元素可能共占晶位的无序结构，最终得出的结论是，这些产物在发表时几乎都算不上新材料。
争议持续了两年多。今年年初，团队更正了 A-Lab 相关论文，剔除人工分析不符合条件的案例，其关于“新材料”的表述也改为“对预测平台而言是新的，对科学界未必是新的”。
在谢童看来，这个案例表明，同一套 AI 系统如果既负责生成、又负责判定，它的盲区就会在两端同时出现。
据此，他为 AI 设计的实验提出了三条原则。第一，验证标准和流程要在实验前定好，独立于结果，不能拿到数据后再去定义什么算成功。第二，表征和分析可以大量借助 AI，但验证器和生成器应当是两个模型，运行在完全独立的环境里。第三，要做好跨平台复现。同一种材料在上海的实验室表现不错，换到北京可能就不是同一个结果，这在材料领域并不罕见。
他的团队正联合 5 个国家的实验室开展同一组化学实验，以此探明材料学的失败究竟来自模型还是实验环境。
张宏亮的团队从 2023 年开始搭建反应堆材料的模型验证链条，到今年基本成型。他们的做法是分级：先用相图计算、第一性原理计算和分子动力学等干实验，把可能上万组的候选缩到几百组；再在非极端条件下做力学性能、高温性能等低成本快速湿实验，筛到几十到一百组；最后才进入真实极端环境的测试和模拟。
在这之外，还要做耦合与解耦实验，弄清辐照、腐蚀、应力和高温单独作用、两两耦合和多场耦合时各有什么差异。 目的是在昂贵的最终考核之前，尽可能压缩目标区间，把周期和成本控制在可承受的范围内。
张数一从蛋白质设计的经验出发，强调另一个维度：验证场景要尽量贴近最终用途。以生物制造中改造胞内催化酶为例，过去的常规做法是把酶提取出来在体外测活性，活性提高后再放回细胞。但体外表现好的酶，放进细胞里常常达不到预期。
他现在的思路是直接在生物制造场景里测产量，并把中间过程数据一并交给 AI 学习。对材料和化学来说，从计算到应用的链条太长，这样做很难；但生物系统底层更容易验证，反而有条件压缩中间环节。
鲍峰把问题再次拉回流程组织：AI 端成本低、速度快，实验端成本高、周期长，两者不应被当作前后分离的两个阶段。理想的安排是重新编排实验，把关键的中间结果前置，让模型尽早拿到反馈；同时在 AI 一侧投入更多计算和时间，用相对便宜的计算去换取更少的实验轮次。
这几种思路侧重不同，但都指向一个关键变化： AI 参与实验后，必须重新设计验证方案，而且要在结果出来之前就确定下来，否则就是“自说自话”。
这对评价模型的通行方式也提出了疑问。当前大量 AI for Science 工作习惯用基准测试（benchmark）得分证明成绩。但鲍峰的经验是，科学任务往往不能被简化为分类或回归问题。他的做法是先从多个角度做可视化，确保基准测试能衡量出研究者关心的性质，再看模型得分。
什么时候可以说“它不行”？
在现实中，实验结果和模型预测对不上是常态。张宏亮估计，他的工作中大约 95% 的情况都会出现偏差。AI 介入科研流程后，偏差的来源变得更难定位，究竟是模型判断有误、智能体调度出错，还是实验执行有偏差，或不同平台之间的边界条件没有考虑周全。
谢童团队在做材料化学真实实验基准时，把失败按由易到难的顺序分成四层。最容易排查的是执行层，比如原料批次不同；其次是表征层，比如设备在更换材料体系时没有提前校准；再往上是智能体层，智能体可能调用了错误标准，导致设计从一开始就偏了；最难的是模型层，即预训练数据存在问题。
张宏亮的排查顺序与此类似：先看偏差是否落在模型自身的误差范围内，再检查数据采集和实验环境，然后重复实验；问题依然存在，才回头检查模型是否缺少某些物理描述符，并拉上同行一起做多平台复现。
张数一对“失败”的定义提出了疑问。从工程角度看，没有达到既定指标的分子或材料算失败；从 AI 的角度看，它们只是另一种数据，而且往往处在模型最薄弱的区域，提示模型研究者补充对应训练内容。
早期蛋白质设计模型常被诟病的“幻觉”，如今反而成了一种新型设计方法。早在 2021 年，美国华盛顿大学（University of Washington）大卫·贝克（David Baker）团队就曾利用网络“幻觉”从随机序列出发设计全新蛋白。
张数一提到，近两年也有人用幻觉生成大量多样的起始点，再从中筛选和优化功能，效果甚至好于单一路径的工程设计。他用演化做类比：哺乳动物在恐龙时代毫无优势，但只要能活下来，环境一变，它们反而成了赢家。
这种看法有充分的科学依据，同时也带来一个问题。主持人郭雨晨指出，如果成功算成功、失败也算成功，这个领域岂不是失去了纠错的依据？他转述了一位《自然》编辑的话：“你们看到太多成功的案例，在我这儿看到太多失败的案例。”他借此进一步追问嘉宾：在缺少哪些证据时，不应宣布一个模型有效。
张宏亮回答道，他不会因为一次偏差就否定模型，但一个模型如果只在自己的训练集和测试集上表现良好，没有在其适用环境下经过独立实验，尤其是跨平台的独立实验，他就不会认为它是可用的。
鲍峰认为，论文里所有“模型效果很好”的结论都带着定语，只在特定场景、特定条件下成立，而对科学和社会的真实贡献需要更长时间来检验。
例如，谷歌 DeepMind 的蛋白质结构预测模型 AlphaFold。它的第一个版本在 2018 年亮相，第二代模型在 2020 年把结构预测精度推到接近实验解析的水平。
当时人们普遍期待它为药物发现打开局面。但鲍峰去年检索过， 近年获批的药物里有哪些是基于 AlphaFold 预测的结构开发的，他说答案很明确（几乎找不到）。
张数一接着解释了原因。AlphaFold 之所以成功，很大程度上得益于蛋白质数据库（PDB）。这个公共数据库汇集了全球结构生物学家几十年来解析的约 20 万条蛋白质结构。AlphaFold 一次性学到了这些蛋白质数据，但药物研发需要的功能数据没有这样的底子，只能靠时间慢慢积累，进展自然会慢。
更常见的误区是把模型在限定场景中的效果和人们对它的期待混为一谈。在限定场景里，只要测试条件写清楚，很容易判断出模型好坏；真正困难之处在于，人们总希望限定场景的模型被自然而然地推广到药物开发、生物制造等更宽的场景，忽略了中间还需要重新训练和开发的一环。
谢童认为，在基准测试上排名第一，最多说明这是一个不错的模型。要证明它做出了科学发现，至少还需要三样东西，“独立”“前瞻”“外推”：由独立于开发者的一方完成验证；具备前瞻性，先做出预测再用实验检验，用谢童的话说，应该先画好靶子再射箭，不能射完箭再去画靶；具备外推性，给出的有效结果至少要落在已知空间之外。
如果有模型同时做到这三点，人们谈论的递归自我改进（RSI）、自主科学发现和科学基础模型，才可能真正实现。
讨论接近尾声，郭雨晨总结道，对于新的科研体系应当配套什么样的新标准，领域内还没有明确的判断。
四位嘉宾给出的方法各不相同，但从讨论中能看出，AI 生成结果的能力已经跑在了前面，而判断这些结果是否可信的规则还没有跟上：谁来做验证，验证要满足哪些条件，不同学科的门槛是否应当不同，验证的成本由谁承担，这些问题正在从学术讨论变成科研管理和产业决策需要面对的现实。
运营/排版：何晨龙
注：封面/首图由 AI 辅助生成