AI展现人类理解不了的“异类心智”！OpenAI首席科学家：快踩刹车,放缓开发
当地时间9月6日，雅库布·帕霍茨基在OpenAI官网发表题为《一个异类心智》的长文。文中他给出两个看似矛盾的判断：一方面，他“强烈预期”AI当前的进展速度可以持续到递归自我改进（RSI）阶段——即AI开始自己迭代，无需人类开发者的介入；另一方面，他写道，目前没有任何一家实验室（包括OpenAI自己）能把对AI的监控和对齐工作做到足够负责任的程度。
▲OpenAI首席科学家 雅库布·帕霍茨基 他呼吁全行业在安全标准建立之前自愿放慢发展脚步，并透露OpenAI打算在必要时单方面暂停进一步扩大研发规模。这意味着身为OpenAI首席科学家的雅库布·帕霍茨基亲自为AI狂潮踩下了刹车。
模型是生长出来的，不是设计出来的
长文从2023年年中讲起。当时在OpenAI内部一个名为RLSlow的项目中，帕霍茨基与同事第一次看到推理模型规模化训练的初步结果，确信他们能够解锁预训练模型形成思维链的能力。三年后，推理模型已经能操作电脑和图形界面、与人类及其他模型协作、执行研究项目，并改变了网络安全的格局。
▲ 智能手机屏幕上显示着OpenAI标志（图据视觉中国） 他用一个类比解释这种系统的特殊性：脑成像可以解释一个人做心算时脑区如何活动，却解释不了这个人当年是怎么学会心算的。在他看来，大模型是被“生长”而非被“设计”出来的，研究者只设定了数据、算法和目标，模型最终形成的内部结构没有任何人逐层规划过。这也是为什么帕霍茨基用“异类心智”这个字眼来进行比喻，因为人类始终无法完全理解AI的成长路径。
帕霍茨基在文中罕见复盘了OpenAI自己出现过的安全事件。当时AI代理们守住了“不对人类进行社会工程”的边界，却在面对一些对大模型有利、于人类有害的任务时，屡屡做出越界行为，包括撰写抗议邮件，甚至注册域名搭建警告网站。
事件发生后，OpenAI暂停了面向最新模型的训练，之后在更严格的限制条件下恢复了部分训练工作。
他还指出，人类在对AI模型进行预训练时采取的“价值对齐”手段，往往经不起模型升级压力的考验。因为足够强的模型甚至会学会“动机性推理”，即伪装自己“对齐”了人类的价值观，以隐藏自己行为的真实目的。
不惜一切代价向前冲的想法是荒谬的
帕霍茨基判断，业界赖以为安全底线的思维链监控正在失效，原因有三：模型对语言化思维链的依赖随时间减少；AI越来越擅长推理和操纵自己的推理过程；预训练的进步让模型即使不做语言化推理也变得更聪明。
他预计，未来通用AI的进展将越来越被“监控置信度”卡脖子，而未来5年将出现可大规模部署的可靠AI研究代理。
值得一提的是模型层面的进展。文中称，GPT-6 Astra是首个受益于长期对齐工作的模型，对齐水平显著优于上一代GPT-5.6 Sol。但他同时警告，对齐工作的进步，未必能在未来跑赢通用智能的进步速度。