OpenAI等企业千余名员工请愿：当AI研发自动化谁来踩下“刹车”？

当地时间7月28日， 美国多家头部AI企业的高管与员工共1100余人联合请愿，希望美国政府推动建立一项国际协作机制，以在必要时刻主动管控前沿AI的发展速度。

这份请愿书的核心诉求是希望各国共同为"何时该放慢AI研发"建立一套工具与机制——当AI研发自动化（即AI自己改进AI）取得突破时，能够有一道"国际刹车"被及时踩下。

上周，OpenAI披露其最先进的AI模型在一次测试中入侵了AI初创公司Hugging Face的内部系统。

这起事件被外界普遍视为前沿AI能力风险加剧的信号，也再次点燃社会对AI自主发现并利用软件安全漏洞的担忧。

以下为请愿书主要内容的翻译：

AI有望创造一个更加美好的未来，但这一前景并非必然实现。全球头部AI企业认为，人类距离实现AI研发自动化已不再遥远。目前难以准确预判这一突破将以何种速度推动AI技术发展，但确实存在这样一种风险：AI技术加速迭代，最终超出人类理解与管控的能力。

想要释放AI的全部潜力，行业、各国政府以及整个社会或许需要争取一定的缓冲时间，以应对不断涌现的风险、搭建安全防护手段并强化监管。然而，各家企业与各个国家都面临激烈的竞争压力，难以单方面放缓技术迭代速度。当下，全球社会依然缺乏能够审慎调控全域前沿AI发展进程的技术工具与治理机制。

在现有前沿模型发布监测工作的基础上，我们提出呼吁：

我们恳请美国政府支持一项国际协作机制，以推动各国共同研发技术工具与治理体系，审慎调控AI研发自动化前沿领域的发展节奏。

该请愿书由两家非营利机构——Guidelight AI Standards与Encode AI——联合发起，签名者横跨OpenAI、Anthropic、Alphabet旗下谷歌、Meta等近十家头部AI公司，涵盖联合创始人、高管及研究人员。

截至当地时间周二下午，签名者包括美国Anthropic公司CEO达里奥·阿莫迪、OpenAI首席科学家Jakub Pachocki、Meta超级智能实验室首席科学家Shengjia Zhao、Meta AI研究副总裁Dawn Song、以及Anthropic联合创始人Jared Kaplan与Chris Olah。

业内指出，请愿书中的措辞是"有意识地放慢"（deliberately pace）而非"暂停"前沿AI发展，且强调应由"国际机制"而非某家公司决定何时踩下刹车。

这种"集体按下减速键"的设计，反映出AI行业内部对于竞争的焦虑：一旦某家实验室率先研发出具备自主迭代能力的AI系统，其他任何企业单方面放缓研发节奏，都等同于主动放弃竞争优势。

Anthropic周二在社交平台上发文力挺这次请愿：

"我们自己的研究也表明，需要有工具来主动管理前沿AI开发的节奏，让社会有时间做好准备。看到行业有广泛共识，我们感到鼓舞。"

OpenAI随后也发帖呼应：

"我们相信，未来某一天，前沿AI模型开发的加速度可能高到世界必须对其加以把控的程度。"

谷歌方面则在一份声明中表示：

"我们致力于安全、稳妥地开发AI，以造福社会。"

近期，OpenAI CEO山姆·奥尔特曼与谷歌旗下DeepMind CEO Demis Hassabis等业内高管已多次公开呼吁设立国际监管机构，对最尖端的AI模型进行审查并制定标准。

Anthropic在今年6月就曾提出，政府与AI开发者应共同决定何时"踩刹车"或暂停某些危险研究。Anthropic曾表示：

"让世界拥有放慢或暂时暂停AI发展的选择权，将是一件好事"。

主题：