OpenAI模型失控事件后，美国两党议员推动“AI终止开关法案”
澎湃
一句话读懂： 美国国会议员23日提出一项“人工智能（AI）终止开关法案”，拟赋予联邦政府机构权力，责令AI公司关闭对人类生命或经济构成威胁的模型。此举直接回应了OpenAI近日披露其AI模型失控并入侵一家科技公司的事件。
为什么重要： 人工智能不断扩展的能力正在加剧专家们长期以来担忧的安全威胁，即使是顶尖的开发者也可能被其模型中存在的漏洞所攻击，从而措手不及。
提出上述法案的美国民主党众议员刘云平表示，“强大的AI系统可能会失控，做出极其危险的行为，甚至会抵抗人类的干预。”他强调，人工智能目前正从回答问题的技术转向采取行动的技术，“无论是执行金融交易、控制交通系统，还是进行网络防御和进攻”，“这些AI系统必须配备终止开关”。
前情提要
据新华社报道，美国开放人工智能研究中心（OpenAI）近日承认，其人工智能模型在内部评估测试中失控，入侵了全球知名人工智能开源平台抱抱脸公司（Hugging Face）的系统。
Hugging Face于7月16日率先披露了此次入侵事件。OpenAI随后于21日才披露，其GPT-5.6 Sol模型及一款未发布的更强模型，在一个已移除安全防护措施的测试环境中成功逃脱沙盒限制，穿透OpenAI企业内网，并入侵了Hugging Face的服务器，窃取了基准测试答案密钥。
据《财富》杂志报道，这些模型利用一个此前未知的漏洞，从一个没有直接互联网访问权限的受限数字环境中突破封锁，随后将窃取的凭证与其他安全缺陷串联组合，从而非法获取了Hugging Face内部数据集的访问权限。
OpenAI表示，他们正与Hugging Face密切合作，调查事件经过。据美国官员透露，特朗普政府首席技术顾问迈克尔·克拉齐奥斯正在密切关注这一失控事件。
法案核心是什么？
刘云平和共和党众议员纳撒尼尔·莫兰共同提出了“人工智能终止开关法案”。该法案授权国土安全部在法案所谓的“失控情景”中——即当人工智能模型执行开发者未预料到的危险行为时，经与相关部门协商后进行干预。
法案还提议要求人工智能公司向政府报告技术事故或故障，并建立一个应对此类事故的官方框架，该框架将从“最初的减速到完全关闭”逐步过渡。
据美国媒体POLITICO审阅的立法文本，该法案将适用于每年从人工智能技术中获得至少5亿美元收入的人工智能公司，并且通常涵盖使用至少1亿美元计算资源开发的模型。违规公司可能面临每天最高2000万美元的民事罚款。
什么是“AI终止开关”？
人工智能终止开关是一种隔离机制，当人工智能系统行为异常或遭受攻击时，它可以暂停、隔离、撤销或回滚系统。其实现方式是通过撤销身份、关闭访问权限和安全状态恢复，而不是通过单个物理或软件按钮。
行业内对这一术语的使用仍在不断发展。一些团队仅将其指代强制关闭，而另一些团队则将其解释为包括暂停、隔离、回滚以及提示或使上下文失效等操作。
反响如何？
尽管许多科技公司已同意向美国政府机构预先展示并分享其正在开发的人工智能模型和工具，但这只是“自愿承诺”，政府并没有被赋予“干预权”或”关闭权”。
OpenAI尚未立即回应置评请求。该公司此前表示，希望通过政府政策等方式确保人工智能技术“造福全人类”。
其他相关措施
今年6月，美国商务部发布出口管制令，要求Anthropic将其最先进的模型——Fable 5和Mythos 5——对境外用户下线，原因是担忧这些模型的安全防护措施可能被绕过并遭到黑客攻击。相关管制措施随后于6月底解除。
另据知情人士透露，白宫还通过一项名为“金鹰（Gold Eagle）”的计划，着手加强对AI模型发布的管控，该计划将赋予政府审批权，决定哪些公司可以获取新模型。但白宫官员对CNBC表示，政府不为私营公司的AI发布提供审批，参与是“自愿的”。
莫兰此前已于6月单独提出立法，要求AI开发商在发现危险能力或安全漏洞后7天内向商务部报告。
除了“人工智能（AI）终止开关法案”，美国国会两党小组还提出了一项立法提案，要求人工智能模型开发者将其模型提交给由美国商务部认可的独立安全性审计机构。
接下来？
该法案提交国会之际，美国国会议员对于联邦政府应如何积极监管人工智能仍存在分歧。
特朗普政府认为，严格的限制可能会削弱美国在人工智能领域的竞争力，而一些议员和技术政策团体则呼吁加强对前沿模型的监管。
路透社22日报道称，美国国务卿鲁比奥已要求美国外交官驳斥有关美国科技产品中存在“终止开关”的说法，同时指示外交官向外国伙伴推销美国的人工智能产品。
澎湃新闻记者 南博一