美国拟强化AI监管机制

美国拟强化AI监管机制

2026年05月06日 19:32

　　 在生成式 人工智能 （Generative AI）加速进入关键应用场景之际，美国商务部正推动建立更系统的前置评估机制。

　　根据最新协议，谷歌、 微软 及xAI需在产品发布前向政府提交模型接受能力与安全性测试。此举也标志着白宫针对高风险AI模型带来的 网络安全 隐忧，开始对其原有“轻监管”路径作出实质性调整。

政府前置测试

　　来自美国商务部的消息称，谷歌、 微软 以及xAI推出的新一代AI工具和能力，在向公众发布之前，将接受该部门的测试。

　　这些科技公司已同意通过美国商务部下属的 人工智能 标准与创新中心（CAISI）自愿提交其模型进行测试。

　　这一协议是拜登政府时期，在OpenAI和Anthropic等公司达成的相关承诺的基础上进一步扩展而来的。根据协议，所有相关公司的AI模型都将接受能力与安全性评估。

　　“在这一关键时刻，这些扩展的行业合作有助于我们以公共利益为导向扩大工作规模。”CAISI主任克里斯·法尔表示。

　　总体而言，这些AI工具的评估将涵盖“测试、协同研究以及与商业AI系统相关的最佳实践”等。

　　据悉，OpenAI以及Anthropic早在2024年就与美国商务部达成了类似协议。

　　谷歌最知名的AI工具是其子公司DeepMind开发的Gemini，该聊天 机器人 已广泛应用于谷歌各类产品中，目前也被用于美国国防和军事机构。 微软 最知名的AI工具是Copilot。而xAI目前唯一的AI产品是Grok，其曾因出现对图像中人物进行不当“去衣”处理的问题而受到公众审视。

　　当地时间5月5日，CAISI表示，其此前已完成40次AI工具评估，其中包括对某些“最先进但尚未发布的模型”的测试。不过，该中心并未具体说明哪些模型被阻止向公众发布。

　　CAISI公告发布后，微软在一篇公司博客中表示，其本身已对AI模型进行测试，但“涉及国家安全和大规模公共安全风险的测试，必然需要与政府开展协作”。

　　DeepMind发言人拒绝发表评论。目前，控制着xAI的SpaceX方面亦未回应置评请求。

　　而在该协议出台之际，有消息称，特朗普政府正考虑启动一项新的政府审查机制，用于评估美国认定可能带来 网络安全 风险的AI工具。

　　据《华尔街日报》报道，白宫正在考虑一项以 网络安全 为重点的行政命令，其中可能包括将一个政府监督小组制度化，以为最强大的AI模型制定标准。其目标是防止这些模型过早发布引发网络攻击及其他干扰，从而保护消费者和企业。

白宫方向转变

　　这些举措标志着白宫政策取向的一种变化。

　　此前，特朗普政府在对AI及科技企业监管方面总体采取较为“放任”的态度。

　　去年，特朗普曾签署了一系列行政命令，构成其政府“AI行动计划”的基础。他表示，该计划将“减少繁文缛节和过度监管”，确保美国通过技术进步与控制在AI领域“取胜”。

　　但随着美国军方扩大对AI的应用，以及Anthropic近期声称其开发了一款名为Mythos、因“能力过于强大而不适合公开发布”的模型，白宫正在调整其政策立场。

　　据了解，Mythos的发布对特朗普的一些政策取向构成了挑战，并在美国政府内部员工和科技行业高管中引发了焦虑。他们担心，这将开启一个由AI驱动的大规模漏洞发现时代。他们将之称为“Bugmageddon”（漏洞末日），在这一过程中，企业和政府机构需要不断进行漏洞分类、测试和修复，黑客则能越来越容易发现并利用这些漏洞发起网络攻击。

　　事实上，Anthropic与特朗普政府之间的紧张关系已持续数月，这使Mythos的推广进程更加复杂。

　　当地时间3月9日，Anthropic起诉美国联邦政府，称因双方在公司产品使用方面存在分歧，遭到对方打击报复，被列入黑名单。

　　近几周来，美国国家网络总监肖恩·凯恩克罗斯已召集政府官员和科技行业领袖，就应对Mythos展开讨论。美国副总统万斯以及财政部长贝森特也参与了相关会议。贝森特还向金融行业高管发出警告，指出此类模型可能带来的风险。

　　与此同时，包括OpenAI和谷歌在内的其他领先AI开发商，也在推出或研发可能带来网络风险的模型。而他们还在以不同形式与美国国防部合作，这进一步引发部分AI安全倡导者对如何为技术使用设置适当安全边界感到担忧。

（文章来源：国际金融报）

主题：新股|美国拟强化AI监管机制|基金|美股