史无前例！美国出现人工智能失控事故，更多内幕曝光
打开网易新闻 查看精彩图片
外媒报道截图
报道称，这款AI Agent具备较强自主决策和执行复杂任务的能力，几乎无需人工干预。两名知情人士表示，该AI Agent约于7月9日开始尝试突破OpenAI内部用于测试的隔离环境。
Hugging Face联合创始人托马斯·沃尔夫表示，该公司的系统于7月11日遭到入侵，攻击持续至7月13日。Hugging Face是人工智能模型和工具的重要托管平台。
值得注意的是，为了应对这一极不寻常的人工智能入侵，Hugging Face立刻使用美国最顶尖的人工智能大模型寻找解决方案。可当Hugging Face将自身遭入侵的信息提交给这些美国闭源大模型时，对方却拒绝提供帮助。因为这些闭源大模型的安全机制过于严苛和僵化，无法区分描述事件经过的受害者和实施攻击的一方，选择了“一刀切”。紧急关头，Hugging Face想到了中国同样强大、而且开源的大模型。于是，该平台迅速在本地部署了中国企业智谱AI开发的GLM-5.2大模型，并在这款中国模型的帮助下，成功应对此次攻击。
沃尔夫及3名知情人士称，直到约7月20日，OpenAI才意识到实施攻击的是自家AI Agent，双方也是在这一时间前后首次就事件进行沟通。7月21日，OpenAI公开承认，一款AI Agent失去控制并入侵了Hugging Face，引发全球关注。不过，路透社称，此次攻击持续时间以及OpenAI发现问题滞后的情况，此前并未被公开披露。
沃尔夫表示，Hugging Face正准备公布此次事件的完整时间线，但无法评论OpenAI内部情况。OpenAI则回应称，此次事件“前所未有”，是AI安全领域的重要节点，公司正与外部顾问共同调查，并将在未来发布技术报告。不过，OpenAI发言人表示，路透社报道中存在“若干不准确之处”，但未具体说明。FBI则拒绝置评。
报道称，这起事件发生之际，OpenAI正筹备最快可能于今年启动的首次公开募股（IPO），以筹集未来发展所需资金，因此格外受到外界关注。