外部评估戳穿OpenAI监控漏洞：智能体数百次操作逃过审查

今年早些时候，AI 安全评估机构 METR 与 Redwood Research 对 OpenAI 的内部监控系统做了一次试点评估，结果揪出多枚新漏洞。据路透社当地时间 22 日报道，其中一枚能被 AI 智能体利用，让数百次操作悄悄绕过监控。

这次评估的时间窗是 7 月 21 日到 8 月 11 日。两家非营利机构各派一名研究员进驻，获准翻看 OpenAI 的内部代码和文档，并和部分技术人员面对面交流。整个过程有人陪同，设备由 OpenAI 配发且不准带离办公区，属于一次"嵌入式"的深度访问。

隐患不止监控被绕过。研究人员还发现，OpenAI 的 Codex 智能体存在一条可绕开安全限制的潜在路径，一旦利用，就能拿到与用户同等的完整操作权限。评估以 7 月 21 日及之前的系统为对象，而 OpenAI 当时本就在扩张这套监控体系，时间点的重叠让结论更显紧迫。OpenAI 回应称，影响实际运行系统防护的漏洞"均已修复"，但修复是否真的奏效，两家机构尚未核实。

透明与保密的拉锯

主张外部独立评估的声音并不少——AI 实验室、领域专家乃至美国政府都认同，在守住安全底线的同时别拖慢技术脚步。可企业也有顾虑：外部人员进驻，会不会把专有信息漏给竞争对手？

现实是折中的。两家机构向 OpenAI 递交了长达 61 页的内部报告，但只同意公开结果概要，也允许对方删掉敏感内容。与过往某些评估不同，这次它们无权自行披露被删减的具体信息，不过仍希望往后能更透明。

OpenAI 表示，评估帮它在扩展监控系统的同时补强了防护，也将为今后与 METR 及其他第三方评估机构的合作提供参考。

主题：