OpenAI与Goodfire达成AI安全合作,此前曾探讨超50亿美元收购
2026年11月17日 07:1
IT之家 11 月 17 日消息,今日,OpenAI 宣布与 Apollo Research、METR、Transluce 和 Goodfire 达成合作,将启动首阶段嵌入式评估项目(Embedded Assessments),共同开展模型可解释性与安全评估工作。
与此同时,据《The Information》今日报道,OpenAI 此前曾探讨以超过 50 亿美元 (IT之家注:现汇率约合 333.92 亿元人民币) 收购 Goodfire 的方案,但双方最终未能达成收购协议。
根据 Goodfire 发布的公告,该公司将派遣可解释性研究人员进驻 OpenAI,使用自有可解释性分析平台监测模型训练过程、排查非预期行为,并帮助改善模型对齐与安全性。研究人员将获得 OpenAI 内部模型和系统的深度访问权限,具体包括训练过程中的内部信号及相关技术资源。
此次合作的重点是模型取证(Model Forensics)。Goodfire 将通过分析模型内部计算过程,监测训练期间出现的已知风险和异常行为,帮助 OpenAI 研究人员发现传统监控手段可能遗漏的问题。相关评估结果主要提供给 OpenAI 内部研究团队,用于改进模型安全性。Goodfire 还表示,随着合作推进,将逐步公开部分研究成果。
OpenAI 在公告中表示,嵌入式评估允许独立专家在较长时间内深入接触实验室内部模型和系统,评估模型对齐情况及安全防护措施的有效性。根据不同评估项目的需求,外部评估人员可以接触模型检查点、源代码、训练与评估数据、监控系统、技术文档,以及负责相关工作的研究人员和工程师。