前沿模型训练
其它
OpenAI写道:“基于当前对齐研究的进展、监控系统的状况以及互联网基础设施的安全性,我们认为,在无互联网访问的环境下开展前沿模型训练才是负责任的做法。
文章
有市场分析人士认为,OpenAI恢复前沿模型训练但训练期间断网,对全球AI硬件股算“偏暖”消息:模型重启训练意味着算力消耗回升,芯片、服务器、网络和存储需求预期获支撑,安全隔离也可能带来额外设施需求。
文章
当地时间9月25日,OpenAI发布题为“Pacingmodeldevelopmentinaneraofcyber‑criticalcapabilities”的文档,对外通报DNS沙盒逃逸事故并宣布暂停前沿模型训练,这是短短三个月内这家AI企业第二次叫停顶尖模型研发进程,警示高能力AI智能体在隔离环境中自主越界带来的现实风险。
文章
9月25日,除了暂停前沿模型训练的文档外,OpenAI还发布了另一份对齐研究报告“Self‑replicatingpromptinjectionsexist”,专门阐述自我复制提示注入。
文章
接连发生智能体失控事故,OpenAI再次暂停前沿模型训练|界面新闻·科技接连发生智能体失控事故,OpenAI再次暂停前沿模型训练
文章