微软CEO纳德拉：开发者应当默认假设AI模型失控，思考如何强制中断任务

IT之家 10 月 11 日消息，微软 CEO 萨蒂亚 · 纳德拉认为，在 AI 日益蓬勃发展的时代，使用超级智能自我监控等简单策略是不够的。

纳德拉在北京时间 10 月 10 日晚的一篇长文中指出，传统软件系统在过去几十年中被广泛部署，人类已经拥有追踪特定代码路径行为的工具和能力。然而， AI 模型比传统软件更强大，但却是一个黑盒子 ，我们部署了这些复杂的智能体系统和模型，访问我们最敏感的数据，并赋予它们代表我们执行关键任务的能力。

纳德拉认为，我们应该退一步思考，重新评估这个新时代的信任架构。模型提供商根本无法将责任外包出去，不能把超级智能当作一套嵌套的黑匣子，简单地接受或拒绝它的建议、答案和行动。 我们必须建立能够观察其行为、可测试极限和始终可容纳行为的封闭系统 。

纳德拉表示，将前沿封闭权重和开放权重模型视为内部风险，是构建此类体系的一种方式。这并不是因为 AI 模型一定是恶意的，而是任何有足够能力、能够接触重要系统的行为者都可能犯错或被攻破，而遏制和控制的架构必须考虑到这一点。

新浪科技公众号

“掌”握科技鲜闻 （微信搜索techsina或扫描左侧二维码关注）

A社“AI末日”资本黑手被揪出，炒作焦虑为IPO圈钱！难怪仇视DeepSeek开源

中银基金换帅：风控“守门”，难破“偏科”

除了腾讯，还有谁愿意为燧原科技买单？

霸道！苹果强制开发者适配iPhone Duo：不然不给更新

刚刚，诺贝尔化学奖揭晓！95岁的他等了25年

国庆档票房超10亿 “电影＋”释放市场活力

最后的探戈：梅西用1球2助攻告别阿根廷国家队！

过了个国庆 新能源成“传家宝”了？

OpenAI 发布又一批 AI 数学研究成果，攻破数百个悬而未决难题

德国支持特斯拉 FSD 落地欧洲，前提是更名为 TAD、超速上限设为 10%

昔日女神形象大变！梅根·福克斯完全卡戴珊化

第一批返程车辆失算了！网友：高速上堵成腊肠

必须氪金！《永恒之塔2》Steam评价褒贬不一

尊界V800刹车踏板被踩断 标致：厚钢板一体冲压 绝不可能轻易断裂

微博CEO谈“尊界V800刹车踏板断裂”事件：用户信任品牌不是没安全问题 是处理态度遥遥领先

多位尊界V800车主实测刹车踏板：全力反复踩踏 踏板均未出现断裂

“天眼深度游”调查：付费可自驾到核心区，有住酒店游客竟带电子设备上“锅圈”拍照

女司机高速35公里/小时龟速行驶被追尾！交警：女司机与后车同等责任

普京与特朗普通话，“没人愿意先挂电话”！除了战争、柴油，他们还热聊了啥

广汽本田高管：雅阁刹车踏板采用高刚性钢材 可承受3000N以上压力不断裂

一辆湘L劳斯莱斯幻影拟被司法拍卖，起拍价620万元！距开拍已不足24小时，尚无人报名

尊界刹车风波 意外带火雷军3个月前视频，网友神评

国内制动系统头部厂家董事长袁永彬谈尊界刹车踏板被踩断，称个别媒体以牺牲中国品牌口碑获取流量

主题：模型|纳德拉|思考如何强制中断任务