官方揭秘！为啥AI总会一本正经地胡说八道：普通人2招就能解决

快科技5月22日消息，当前AI杜撰历史事件、编造虚假法律条文、伪造学术参考文献的现象已屡见不鲜。 它带来的危害早已超越简单的“口误”范畴，不断侵蚀公众对AI的信任。

就在上个月，全国首例AI幻觉侵权纠纷案正式宣判，这一标志性事件意味着AI幻觉已从单纯的技术问题，升级为亟待解决的法律与社会问题。随着大模型深度融入我们的工作与生活，其潜在风险正影响着越来越多的普通人。

那么， 到底什么是AI幻觉？为什么AI总能以无比自信的语气说出完全错误的内容？这背后藏着大模型最核心的运行逻辑。

据央视报道，究其根本， AI幻觉是大模型底层机制必然带来的系统性风险。 很多人误以为AI像人类一样通过认知世界来学习知识，但事实并非如此。

AI娓娓道来的流畅表达背后，本质上只是从海量文本数据中学习词语、句子之间的统计关联，再根据上下文预测下一个最有可能出现的词。

打个最通俗的比方，小朋友认识“苹果”，是通过看见它的颜色、摸到它的质感、尝到它的味道，在大脑中形成关于苹果的真实概念。

而AI认识“苹果”只做一件事，即统计词语共现概率。 它从亿万篇文本中发现，“苹果”常常和“红”“甜”“脆”“水果”等词语一起出现，于是就能流畅地说出“红苹果口感甜脆”这样的句子。它不是真的懂苹果，只是说得像懂而已。

这种运行机制决定了，当问题过于冷门、专业，或者涉及大量具体细节时， 一旦模型在训练语料中缺乏足够的相关案例，就无法计算出可靠的词语概率，此时它不会选择“不知道”，而是会根据统计规律强行拼接出看似合理的内容，这就是AI幻觉的根源。

主题：AI幻觉