AI幻觉

在数学表达上，AI幻觉是由于模型的泛化能力不足，泛化能力是过度拟合的直接表现，指AI对没见过的数据的预测能力。

总之，AI幻觉是模型与真实的世界脱节。

回到理论层面，对AI幻觉问题的研究可以提升哲学认识论和信息科学的跨学科融合。

一、AI幻觉现象的产生与扩散

而对于AI来说，这个过程仍处于黑箱状态，AI幻觉的现象才是刚刚开始，未来会有更多的幻觉问题产生。

预测加工理论（PP）为我们认识AI幻觉提供了新的本体论视角，在产生机制上，AI由于其内部封闭系统的熵增和缺乏与环境的交互，由此产生幻觉问题通过对AI幻觉本质的揭示，有助于我们更深刻地理解AI的局限性，从而为改进AI和LLM提供一种有益的视角，即便回到实践层面，在AI国际竞争日趋激烈的当下，哪个国家能够最大限度上消除AI幻觉现象，它就率先占领市场，并在这轮竞争中获胜。

AI幻觉本质上是人类知识的“认知投影”，与数据过度拟合和缺乏实时环境反馈密切相关。

通过对AI幻觉的本质与产生机制的分析，可以发现最大限度上消除AI幻觉有三种路径：首先，克服内部熵增；

[[xxix]]AI幻觉的出现，正是因为AI作为认识主体出现了内部熵增，在一个封闭的系统内，信息开始出现变形，导致输出信息出现错误，这就是AI幻觉的本质。

回到最基础层面，AI幻觉的本质是模型与真实世界的脱节，表现为非意向性、非具身性和结构复制性。

为了揭示AI幻觉的实质，可以利用目前比较成熟的预测加工理论来解释AI幻觉的产生机制，同时也能为理解人类的认知提供一种逆向视角。

因此，本文尝试解决如下三个问题，首先，利用预测加工理论（predictiveprocessingtheory，以下简称PP）的分层编码预测和自由能原则揭示AI幻觉的产生机制；

第三，通过对AI幻觉产生机制与本质的分析，揭示其对传统认识论带来的挑战与机遇。

根据预测加工理论对人-机幻觉的对比发现，AI幻觉产生的机制来自模型内部的熵增、过度拟合而缺少外部反馈和具身交互。

若是无法将几种模态的数据对齐，便会发生AI幻觉，由此可知，由于多模态的特点造成AI幻觉的概率是非常大的。

预测加工理论（PP）为我们认识AI幻觉提供了新的本体论视角，在产生机制上，AI由于其内部封闭系统的熵增和缺乏与环境的交互，由此产生幻觉问题通过对AI幻觉本质的揭示，有助于我们更深刻地理解AI的局限性，从而为改进AI和LLM提供一种有益的视角，即便回到实践层面，在AI国际竞争日趋激烈的当下，哪个国家能够最大限度上消除AI幻觉现象，它就率先占领市场，并在这轮竞争中获胜。

两年前AI幻觉是什么样？