教训》

2019年，他发表《苦涩的教训》（TheBitterLesson），总结了人工智能研究七十年来反复出现的一种模式：研究者总喜欢把人的知识、经验和规则写进系统。

“是”，是因为大模型的崛起本身就是《苦涩的教训》的体现。

于是，今年演讲的核心问题也随之浮现：大语言模型和基础模型（FoundationModels），究竟有没有真正吸取《苦涩的教训》？

今年，他则回到了自己最著名的观点——《苦涩的教训》（TheBitterLesson），并借此追问：如果人工智能的发展仍遵循过去七十年的规律，那么今天如日中天的大语言模型（LLM），是不是也只是AI演进过程中的一个阶段？

从去年的“体验时代”（EraofExperience），到今年重新谈起《苦涩的教训》，萨顿真正关心的问题其实没有改变，只是变得更加具体。

但如果把基础模型视作通向全知智能的终点，那么正如《苦涩的教训》所揭示的那样，它们最终也可能像过去许多AI技术一样，被一种更能够依靠行动、搜索和学习创造新知识的范式所取代。

它们依靠不断增长的算力、海量互联网数据和规模化训练获得能力，而不是主要依赖人工编写规则，这正是《苦涩的教训》所强调的发展路径。

萨顿强调，《苦涩的教训》并不是一条物理定律，但同样的历史已经重复了太多次，因此没有理由认为，它会在今天停止。

《苦涩的教训》并不是一条物理定律，但同样的历史已经重复了太多次，因此没有理由认为，它会在今天停止

他则回到了自己最著名的观点——《苦涩的教训》（The Bitter Lesson），并借此追问：如果人工智能的发展仍遵循过去七十年的规律，那么今天如日中天的大语言模型（LLM）