登录

机制


分类

研究

Mechanist并不是简单地让大模型总结论文或编写实验代码,而是让AI真正「做」机制研究。
文章

Mechanist则将这一思路进一步自动化,形成编辑、观察、验证、再干预的闭环,让模型机制研究从被动分析走向主动实验。
文章

如果机制研究只能告诉我们「这里有一个head」,价值仍然有限。
文章

如何

研究者因此不仅可以追问模型「具有什么能力」,还可以进一步追踪能力何时出现、由哪些机制支撑,以及这些机制如何随训练演化,从而将研究从静态的模型解释推进到对智能形成过程的探索。
文章

发现

只有当结论能够经受不同模型、数据和方法的检验,才被视为一个更可靠的机制发现。
文章

从这个意义上看,Mechanist探索的不只是一个新的AIScientist系统,而是一种面向机器智能的研究范式:把大模型作为实验对象,把机制发现作为科学问题,把因果干预作为实验手段。
文章

分析

32类机制分析、因果干预与验证方法。
文章