性能

NVIDIA的研究团队日前发了个报告，介绍了他们用AIAgent重写了KimiDeltaAttention（简称KDA）GPU内核的过程，KDA是Kimi的大模型正在使用的核心机制之一，而这种底层高难度代码往往需要资深工程师及芯片架构师反复调优才能做到一定的性能优化。

从这个报告来看，Agent会直接把测试数据的统计规律写进代码中，结果轻松跑出3.74倍的性能优化，甚至在保留32个token的情况下做到极限5.16倍的性能优化，只不过这些提升只能在测试中实现，遇到真实情况就会出错或者没啥用。

最终的2.96倍性能优化就是在排除了AI用这些取巧、忽悠的数据之后才得到的，并且是可以验证的，不然人类就被AI忽悠成功了。