修改
分类
输入
一般来说,我们想要AI生成更好的回答,通常只能修改输入的提示词。
文章
训练
权重空间编程则尝试直接修改训练完成后的模型权重,即直接修改神经网络计算时使用的数字。
文章
模型
而开发者想要修改模型的输出,可以用数据进行微调。
文章
权重
证明大模型可以读懂权重之后,研究团队继续测试是否能「写」,即修改权重。
文章
研究人员给Astra一个可以读取和修改权重的Python环境,以及GSM8K、MATH训练集中的练习题和答案,要求让这个小模型更擅长数学。
文章
代码
他们让GPT-6Astra像程序员阅读和修改代码一样,直接分析神经网络的权重,定位模型的问题,再修改其中的参数。
文章