登录
更多
已读文章
名词
现象
观点
问题
政要
1.58-bit技术
其它
相比BF16精度,BitCPM的
1.58-bit技术
意义在于,通过将权重限制在-1、0、1三个值,释放推理侧约6倍的显存,让设备在同等物理内存约束下运行更大参数规模模型。
文章