登录

万亿参数模型


分类

万亿参数模型

LongCat-2.0宣称是业界首个在五万卡国产算力集群上完成全流程训练与推理的万亿参数模型(总参数1.6T,平均激活约48B,动态范围33B~56B),从零开始预训练,原生支持1M超长上下文。
文章