登录

进入架构创新

分类

关键期

大模型推理进入架构创新关键期

文章

他认为，大模型推理正在进入架构创新的关键期，单纯依赖单一维度的算力提升，已难以满足“低延迟、长上下文、高吞吐”的综合需求，存算协同是破局的核心路径之一。

文章