AI推理

现代AI推理系统需要将高带宽存储器部署在靠近计算核心的位置，而随着AI和大模型发展，对靠近计算单元的更大容量存储需求也随之持续增长。

该规范为设计AI推理系统和AI加速器的企业及开发者提供了一套通用技术框架，使其能够在需要更大容量的近计算存储以及更高带宽的场景中引入HBF技术，从而提升系统功耗和性能指标，并帮助降低成本。