AI推理

智能体应用的爆发，带动AI推理需求激增。

●高带宽，满足AI推理需求

密度瓶颈：DRAM容量扩展已陷入停滞，而支撑AI推理所需的容量需求却持续攀升。

“Akamai希望能够借助过去20多年在全球积累的分布式计算网络构建起一个全球最大的分布式及云安全的平台，同时进一步转型成为全球最大的分布式AI推理平台。

在今年的GTC期间，老牌CDN巨头Akamai与英伟达宣布，双方联合打造的“AI网格”（AIGrid）落地，将遍布全球超过4400个边缘节点的网络改造为分布式AI推理平台，并在其中部署英伟达GPU。

在国内市场，CDN厂商网宿科技近年也打造出一个具备网络传输、智能算力和安全防护功能的一体化边缘AI推理平台，为企业提供从底层算力、AI模型部署到安全防护的一站式服务。

驱动这场转向的，是行业对AI推理市场的预期。

面向AI推理优化的内存架构特性

面对这些显著差异的内存特性，市场亟需一种专为AI推理优化的内存技术。

由于受密度、成本与功耗限制，HBM通常无法用于边缘与移动环境，而HBF可凭借更大存储容量，实现处理更复杂AI推理任务的价值。

CDN（内容分发网络）厂商正试图把自己改造成AI推理的承载者。