登录

大模型推理


描述

大模型推理是内存搬运密集型任务。
文章

分类

瓶颈

不同于传统AI芯片孤立追求算力指标的思路,MemSilicon的LPU立足于内存技术和内存架构创新,从系统层面同步优化计算、存储与互联,以三者协同解决大模型推理瓶颈。
文章

其它

公司战略全面升级:在继续推进阻变存储器(RRAM)产品化的基础上,启动面向大模型推理的第一代LPU研发,打造“满血模型、高速Token、越级性价比”的新一代推理引擎。
文章