空间光计算
分类
芯片
当GPU在做推理时由于冗余功能导致性价比变低时,空间光计算芯片(OPU)作为专用的Decoder,让GPU去做Prefill任务,分工协作,整体TCO下降立竿见影。
文章
三方打通了“光计算推理芯片+通用GPU+大模型算法”的全栈技术链路:每刻深思提供空间光计算芯片,加速能效比的提升;
文章
每刻深思团队用已成熟的光通信和显示行业的供应链,“攒出”了一颗能跑AI大模型推理的专用空间光计算芯片。
文章
效果
因此,每刻深思团队正在做的事情,就是在智算中心的推理侧,通过空间光计算这一底层物理范式的创新,有效缓解电芯片制程发展带来的制约,借助光的衍射与完成算力场景中能耗最高的矩阵乘法运算,实现单位算力成本的大幅下降。
文章