登录

矩阵乘法


描述

众所周知,矩阵乘法是AI工作负载中神经网络与大语言模型(LLM)的核心运算单元,现有的AVX10等单指令多数据流(SIMD)扩展虽可完成矩阵乘法运算,但其可扩展性与计算密度存在明显瓶颈,而传统的加速矩阵乘法技术方案,也无法实现高效能的运算优化。
文章