阶跃30B-MoE模型

阶跃30B-MoE模型是目前市面上最大的手机端侧模型，也是首个在第六代骁龙8超级至尊版移动平台上完成跑通和验证的MoE模型。

在此之上，无量火的自研Ember推理引擎与EmberKernel端侧编排内核基于第六代骁龙8超级至尊版移动平台的强大AI性能基础和完整软件栈支持，以XCompute异构调度实现跨CPU/GPU/NPU的统一高性能编排，在不修改模型结构、不损失推理精度的前提下，使阶跃30B-MoE模型的运行内存需求相比行业常规方案降低超50%。

通过与阶跃、无量火和江波龙合作，我们优化了阶跃30B-MoE模型在第六代骁龙8超级至尊版移动平台上的部署，在提升吞吐性能、降低内存需求的同时，实现了持续稳定的终端侧运行。