推理

论文的核心想法是将大体量的LLM（比如32B模型）的推理能力蒸馏给小体量的LLM：即大LLM产生高质量的推理路径，再让小LLM去学习以增强其在推荐场景下的推理能力。

论文通过监督微调（SFT）和强化学习（RL）来赋予通用推理模型在序列推荐任务上的推理能力。

Qwen3.6-Plus在多模态能力上进一步升级，并围绕推理能力增强、指令模式实用性提升以及复杂任务执行能力拓展三个方向持续演进。

同时，模型默认支持100万上下文窗口，多模态感知与推理能力也同步优化。

正如近些年大语言模型，尤其是推理模型在通用任务上的优异性能所揭示得，让推荐系统先思考再做出决定或许可以再次突破现有框架的性能上限；

预训练的推理模型并不具有（很强的）对物品序列的推理和解释能力，尤其是考虑到在现实场景中需要实际部署时受限于延迟限制，LLM的体量有限，例如仅仅能支持最大8B。

芯方舟敏锐地捕捉到这一变化，致力于算力普惠，创新地采用3D堆叠架构和工艺，把AI算力卸载到数据端，采用传统内存实现大模型推理。

前沿级别的模型的高成本推理必须受到严格限制，并且专门用于高利润、复杂推理的任务。

随着商品化的智能技术的成本趋近于零，支持高级推理所需的计算资源和系统仍然十分稀缺。

由于令牌的消耗速度快于令牌成本的下降速度，总体推理成本预计将会上升。

通用人工智能推理成本的预测情景

此外，市场混淆了AI的“训练”与“推理”逻辑。

Gartner：到2030年在大型语言模型上进行推理的费用将降低90%以上2026年04月01日02:24199IT据Gartner称，到2030年，在一个拥有万亿参数的大型语言模型（LLM）上进行推理的费用将比2025年降低90%以上，这将使生成式人工智能（GenAI）提供商节省大量成本。