一个
分类
问题
基于模型的ScalingOut，他试图回答一个问题：如何让最前沿的AI能力，从云端的数据中心，真正走到每个人的办公设备上。
文章
这样做的关键，就不再是简单地把模型压缩，而是先回答一个问题：对于特定用户、特定企业、特定业务场景，到底哪些专家真正有用？
文章
所以从模型，到硬件，再到推理框架，其实是在解决同一个问题：如何把最前沿的AI能力，从云端的数据中心，真正带到用户的办公设备上。
文章
具体
但问题在于，对于一个具体的人、一个具体的企业来说，真的需要这么多专家吗？
文章
对于一个具体的用户来说，我们真正需要的可能只是一个大模型里面的十几个、几十个专家。
文章
企业
如果从一个个体、一个企业的实际工作场景出发，我们真正需要的可能只是其中一部分能力，那么问题就变成了：能不能从一个巨大的通用模型里面，把真正属于我的那部分能力拿出来？
文章
