当「变大」不再是唯一的路，又一国产模型开源了
编辑｜Panda
2026 年 6 月，智谱开源 GLM-5.2。这个大规模 MoE 模型表现优异，就连 Next.js 作者、Vercel 创始人 Guillermo Rauch 都震惊了。
GLM-5.2 确实是一个非常强的底座，但再强的基座，训练结束、参数冻结、进入部署后，就很难再在真实使用中继续成长。智谱在 GLM-5.2 的规划里也表示，下一步要攻克的关键技术包括记忆、持续学习和自我评判。也就是说，规模扩增之外的另一个方向是 模型在使用中成长 。
心洲科技旗下的前沿实验室 Mind Lab 前些天开源的 Ma caro n-V1 就是冲着这个方向去的。它没有另起炉灶，而是站在了巨人的肩膀上：基座升级至 GLM-5.2（另有基于 Qwen3.6 的更小版本），原生支持 2M 上下文，然后在此强大基座之上，做了一件 GLM-5.2 正在规划的事： 让模型持续学习，并让大量模型协作 。
也就是说，Macaron-V1 押注的是这两个关键词： 持续学习 与 群体智能 。它们分别对应于其技术博客中的 adaptation（适应） 与 collaboration（协作） 。
在 Mind Lab 看来，下一代 AI 的决定性因素不再主要是把单一的单体模型继续扩大，而是两种相辅相成的能力：通过 递归自我改进（RSI） 进行后训练，让模型持续生成经验、从中学习、改善自身行为；以及 多智能体协作 ，让专业化模型与智能体构建在共享基础设施之上并相互组合。
这条路线走通了吗？基准给出了肯定答案：在所测任务上，Macaron-V1 的成绩均优于基座 GLM-5.2 ，在某些基准上还实现了当前最佳甚至遥遥领先。比如在考验前端设计能力的 UI4A 基准上，Macaron-V1 以 87.7 的成绩大幅领先 Claude Opus 4.8。
我们的实测体验也印证了这一点。下面是用配置了 Macaron-V1 的 Claude Code 构建的单个模拟 macOS 的网页文件，整个执行过程耗时 22 分钟，成果是一个 67 KB 的 HTML 文件，但效果有点超出预期：不仅计算器和照片等功能高度可用，甚至还支持天气、浏览器、翻译等需要联网的应用。
另外，我们还让其生成了一个物理学家模拟聊天群动态截图，也相当有趣，Macaron-V1 甚至为各位物理学家生成了带有各自特征的 SVG 作为头像：
值得注意的是，这些超越基座的能力仅仅来自挂载其上的几个小小的 LoRA 。
而这背后，还暗含了一个正在形成的行业共识： 把数据之上的「经验」当作下一代 AI 的燃料 。
Richard Sutton 与 David Silver 在 2025 年的一篇著名博文直接把下一个阶段命名为「 经 验 时代 」」。而近期在网上疯传的梁文锋四小时投资者交流会讲话内容中也提到了 持续学习 ，他还预测「持续学习之后，可能我们就会来到一个奇点。」
来自《Welcome to the Era of Experience》, David Silver & Richard S. Sutton 而在工程侧，明星创业公司 Thinking Machines Lab 也在验证一条高度相似的技术路径：用 LoRA 这类高效后训练手段，如果配置得当，可达到接近全参数微调的效果，同时还能大幅降低算力开销。
一边是理念层面的方向判断，一边是工程层面的可行性验证，而 Macaron-V1 要做的是把两者同时在一个千亿参数量级的开源模型上真正跑通。
训练结束
不该是学习结束
Macaron-V1 为何这样设计？要解答这个问题，需先看清当今大模型共同的天花板。
今天的大模型已经拥有广泛的知识，能完成复杂的推理、规划和工具调用。但它们的能力基本都是在少数几次集中训练中获得的，训练结束后参数就被冻结，以相对固定的状态进入部署。然而许多有价值的信息部署之后才会出现，比如用户的长期偏好、具体代码库独特的架构、某项任务反复失败的原因……
集中训练可以覆盖共性，却不可能提前穷举每一种环境和每一位用户的偏好。对一个长期运行的智能体来说， 部署之后正是经验大量涌现的开始 ，而这理应也可以成为新一轮学习的起点。
Mind Lab 把自己想构建的东西称作 「经验智能机器」（Experiential Intelligence Machine） ：机器从自己的经历中学习，经验转化为新能力，新能力让它能解决更难的问题，更难的问题又带来更丰富的经验。智能由此成为了一个持续生长的过程。
那么，问题来了，具体该怎么做呢？
Mind Lab 判断大致有两条路径：
提示词空间的迭代 ：通过提示词、外挂记忆、RAG、skill、harness 等方式把经验保存在模型之外，每次用时重新读取；
参数空间的迭代 ：把经验写进模型的可训练状态。
前者已经带来显著价值，但有个结构性约束：经验存在模型之外，随着经验增加，每次重新读取、重新理解的成本会越来越高，而且把信息塞进 context 并不等于模型真的掌握了其中规律。
Macaron-V1 押的是后者，并且它选的是一条更轻量的路： LoRA 。
MoL 架构
把「持续学习」做成可插拔的模块
Macaron-V1 的核心是 Mixture-of-LoRA（MoL） 架构。其思路很容易理解： 技能和思维模式相近的任务归进同一个 LoRA，让它们相互强化；技能差异大的任务分到不同 LoRA，各自独立、互不干扰。
具体到 Macaron-V1，则是在一个冻结的 GLM-5.2 基座上，搭载四个 1B 的 LoRA 专家：
L0 Chat ：负责对话与指令遵循的主干
L1 Agent ：负责重度工具使用与长程复杂任务
L2 Coding ：负责代码理解与终端使用
L3 GenUI ：负责生成式 UI 渲染与 UI 驱动操作
新能力以插件式的 LoRA 加入，不动摇已有知识，不同来源的专家还能在同一基座上自由组合。
这正是 Macaron-V1 旗舰版 Venti 的构成：748B 的总参数，由一个 744B 的 GLM-5.2 基座和四个 1B 的 LoRA 专家组成。另有一个面向本地部署的 Tall 版本，总参 50B，由 35B 基座和四个 3.7B 的 LoRA 专家构成，基于 Qwen3.6。
三种不同的能力扩展方式：MoE、Skills、MoL 但 MoL 的重要性更体现在它让 LoRA 翻了身。
过去，LoRA 这类参数高效微调（PEFT）方法，长期被当成全参数微调的「廉价替代品」。
Mind Lab 则通过实践给出了不同答案： 适配器（adapter）不该只被看作省钱工具，而应被看作一种「持久的本地状态」 。共享的基础模型提供通用能力是「 共性 」；适配器承载某个具体实例的个性化行为（比如偏好、技能、工具使用习惯，以及类似记忆的更新）则是「 个性 」。 LoRA 可以超越静态补丁，成为可写入并会随交互演化的记忆。
这个判断已有实验支撑。在 Mind Lab 的 On the Scaling of PEFT 研究中，团队已在万亿参数的稀疏 MoE 模型 Kimi K2 上跑通了 LoRA 强化学习，算力与通信开销压到全参数 RL 的约 10%，训练曲线稳定。
GRPO LoRA 训练在大规模 LLM 上的应用。稳定的奖励与任务成功曲线表明，联合设计 rollout、训练及混合并行化时，通过基于 LoRA 的强化学习来适配万亿参数 MoE 推理模型是可行的。来自论文《On the Scaling of PEFT: Towards Million Personal Models of Trillion Parameters》，arXiv:2606.02437
更值得看的是另一组对比：在相近的 RL 预算下，1.5B 模型做全参数 RL，可训练参数 1.5B，AIME 2025 上的归一化增益为 8.33%；7B 模型用 r=64 的 LoRA，可训练参数降到 0.16B，增益反而升到 11.31%；32B 模型用 r=8 的 LoRA，可训练参数只剩 0.07B，增益达到 20.61%。 可训练的那一小块越小，底座越强，拿到的增益反而越高。
在相近的强化学习预算下，大先验加小规模 LoRA 更新可超越全量强化学习在小模型上的表现 群体智能
多个 LoRA 协作，实现持续提升
既然 LoRA 是可插拔、可持续新增的，那么一个问题就自然涌现出来：能否让多个 LoRA 协作？
Mind Lab 的答案： 群体智能 。
逻辑不难理解：一旦模型能沿着自身经历持续学习，不同实例就会逐渐走向不同方向：不同用户提供不同反馈，不同任务产生不同策略，不同环境塑造不同能力。即使从同一个基础模型出发，长期学习之后也会分化出大量不同的 LoRA、Agent 和策略。因此， 多样性是自我迭代的自然结果，并可能成为智能的新来源 。
论文给出了实验证据。Mind Lab 从相同的 Qwen3-30B 基础模型出发，保持训练目标和强化学习方法一致，只改变数据顺序和 masking。在 AIME24 上，单个 adapter 的准确率是 36.44%；把 198 个不同 adapter 做多数投票，准确率提高到 48.67%；而从同一个 adapter 做相同规模的重复采样，最高只到 43.78%。
基于多数投票的模型计数扩展 这个结果说明，不同学习轨迹带来的差异，包含了超出普通采样的互补性。这又进一步表明： 群体不是简单的重复，而是真的更聪明 。
比投票更进一步的是路由。一个复杂任务可能同时需要规划、编程、检索和 UI 生成，不同 LoRA 或 Agent 可以负责不同阶段，也可以在执行过程中动态切换。具体到 Macaron-V1， MoL 可让多个独立训练的 specialist LoRA 共存于同一个基础模型，并根据任务动态选择和组合 。
从结果投票到技能路由，「 扩展模型数量 」这条路线在这里得到了初步验证。
在大规模基座上
让强化学习跑起来
上面这些能成立，前提是在 大规模基座上把强化学习稳定跑起来 ，而这很难。
须知，强化学习有一个很棘手的问题： 训推不一致 。训练和推理时的精度偏差会不断漂移，最终让结果无法收敛。要压住它，基础设施必须在很高的精度上对齐。而当一个大规模 MoE 模型做强化学习时，它需要分布在多张 GPU 上，不同切片之间的通信、并行计算，全都要以同样的精度对齐。
为此，Mind Lab 配了两套互补的系统。
底层是 MinT ，MindLab 的旗舰后训练平台，也是让 Venti 这个规模得以实现的基础设施。
MinT 概况，来自 Mind Lab 论文《MinT: Managed Infrastructure for Training and Serving Millions of LLMs》，arXiv:2605.13779
MinT 的几个关键能力恰好与 MoL 天然契合：
Actor 与 Learner 之间只传递 Adapter，免去搬运完整模型权重的开销；
支持百万规模的 Adapter 目录，也就是可以基于一个基础底座，托管、调用、运行上百万个 LoRA 版本，每个 LoRA 有独立身份和版本历史，评测通过后进入部署，也可以随时回滚；
端到端支持最高万亿参数规模的模型。
顺带一提，Mind Lab 已分别与 veRL 和 AReaL 团队合作构建了 MinT 的两个开源实现：verl-mint 和 AReaL-MinT。
上层则是 MindForge ，一个面向智能体强化学习的训练框架。它能把已具备生产就绪能力的 Harness 直接引入强化学习闭环，用同样的路由工具、记忆布局、工具调用方式和 Harness 结构，确保模型训练时的条件与它最终运行时一致。
其中让训练和服务对齐的通信层叫 Harness Context Protocol（HCP） 。由于训练与服务用同一套 HCP schema，模型在训练 rollout 里看到的任何信息，在生产环境中同样可用。
MindForge 由此可形成 RSI 闭环 ：从种子任务自动构建越来越难的任务，验证筛选其学习价值，对生成的轨迹做 rollout 与审计，迭代改进配置直到不再有收益，最后把优化经验固化进模型参数。重复这个循环，更新后的模型又能生成更难的任务、改进 Harness，持续扩展自己的能力边界。
还有一个值得一提的工程细节是 LongStraw ，它跑在 MinT 的训练侧，解决的问题是：长上下文推理早就跨过了百万 token，但强化学习训练还没有。