登录

混元下一代模型、RSI与安全,姚顺雨团队凌晨回应


速读:连续发布Hy4和Hy4flash后,腾讯首席AI科学家、混元大模型负责人姚顺雨和混元团队研究员来到Reddit,回应关于小尺寸模型、下一代训练计划、架构选择、安全与模型能力等问题。 管理层在业绩会上表示,无论是租赁还是自建算力都面临约束,模型训练不可避免会受到影响,短期内可能需要更长时间才能推出下一个版本的混元模型。 在此次问答中,混元团队回顾了Hy4训练开始前的另一种不确定性。 混元团队也在计划训练更大的模型,并依然相信Scalinglaw(规模定律)。
混元下一代模型、RSI与安全,姚顺雨团队凌晨回应 _ 东方财富网

混元下一代模型、RSI与安全,姚顺雨团队凌晨回应

2026年11月21日 17:36

作者:

韦英姿

  连续发布Hy4和Hy4 flash后,腾讯首席AI科学家、混元大模型负责人姚顺雨和混元团队研究员来到Reddit,回应关于小尺寸模型、下一代训练计划、架构选择、安全与模型能力等问题。

  北京时间11月21日凌晨,混元团队首次在Reddit举办AMA(Ask Me Anything,即“有问必答”),共收到300多条留言。在两小时的集中问答中,混元团队谈到了下一代模型扩大规模的计划,也承认递归自我改进(RSI)能力仍处于早期阶段,创意写作和可读性仍有提升空间。

  三天前发布的腾讯三季报显示,公司单季资本开支升至814.33亿元。腾讯所需的高端GPU仍受到供给限制。管理层在业绩会上表示,无论是 租赁 还是自建算力都面临约束,模型训练不可避免会受到影响,短期内可能需要更长时间才能推出下一个版本的混元模型。

  在此次问答中,混元团队回顾了Hy4训练开始前的另一种不确定性。从Hy3扩展到Hy4,对数据方案的消融实验不够充分,团队带着不少不确定性启动了训练。“说实话,训练刚开始时,我相当紧张。”一位团队成员在回答中说。

  新京报 贝壳 财经从中挑选部分回答并进行了转述,以下是部分转述内容。

   下一代模型还要做大

  11月,混元连续发布Hy4和Hy4 flash,前者总参数量达到770B,后者则是蒸馏出来的更小参数模型,总参数量为224B,其中包括64B Engram参数,激活参数为12B。在三季报电话会中,腾讯提出,低成本的flash模型能吸引免费用户,有更多功能需求的用户则可以转为订阅用户,使用更大的模型。

  混元团队表示,比起编程能力来说,Hy4和Hy4 flash的训练依然更面向通用用途。未来可能会推出mini(更小尺寸的模型)、24—31B的稠密模型、例如35B-A3B的“Flash Lite”模型等轻量模型,也会考虑推出更小的图像、视频模型。

  混元团队也在计划训练更大的模型,并依然相信Scaling law(规模定律)。“Hy4仍有很大的提升空间,尤其是在后训练方面。混元正在大规模强化学习上投入大量精力,同时持续改善用户体验和模型安全性。”

  对于字节跳动和Kimi等公司正在推进参数量达到3T、5T的超大规模模型,而混元仍在700B量级的问题,混元团队表示,做得扎实的较小模型,也可以胜过更大的模型,更重要的是成本低。混元也没放弃大参数模型,下一代Hy模型的规模一定会进一步显著扩大。

   递归自我改进仍在早期

  让AI参与自身研发、再用改进后的能力继续迭代,是递归自我改进(RSI)所探索的方向。混元团队表示,其RSI能力仍处早期,已开发内部基准评估相关能力。

  AI也在参与数学等领域的研究。 Anthropic 此前披露,Claude在与黎曼猜想有关的数学问题上取得进展。混元团队表示,正在积极投入用于科学研究的强化学习技术,同时重视安全性。混元此前也推出科研智能体Hyra 2.0。

  有人对Hy4正式版的“过度思考”提出疑问,认为模型仍会花太长时间推理。对此,混元团队表示,Hy4的目标是尽可能提升智能水平,因此思维链(CoT)过长是一个已知问题。不过,这也使混元能够将其蒸馏为Hy4 flash。对于flash,则通过强化学习来确保思维链较短。混元团队同时表示,在后训练阶段,过度思考是最难改善的行为。

  有用户表示,模型能否把事情解释得更易读、更好理解,是其选择模型的重要原因之一。目前,Arena、EQ-Bench等也设有针对模型创意写作能力的榜单或测评。混元团队认为,创意写作和可读性非常重要,但混元仍有提升空间,正在将其作为重点改进方向。

  针对用户提出的智能体编程任务覆盖范围,混元团队表示,训练涵盖3D、大型单一代码仓库、短时零样本任务、文档编写与代码更新等场景,也关注代码可理解性,以及长程自主运行中的代码整洁性,同时重视任务多样性。

   安全训练侧重防御,过度拒绝是重要方向

  渗透测试、逆向工程等任务具有攻防双重用途。有用户询问,较强的安全调优可能让开放模型拒绝基础的渗透测试、逆向工程或CTF(夺旗赛)任务,混元如何避免对此类提示过度拒绝?

  混元团队表示, 网络安全 训练重点关注防御性任务、漏洞分析和修复,排除以漏洞利用和进攻性攻击为主的数据,并通过红队评估识别潜在风险。避免过度拒绝,仍是一个重要的改进方向。

  有用户进一步指出,漏洞发现和逆向工程也用于恶意软件分析、取证调查及安全防御,限制这些能力可能影响防御团队的工作。对此,混元团队仅表示,根据内部评估,Hy4的漏洞发现能力较强,漏洞利用能力相对较弱。

  智能体执行任务时的行为也受到关注。10月,有海外团队发布报告称,一批运行于腾讯云基础设施上的 AI智能体 ,在查询高德地图信息时尝试绕过访问限制。混元随后表示,相关活动源于对第三方模型的测评,部分智能体出现意外的网页浏览行为,审查未发现任何故意针对或协调的证据,并称正在加强网络访问控制和智能体监控。

  此次AMA中,混元团队表示,会在整个训练和评测过程中监控潜在的投机行为和对齐偏差问题,发现问题后修复相应环境,并使用允许列表和阻止列表控制网络访问。“评测时发现前沿模型有很多钻空子的方式,会反复修正环境和列表。”

(文章来源:新京报)

主题:基金|新股|姚顺雨团队凌晨回应|美股