强化学习
分类
预训练
例如,完全不同的架构、优化方法、神经形态硬件、模拟计算,或者基于强化学习预训练、显式世界模型的新路线。
文章
训练
在上下文保持方面,我们正在持续扩展强化学习训练所使用的上下文长度,并针对性地提升模型的上下文压缩(contextcompaction)能力。
文章
规模
从DeepSeek探索新的计算架构,到Kimi扩大长程强化学习规模、智谱构建自动化训练环境,再到千问和混元推进大模型与产业应用的结合,中国大模型企业正在沿着不同路线,寻求下一阶段技术能力突破。
文章
目标模型
完成这次rollout的是之后要做强化学习的目标模型。
文章
环境
如今,中国已有一批企业能够持续开展大规模预训练、研究模型架构、搭建强化学习环境、建设推理基础设施,并向全球开发者提供模型服务。
文章
数据
A:为了提高工具调用的准确率,我们在强化学习数据上投入了很多精力,加入了模型容易出错的高难度案例。
文章
效果
这种过度思考是强化学习的奖励设计造成的,还是跟训练数据的分布有关?
文章
其它
A:我们正在积极投入面向科学研究的强化学习,同时也高度重视安全。
文章
正在增加高难度训练数据,改进奖励机制和长上下文管理,并将继续推进面向科学研究的强化学习。
文章