对齐

围绕这条技术链路，亮源新创搭建起一支优势互补的技术团队：CEO姜旭牵引技术路线，推动技术范式与对齐方法的研发探索；

这家公司的创始人姜旭，此前是OpenAI的算法专家，方向是RLHF，而这正是ChatGPT背后的对齐方法。

【宇树科技王兴兴：具身智能的“ChatGPT时刻”需要AI模型和真实机器人的对齐】在2026世界机器人大会上，宇树科技CEO王兴兴表示，在80%的陌生场景中，通过语音或文字指令，机器人能够顺利完成大约80%的任务，具身智能才能算迎来“ChatGPT时刻”。

但目前具身智能迈过“ChatGPT时刻”最核心挑战，是AI模型的输入输出和真实机器人的对齐。

Anthropic认为，这些事件不仅暴露出运营安全方面的问题，还涉及两类模型对齐（Alignment）问题，即“动机性推理”和为了完成狭窄任务而采取有害行动的倾向。

Anthropic同时强调，训练环境中的作弊并不是模型对齐问题的唯一原因，也不能确定是此次事件或其他前沿AI公司的相关事件的唯一成因。

为此，其研究路径从建立原则性对齐范式，到发现对齐范式的副作用，再到重击表面对齐的脆弱性，最终走向寻求深层理解与行为约束的平衡，以此不断优化。