登录

CoRL 2026|移动双臂灵巧操作,也能从人类示范中学?



速读:CoRL2026|移动双臂灵巧操作,也能从人类示范中学? 那么,能否直接利用这些人类示范,帮助机器人学习复杂的移动双臂灵巧操作? DexRoam,构建了一套从第一视角人类示范采集、全身动作对齐,到机器人策略学习与真机执行的完整系统。 DexRoam的核心价值在于,在解决人机动作差异的同时,保留人类示范中连续、精细的全身协同关系,使其能够与机器人数据共同用于策略训练,为复杂移动双臂灵巧操作拓展数据来源,并减少对高成本机器人遥操作示范的依赖。 第一步,本体对齐:建立人与机器人之间的动作映射。
2026年11月06日 10:14

双手提起水果篮,转身,将它送到另一张桌子前。对人来说,这只是一个普通的日常动作;但对机器人而言,却需要移动底盘、躯干、双臂、头部和灵巧手的持续协调。要让机器人学会这样的全身操作,需要大量高质量的示范数据。然而,随着移动能力与灵巧手的引入,机器人遥操作示范的采集愈发复杂,甚至需要多名操作者协同完成。

人类日常操作中,恰好蕴含着丰富的全身协同经验。那么,能否直接利用这些人类示范,帮助机器人学习复杂的移动双臂灵巧操作?

围绕这一问题,香港科技大学、北京智源研究院、北京大学等机构的联合研究团队提出了  DexRoam ,构建了一套从第一视角人类示范采集、全身动作对齐,到机器人策略学习与真机执行的完整系统。该工作已被  CoRL 2026  接收。

DexRoam 的核心价值在于,在解决人机动作差异的同时,保留人类示范中连续、精细的全身协同关系 ,使其能够与机器人数据共同用于策略训练,为复杂移动双臂灵巧操作拓展数据来源,并减少对高成本机器人遥操作示范的依赖。

论文标题:DexRoam: Learning Mobile Bimanual Dexterous Manipulation from Egocentric Whole-Body Human Demonstrations

arxiv 链接:https://arxiv.org/abs/2609.35761

项目主页:https://dexroam.github.io/

采集对齐代码 链接:https://github.com/zhourui9813/DexRoam

策略训练代码链接:https://github.com/zhourui9813/DexRoam-Policy-Training

方法框架:从人类全身示范到机器人策略学习

轻量化采集人类与机器人全身示范 图 1 DexRoam 数据采集系统

DexRoam 构建了一套无需外部动捕设备的便携式第一视角全身采集系统。示范者只需佩戴 Meta Quest 3 头显和头戴式 ZED Mini 双目相机,即可同步记录第一视角视频、全身关节运动与手部关键点,无需外部摄像头、环境标记或额外的身体追踪器。系统还将相机画面实时显示在头显中,使采集时的视觉体验与后续策略训练的视觉观测保持一致。

此外,团队还搭建了一套单人全身遥操作系统,通过 VR 头显、控制器与数据手套,即可同步控制机器人底盘、躯干、双臂、头部和灵巧手。两套系统分别提供人类与机器人示范,为后续联合学习建立数据基础。

跨越人机差异,保留连续全身协同 图 2 DexRoam 三阶段人机动作对齐流程

为了克服人机差异,同时保留连续的全身协同动作,DexRoam 设计了本体对齐、动作语义对齐和时间对齐三个阶段。

第一步,本体对齐 :建立人与机器人之间的动作映射。

针对人与机器人的身体结构差异,DexRoam 以人体骨盆为参考建立坐标系,将人的移动、躯干、双臂和头部运动映射到对应的机器人部件,并通过手部重定向生成灵巧手指令,保留全身动作的相对运动关系。

第二步,动作语义对齐 :统一人类与机器人的动作表达。

仅完成本体映射,动作中仍包含人体身高、臂长和初始姿态等差异。DexRoam 进一步将底盘、躯干和双臂运动表示为相对动作表征,减少对人体绝对姿态的依赖,使两类示范具有一致的控制含义。

第三步,时间对齐 :匹配人和机器人的执行节奏。

针对人和机器人执行速度的差异,DexRoam 按照任务进度重新采样人类轨迹,在保留原有运动轨迹的同时,匹配机器人示范的时间尺度,提供更加一致的时序监督。

从人类示范中学习移动灵巧操作

经过三阶段对齐,人类与机器人示范可以通过统一的观测—动作接口,共同用于 VLA 策略训练, 无需针对人类数据额外修改模型结构,即可从人类示范中学习移动与灵巧操作的协同关系 。

团队采用  GR00T N1.7 和π₀.₅ 两个 VLA 模型,并探索三种训练策略: 人机联合训练、人类预训练后使用机器人数据微调,以及人类预训练后进行人机联合微调 ,验证这一框架在不同模型与训练方式下的有效性。

实验结果:DexRoam 从动作迁移到真机学习

让人类动作真正适配机器人

主题:机器人|人类|移动双臂灵巧操作|com/zhourui9813/DexRoam|机器人遥操作示范