WorldLine:面向机器人操作的动作驱动视觉仿真
TLDR
WorldLine 是动作驱动的机器人操作视觉模拟器,用无动作视频学可迁移动力学并跨具身锚定动作,提升预测与成功率。
评分理由
The paper presents a novel decoupling of dynamics learning from action grounding, leveraging over 10,000 hours of action-free videos and 2,000 hours of action trajectories across embodiments. Strong empirical gains in robot-mask IoU and success prediction demonstrate effectiveness, though the abstract lacks architectural details and explicit limitations.
Read-first 评分解释
综合优先阅读分 42.8,由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。 原始总分保留为 54。
研究版图角色
排序敏感性
稳定性:volatile;排名波动范围:577。
关键词评分
深度分析
创新点
- 将可迁移动力学学习与异构动作锚定解耦,从而能够在大规模无动作机器人视频上训练,并分别进行特定具身的动作锚定。
- 使用图像空间动作表示为十多种具身提供共享控制接口。
- 引入多视图和失败增强训练,并结合关系正则化,以改进交互敏感的预测。
- 使用面向机器人的少步蒸馏,在保留动作关键运动的同时实现高效的因果推演。
方法
WorldLine 从超过 10,000 小时的无动作机器人视频中学习操作动力学,并利用来自十多种具身的 2,000 多小时动作轨迹进行动作锚定。它采用图像空间动作表示作为共享控制接口,使用多视图与失败增强训练及关系正则化,并通过面向机器人的少步蒸馏实现高效的因果推演。评估在留出和跨域设置中进行,与基线在机器人掩码 IoU、轨迹成功准确率以及相对直接策略执行的任务成功率提升等指标上进行比较。
关键结果
WorldLine 在留出和跨域设置中均保持了较强的视觉质量和机器人运动一致性。在失败轨迹上,其机器人掩码 IoU 比最强基线提升 0.1626;在 RoboTwin 和 AgiBot 上以 74% 的平均准确率预测轨迹成功;并且在没有 RoboTwin 训练或适配的情况下,相比直接策略执行将任务成功率提升最多 21.4 个百分点。