基于机器人渲染的机器人因子世界模型
TLDR
提出机器人因子世界模型:用URDF渲染机器人几何,用标称轨迹避免动作实现学习和未来状态泄露。
评分理由
The paper introduces a novel factorization of robot-specific factors from video world models, with a clear methodological contribution. However, the abstract does not mention real-world experiments or benchmarks, so empirical validation is not evident from the visible text.
Read-first 评分解释
综合优先阅读分 41.6,由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。 原始总分保留为 43。
研究版图角色
前沿论文方法锚点
排序敏感性
稳定性:volatile;排名波动范围:289。
关键词评分
深度分析
创新点
- 机器人因子世界模型,将动作实现和机器人渲染移出模型:动作通过机器人自身的控制器和运动学转换为标称轨迹,再使用URDF渲染,从而避免动作实现学习和未来状态泄露。
- 将渲染的机器人几何作为视觉接口,把机器人的几何、运动学和外观从世界模型中分离出来,创建在不同视角和机器人本体间保持一致的共享表示。
- 通过将末端执行器深度与场景深度配对来解决深度模糊,提供超越图像平面重叠的接触与遮挡几何线索。
- 来自人类演示的跨本体迁移:通过将人类手部动作重定向并渲染为机器人几何,可生成机器人操作视频,展示了对未见本体的泛化能力。
方法
世界模型接收静态RGB/深度场景上下文和由动作导出的渲染机器人几何图像。动作通过机器人的控制器和运动学实现为标称轨迹,然后通过URDF渲染为视觉机器人几何,从而无需学习机器人的外观或运动学。将末端执行器深度与场景深度配对以解决深度模糊。模型被训练用于预测未来视频帧,其性能与向量条件基线进行比较,并在未见机器人本体上进行测试。
关键结果
渲染接口优于向量条件基线,并在推理时泛化到未见机器人本体。该模型还能通过将手部动作重定向并渲染为机器人几何,从人类演示生成机器人操作视频。