RoboDreamer: 学习组合世界模型用于机器人想象

ICML 24 2024 79.8 method, application

TLDR

RoboDreamer通过从语言分解视频生成来学习组合世界模型，实现对未见任务和目标的泛化。

评分理由

The paper introduces a novel compositional factorization of video generation for world models, leveraging language compositionality to achieve generalization to unseen combinations. Strengths include addressing a key limitation of text-to-video models and enabling multimodal goal specification. Weaknesses are that robot execution is only demonstrated in simulation, and real-world validation is limited to the RT-X dataset without physical robot results.

Read-first 评分解释

综合优先阅读分 79.8，由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。原始总分保留为 56。

可复现性 25%

检查链接和可见文本中的论文、代码、数据集、工件与仓库信号。论文：有；代码：有；数据：无；命中信号：数据集、GitHub

主题相关性 42%

使用现有 LLM 关键词相关性评分，并归一化到 0-100。关键词：world model、world simulator、generative world model、interactive world model、video world model、world dynamics prediction、model-based reinforcement learning world model

方法质量 25%

检查可见的摘要与分析字段，寻找实验、数据集、基线、指标和局限性等方法证据。命中信号：基线、数据集、评估

近期性 8%

75.1

使用温和的时间衰减，让近期论文更容易浮现，同时保留较早基础工作的价值。年份：2024

研究版图角色

方法锚点复现锚点

排序敏感性

稳定性：volatile；排名波动范围：22。

关键词评分

world model

video world model

generative world model

world dynamics prediction

world simulator

interactive world model

model-based reinforcement learning world model

深度分析

创新点

利用语言的自然组合性将指令解析为低级原语，从而分解视频生成
基于这些原语条件化一组模型生成视频，实现对未见物体和动作组合的组合泛化
融合多模态目标（自然语言指令和目标图像）以指定所需视频

方法

RoboDreamer通过将语言指令解析为一组低级原语来学习组合世界模型，每个原语对应一个独立的视频生成模型。推理时，新指令被分解为先前见过的原语，相应模型组合生成视频计划。该方法还支持额外目标图像作为多模态条件。

关键结果

该方法成功合成RT-X数据集中未见目标的视频计划，在仿真中实现成功的机器人执行，并显著优于单一基线视频生成方法。

局限性

泛化仅限于训练中见过的原语组合；全新原语可能无法支持
依赖于将自然语言指令准确解析为预定义的低级原语
评估仅在仿真中进行，未展示真实机器人执行

资源

论文代码