⌁ Awesome World Model Hub 论文 · 数据集 · 项目
English GitHub
← 返回论文列表

3D-VLA：一个三维视觉-语言-动作生成世界模型

ICML 24 2024 61.3 method

TLDR

3D-VLA通过LLM和扩散模型构建生成世界模型，整合三维感知、推理与动作，提升具身规划能力。

评分理由

The paper introduces a novel 3D embodied foundation model that explicitly models world dynamics and generation, which is a strength. However, it only evaluates on held-in datasets without real-world validation, limiting evidence of practical applicability.

Read-first 评分解释

综合优先阅读分 61.3，由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。 原始总分保留为 43。

方法质量 25%
80

检查可见的摘要与分析字段，寻找实验、数据集、基线、指标和局限性等方法证据。 命中信号：数据集、评估、实验

近期性 8%
75.1

使用温和的时间衰减，让近期论文更容易浮现，同时保留较早基础工作的价值。 年份：2024

主题相关性 42%
61.4

使用现有 LLM 关键词相关性评分，并归一化到 0-100。 关键词：world model、world simulator、generative world model、interactive world model、video world model、world dynamics prediction、model-based reinforcement learning world model

可复现性 25%
38

检查链接和可见文本中的论文、代码、数据集、工件与仓库信号。 论文：有；代码：无；数据：无；命中信号：数据集

研究版图角色

方法锚点

排序敏感性

稳定性：volatile；排名波动范围：71。

关键词评分

world model
10
generative world model
10
world dynamics prediction
8
interactive world model
6
model-based reinforcement learning world model
4
world simulator
3
video world model
2

深度分析

创新点

  • 引入3D-VLA，一类通过生成世界模型连接三维感知、推理和动作的具身基础模型。
  • 使用交互令牌与具身环境进行交互。
  • 训练具身扩散模型并将其对齐到基于三维的LLM中，用于预测目标图像和点云。
  • 从现有机器人数据集中整理了一个大规模的三维具身指令数据集。

方法

3D-VLA构建在基于三维的大语言模型（LLM）之上，并引入一组交互令牌以与具身环境交互。它训练了一系列具身扩散模型，并将其对齐到LLM中，用于预测目标图像和点云。该模型在从现有机器人数据集中提取的大规模三维具身指令数据集上进行训练。

关键结果

在保留数据集上，3D-VLA显著提升了具身环境中的推理、多模态生成和规划能力，展示了在现实世界应用中的潜力。

局限性

  • 评估仅在保留数据集上进行，未涉及对分布外或现实世界场景的泛化能力。

技术栈

3D-based LLMDiffusion ModelsInteraction Tokens

资源

论文

标签