DrivingWorld: 通过视频GPT构建自动驾驶世界模型

arXiv 24.12 2024 68.3 method, application

TLDR

DrivingWorld通过时空融合机制实现自动驾驶长时高保真视频生成。

评分理由

Strengths include novel spatial-temporal fusion mechanisms and achieving longer video generation than prior work. Weaknesses are limited quantitative results and lack of detail on evaluation metrics beyond duration.

Read-first 评分解释

综合优先阅读分 68.3，由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。原始总分保留为 45。

可复现性 25%

检查链接和可见文本中的论文、代码、数据集、工件与仓库信号。论文：有；代码：有；数据：无；命中信号：代码、GitHub

近期性 8%

75.1

使用温和的时间衰减，让近期论文更容易浮现，同时保留较早基础工作的价值。年份：2024

主题相关性 42%

64.3

使用现有 LLM 关键词相关性评分，并归一化到 0-100。关键词：world model、world simulator、generative world model、interactive world model、video world model、world dynamics prediction、model-based reinforcement learning world model

方法质量 25%

检查可见的摘要与分析字段，寻找实验、数据集、基线、指标和局限性等方法证据。命中信号：实验、结果

研究版图角色

复现锚点

排序敏感性

稳定性：volatile；排名波动范围：146。

关键词评分

world model

video world model

generative world model

world dynamics prediction

world simulator

interactive world model

model-based reinforcement learning world model

深度分析

创新点

用于GPT风格世界模型的时空融合机制
下一状态预测策略以建模连续帧之间的时间一致性
下一令牌预测策略以捕获每一帧内的空间信息
新颖的掩码策略和重加权策略用于令牌预测，以缓解长期漂移并实现精确控制

方法

DrivingWorld是一个用于自动驾驶的GPT风格世界模型，集成了时空融合机制。它使用下一状态预测策略来建模连续帧之间的时间一致性，并使用下一令牌预测策略来捕获每一帧内的空间信息。此外，还应用了新颖的掩码策略和重加权策略于令牌预测，以缓解长期漂移并实现精确控制。

关键结果

该模型生成超过40秒时长的高保真且一致的视频片段，比最先进的驾驶世界模型长2倍以上，实现了更优的视觉质量和显著更准确的可控未来视频生成。

资源

论文代码