Drive-JEPA:视频JEPA与多模态轨迹蒸馏的端到端驾驶
TLDR
Drive-JEPA结合视频JEPA与多模态轨迹蒸馏,实现端到端自动驾驶,在NAVSIM上达到最优性能。
评分理由
The paper presents a novel combination of self-supervised video pretraining and trajectory distillation, with strong empirical results on a simulation benchmark. However, it lacks real-world validation and does not address generative or interactive world modeling.
Read-first 评分解释
综合优先阅读分 32.5,由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。 原始总分保留为 18。
研究版图角色
前沿论文方法锚点
排序敏感性
稳定性:volatile;排名波动范围:156。
关键词评分
深度分析
创新点
- 将视频联合嵌入预测架构(V-JEPA)适配于端到端驾驶,在大规模驾驶视频上预训练ViT编码器,以产生与轨迹规划对齐的预测表示。
- 引入以提议为中心的规划器,蒸馏多样化的模拟生成轨迹和人类轨迹,并采用动量感知选择机制促进稳定安全的行为。
方法
Drive-JEPA首先通过在大规模驾驶视频上预训练ViT编码器来适配V-JEPA用于端到端驾驶,学习预测表示。然后使用以提议为中心的规划器,蒸馏模拟生成和人类轨迹,并采用动量感知选择机制选择稳定安全的行为。该框架在NAVSIM基准的无感知设置下评估,使用简单的基于Transformer的解码器。
关键结果
V-JEPA表示结合简单的基于Transformer的解码器在无感知设置下比先前方法高出3 PDMS。完整的Drive-JEPA框架在NAVSIM v1上达到93.3 PDMS,在v2上达到87.8 EPDMS,创下新的最先进水平。
局限性
- 评估仅限于NAVSIM模拟基准,未展示真实世界驾驶性能和泛化能力。
- 该方法依赖模拟生成轨迹进行蒸馏,可能无法捕捉所有真实世界的边缘情况或驾驶场景。