AD-L-JEPA: 基于联合嵌入预测架构的自监督空间世界模型用于激光雷达自动驾驶

arXiv 25.1 2025 49.6 method, application

TLDR

AD-L-JEPA是一种基于JEPA的自监督预训练框架，通过预测鸟瞰图嵌入实现激光雷达3D目标检测，性能最优且计算成本更低。

评分理由

Strengths include a novel non-generative, non-contrastive approach with strong empirical results on multiple large-scale datasets and significant compute savings. Weaknesses are its narrow focus on LiDAR object detection without general world modeling capabilities, and no discussion of limitations.

Read-first 评分解释

综合优先阅读分 49.6，由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。原始总分保留为 6。

近期性 8%

86.7

使用温和的时间衰减，让近期论文更容易浮现，同时保留较早基础工作的价值。年份：2025

可复现性 25%

检查链接和可见文本中的论文、代码、数据集、工件与仓库信号。论文：有；代码：有；数据：无；命中信号：代码、数据集、GitHub

方法质量 25%

检查可见的摘要与分析字段，寻找实验、数据集、基线、指标和局限性等方法证据。命中信号：数据集、实验、结果

主题相关性 42%

8.6

使用现有 LLM 关键词相关性评分，并归一化到 0-100。关键词：world model、world simulator、generative world model、interactive world model、video world model、world dynamics prediction、model-based reinforcement learning world model

研究版图角色

前沿论文方法锚点复现锚点

排序敏感性

稳定性：volatile；排名波动范围：644。

关键词评分

world model

generative world model

world dynamics prediction

world simulator

interactive world model

video world model

model-based reinforcement learning world model

深度分析

创新点

首个基于JEPA的激光雷达自动驾驶预训练方法。
预测鸟瞰图嵌入而非显式生成掩码区域。
使用显式方差正则化避免表示坍塌，无需手动构建对比对。
相比Occupancy-MAE，实现更高质量、更快训练（GPU小时数减少1.9倍至2.7倍）和更低GPU内存（减少2.8倍至4倍）。

方法

AD-L-JEPA是一种基于联合嵌入预测架构（JEPA）的自监督预训练框架，用于激光雷达3D目标检测。它从掩码激光雷达数据中预测鸟瞰图嵌入，并采用显式方差正则化防止表示坍塌，避免了生成式和对比式方法。模型在无标签激光雷达数据上预训练，并在KITTI3D、Waymo和ONCE数据集上评估下游检测任务。

关键结果

在ONCE数据集上，使用10万帧预训练获得1.61 mAP增益，优于所有其他使用最多50万帧预训练的方法；使用50万帧预训练获得2.98 mAP增益，优于所有其他使用最多100万帧预训练的方法。此外，AD-L-JEPA相比Occupancy-MAE，GPU小时数减少1.9倍至2.7倍，GPU内存减少2.8倍至4倍。

技术栈

LiDARJoint Embedding Predictive Architecture (JEPA)Bird's-Eye-View (BEV)Variance regularization

资源

论文代码