从模仿到探索:基于世界模型的端到端自动驾驶
TLDR
提出RAMBLE,一种基于世界模型的端到端强化学习方法,融合模仿学习与强化学习。
评分理由
The paper presents a novel integration of IL and RL via a world model, achieving strong simulation results. However, it lacks real-world validation and provides limited architectural details.
Read-first 评分解释
综合优先阅读分 71,由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。 原始总分保留为 42。
研究版图角色
前沿论文方法锚点复现锚点
排序敏感性
稳定性:volatile;排名波动范围:199。
关键词评分
深度分析
创新点
- 结合模仿学习和强化学习,采用训练方案:使用IL初始化策略网络,并利用KL损失和软更新机制使模型从IL平滑过渡到RL
- 非对称变分自编码器,用于从RGB图像和LiDAR数据中提取环境上下文
- 基于Transformer的架构,用于捕捉交通参与者的动态变化
- 基于世界模型的端到端强化学习方法用于驾驶决策
方法
RAMBLE使用非对称变分自编码器从RGB图像和LiDAR数据中提取环境上下文,然后基于Transformer的架构捕捉交通参与者的动态变化。演员-评论家强化学习算法基于当前状态和动态的潜在特征推导驾驶策略。策略网络使用模仿学习初始化,并采用KL损失和软更新机制使模型从IL平滑过渡到RL。
关键结果
RAMBLE在CARLA Leaderboard 1.0上实现了路线完成率的最先进性能,并在CARLA Leaderboard 2.0上完成了所有38个场景。
局限性
- 该方法仅在CARLA模拟器中进行评估,未在真实驾驶场景中验证其性能
- 由于使用了变分自编码器、Transformer和演员-评论家组件,可能存在计算复杂度较高的问题