将世界标记化为对象级知识以应对自动驾驶中的长尾事件

arXiv 24.7 2024 28 method, application

TLDR

TOKEN利用MM-LLM将世界标记化为对象级知识，改善自动驾驶在长尾事件中的规划，将L2误差降低27%，碰撞率降低39%。

评分理由

Strengths: novel integration of end-to-end models with LLM reasoning, explicit alignment training, and strong empirical results on long-tail scenarios. Weaknesses: limited scope to long-tail events, no comparison to world model approaches, and abstract lacks details on generalization or real-world dataset specifics.

Read-first 评分解释

综合优先阅读分 28，由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。原始总分保留为 3。

近期性 8%

75.1

使用温和的时间衰减，让近期论文更容易浮现，同时保留较早基础工作的价值。年份：2024

方法质量 25%

检查可见的摘要与分析字段，寻找实验、数据集、基线、指标和局限性等方法证据。命中信号：结果

可复现性 25%

检查链接和可见文本中的论文、代码、数据集、工件与仓库信号。论文：有；代码：无；数据：无；命中信号：无

主题相关性 42%

4.3

使用现有 LLM 关键词相关性评分，并归一化到 0-100。关键词：world model、world simulator、generative world model、interactive world model、video world model、world dynamics prediction、model-based reinforcement learning world model

研究版图角色

候选论文

排序敏感性

稳定性：volatile；排名波动范围：48。

关键词评分

world model

world dynamics prediction

world simulator

generative world model

interactive world model

video world model

model-based reinforcement learning world model

深度分析

创新点

提出TOKEN，一种新颖的多模态大语言模型（MM-LLM），将世界标记化为对象级知识，以增强自动驾驶车辆在长尾场景中的规划。
利用传统的端到端驾驶模型生成紧凑且语义丰富的表示，通过专门的表示对齐和推理对齐训练阶段优化这些表示以兼容LLM规划。
通过使用对象级标记化解决数据稀缺和标记化效率低下的问题。

方法

TOKEN使用传统的端到端驾驶模型生成紧凑、语义丰富的场景表示。然后通过两个训练阶段（表示对齐和推理对齐）将这些表示与LLM对齐，使LLM能够在长尾场景中进行规划。

关键结果

TOKEN在长尾场景中实现了轨迹L2误差降低27%、碰撞率降低39%，在基础能力、推理和规划方面优于现有框架。

资源

论文