OmniGen：面向自动驾驶的统一多模态传感器生成

ACM MM 25 2025 31 method, application

TLDR

OmniGen利用共享BEV空间和体渲染生成对齐的多模态传感器数据用于自动驾驶

评分理由

The paper proposes a unified framework for multimodal sensor generation with a novel reconstruction method, but it is limited to autonomous driving and lacks explicit real-world evaluation in the abstract.

Read-first 评分解释

综合优先阅读分 31，由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。原始总分保留为 3。

近期性 8%

86.7

使用温和的时间衰减，让近期论文更容易浮现，同时保留较早基础工作的价值。年份：2025

方法质量 25%

检查可见的摘要与分析字段，寻找实验、数据集、基线、指标和局限性等方法证据。命中信号：实验

可复现性 25%

检查链接和可见文本中的论文、代码、数据集、工件与仓库信号。论文：有；代码：无；数据：无；命中信号：代码

主题相关性 42%

4.3

使用现有 LLM 关键词相关性评分，并归一化到 0-100。关键词：world model、world simulator、generative world model、interactive world model、video world model、world dynamics prediction、model-based reinforcement learning world model

研究版图角色

前沿论文

排序敏感性

稳定性：volatile；排名波动范围：104。

关键词评分

world model

world simulator

generative world model

interactive world model

video world model

world dynamics prediction

model-based reinforcement learning world model

深度分析

创新点

利用共享鸟瞰图（BEV）空间生成对齐的多模态传感器数据（LiDAR和多视角相机）的统一框架。
通过体渲染联合解码LiDAR和多视角相机数据的新型可泛化多模态重建方法（UAE）。
结合扩散变换器（DiT）与ControlNet分支以实现可控的多模态传感器生成。

方法

OmniGen使用共享的鸟瞰图（BEV）空间来统一来自LiDAR和多视角相机的多模态特征。它设计了一种名为UAE的新型多模态重建方法，该方法采用体渲染来联合解码传感器数据。集成了带有ControlNet分支的扩散变换器（DiT），以实现多模态传感器数据的可控生成。

关键结果

综合实验表明，OmniGen在统一多模态传感器数据生成方面达到了预期性能，具有多模态一致性和灵活的传感器调整。

技术栈

Diffusion Transformer (DiT)ControlNetVolume RenderingBird's Eye View (BEV)UAE

资源

论文