视听世界模型：迈向视觉与听觉的多感官想象

arXiv 25.12 2025 45.9 method

TLDR

提出视听世界模型（AVWM），整合双耳音频与视觉动态，并构建基准和扩散变换器模型用于多模态预测。

评分理由

The paper introduces a novel formulation and benchmark for audio-visual world modeling, addressing a gap in multisensory simulation. Strengths include a unified framework and a new dataset; weaknesses are that the abstract cuts off before full results and practical validation details are limited.

Read-first 评分解释

综合优先阅读分 45.9，由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。原始总分保留为 55。

近期性 6%

86.7

使用温和的时间衰减，让近期论文更容易浮现，同时保留较早基础工作的价值。年份：2025

主题相关性 29%

78.6

使用现有 LLM 关键词相关性评分，并归一化到 0-100。关键词：world model、world simulator、generative world model、interactive world model、video world model、world dynamics prediction、model-based reinforcement learning world model

方法质量 18%

检查可见的摘要与分析字段，寻找实验、数据集、基线、指标和局限性等方法证据。命中信号：基准、评估、实验

可复现性 18%

检查链接和可见文本中的论文、代码、数据集、工件与仓库信号。论文：有；代码：无；数据：无；命中信号：无

引用影响力 18%

使用 OpenAlex 形态的引用元数据作为文献关注度信号，并与论文本身质量分开处理。引用数：0

引用速度 12%

引用速度按发表年限估算年均引用，降低旧论文天然占优的偏差。年均引用：0.00

研究版图角色

前沿论文方法锚点

排序敏感性

稳定性：volatile；排名波动范围：493。

关键词评分

world model

generative world model

world dynamics prediction

world simulator

interactive world model

video world model

model-based reinforcement learning world model

深度分析

创新点

将视听世界模型（AVWM）统一表述为具有同步视听观测的部分可观测马尔可夫决策过程。
构建了AVW-4k，一个受控基准，包含30小时的双耳音频-视觉轨迹及动作标注，覆盖76个室内环境。
提出了AV-CDiT，一种视听条件扩散变换器，采用新颖的模态专家架构和三阶段训练策略以实现有效的多模态整合。

方法

本文提出了在低级动作控制下进行视听世界建模的统一公式，将多模态环境模拟建模为具有同步视听观测的POMDP。他们构建了AVW-4k基准，包含30小时的双耳音频-视觉轨迹及动作标注，覆盖76个室内环境。他们提出了AV-CDiT，一种条件扩散变换器，采用模态专家架构，并通过三阶段训练策略优化以实现多模态整合。在基准和具身导航任务上进行了评估。

关键结果

AV-CDiT在AVW-4k基准上实现了视觉和听觉模态的高保真多模态预测。它还改进了由视觉-语言模型引导的智能体在连续视听导航中的表现。

资源

论文