WorldSonus:为世界带来声音
TLDR
WorldSonus用流式因果自回归扩散为世界模型实时生成可交互、空间对齐的音频,匹配开放域基准。
评分理由
The paper addresses a novel and underexplored problem of adding sound to world models, with strong emphasis on real-time efficiency, interactive control, and spatial alignment. Its strengths are clear problem framing and demonstrated generalization, though the abstract lacks quantitative experimental details and the connection to core world-model prediction is mainly as an application context.
Read-first 评分解释
综合优先阅读分 32.3,由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。 原始总分保留为 33。
研究版图角色
前沿论文
排序敏感性
稳定性:volatile;排名波动范围:227。
关键词评分
深度分析
创新点
- 流式因果自回归扩散架构,以0.41的低实时因子实时合成音频块
- 以音频为中心的描述流水线,配合基于块索引的提示调度,实现对声音事件的交互式中途控制
- 从多样立体声和ambisonic数据中整理的高质量立体声监督,用于空间对齐的立体声合成
方法
WorldSonus是一个交互式视频到音频框架,使用流式因果自回归扩散模型实时生成音频块。它集成了以音频为中心的描述流水线和基于块索引的提示调度,以实现动态、中途的声音控制,并利用来自多样立体声和ambisonic数据的立体声监督实现空间对齐。该方法在开放域视频到音频基准上与最先进的双向模型进行对比评估。
关键结果
WorldSonus在音频生成上达到0.41的实时因子,在开放域视频到音频基准上,声学质量和空间对齐均达到或超过最先进的双向模型。