递归自回归扩散：全局记忆与局部注意力

arXiv 2025 38 method, application

TLDR

提出RAD框架，利用LSTM实现递归自回归扩散，改善长视频生成的记忆与一致性。

评分理由

The paper introduces a novel integration of RNN (LSTM) into diffusion transformers for long video generation, addressing forgetting and spatiotemporal inconsistencies. Strengths include a consistent training-inference procedure and improved memory retention. Weaknesses are the limited evaluation on game datasets (Memory Maze, Minecraft) and lack of comparison to broader world model benchmarks.

Read-first 评分解释

综合优先阅读分 38，由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。原始总分保留为 37。

近期性 6%

86.7

使用温和的时间衰减，让近期论文更容易浮现，同时保留较早基础工作的价值。年份：2025

方法质量 18%

检查可见的摘要与分析字段，寻找实验、数据集、基线、指标和局限性等方法证据。命中信号：数据集、实验

主题相关性 29%

52.9

使用现有 LLM 关键词相关性评分，并归一化到 0-100。关键词：world model、world simulator、generative world model、interactive world model、video world model、world dynamics prediction、model-based reinforcement learning world model

可复现性 18%

检查链接和可见文本中的论文、代码、数据集、工件与仓库信号。论文：有；代码：无；数据：无；命中信号：数据集

引用影响力 18%

使用 OpenAlex 形态的引用元数据作为文献关注度信号，并与论文本身质量分开处理。引用数：0

引用速度 12%

引用速度按发表年限估算年均引用，降低旧论文天然占优的偏差。年均引用：0.00

研究版图角色

前沿论文

排序敏感性

稳定性：volatile；排名波动范围：199。

关键词评分

world model

video world model

generative world model

world dynamics prediction

world simulator

interactive world model

model-based reinforcement learning world model

深度分析

创新点

将基于LSTM的递归神经网络引入扩散变换器框架，用于视频生成中的长期记忆保留。
提出递归自回归扩散（RAD）框架，采用逐帧自回归记忆更新与检索，消除训练-推理差距和窗口间缺乏重叠的问题。
证明结合注意力的LSTM在扩散模型中与TTT和Mamba2等最先进RNN模块性能相当。

方法

该方法将LSTM集成到扩散变换器中，形成RAD框架，在训练和推理过程中一致地执行逐帧自回归记忆更新与检索。实验在Memory Maze和Minecraft数据集上进行长视频生成。

关键结果

RAD在Memory Maze和Minecraft上实现了优越的长视频生成性能，优于现有扩散-RNN方法，并证实了LSTM在序列建模中的效率。

技术栈

Diffusion TransformerLSTMAttentionTTTMamba2Recurrent Autoregressive Diffusion (RAD)

资源

论文