通过扩散策略优化扩展世界模型强化学习

arXiv 2026 55.3 method

TLDR

提出MBDPO框架，通过世界模型中的扩散策略统一搜索与策略优化，解决模型基强化学习中的结构错位问题。

评分理由

The paper identifies a novel bottleneck (structural misalignment) and proposes a diffusion-based solution, which is a strength. However, the abstract is cut off, limiting full assessment of results and limitations; it lacks real-world experiments.

Read-first 评分解释

综合优先阅读分 55.3，由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。原始总分保留为 40。

近期性 6%

100

使用温和的时间衰减，让近期论文更容易浮现，同时保留较早基础工作的价值。年份：2026

引用影响力 18%

86.7

使用 OpenAlex 形态的引用元数据作为文献关注度信号，并与论文本身质量分开处理。归一化引用分位：0.86718815

方法质量 18%

检查可见的摘要与分析字段，寻找实验、数据集、基线、指标和局限性等方法证据。命中信号：数据集、结果

主题相关性 29%

57.1

使用现有 LLM 关键词相关性评分，并归一化到 0-100。关键词：world model、world simulator、generative world model、interactive world model、video world model、world dynamics prediction、model-based reinforcement learning world model

可复现性 18%

检查链接和可见文本中的论文、代码、数据集、工件与仓库信号。论文：有；代码：无；数据：无；命中信号：数据集

引用速度 12%

引用速度按发表年限估算年均引用，降低旧论文天然占优的偏差。年均引用：0.00

研究版图角色

基础论文前沿论文桥接论文

排序敏感性

稳定性：volatile；排名波动范围：331。

关键词评分

world model

model-based reinforcement learning world model

world dynamics prediction

generative world model

world simulator

interactive world model

video world model

深度分析

创新点

识别出搜索与价值学习之间的结构错位是扩展世界模型强化学习的关键瓶颈
提出MBDPO，通过扩散策略表示统一搜索与策略优化
将策略优化重新表述为在潜在世界模型中对搜索轨迹的扩散过程
从数据集中提取隐式能量函数以锚定策略并优化策略优化的得分场

方法

MBDPO使用扩散策略表示统一搜索与策略优化。它不构建显式规划器，而是将策略优化重新表述为在潜在世界模型中对搜索轨迹的扩散过程。它从收集的数据集中提取隐式能量函数以锚定策略，从而能够优化策略优化的得分场，同时缓解搜索与价值学习之间的错位。

关键结果

在离线场景下，在大规模数据集上进行预训练显示出随着模型容量增加而持续且单调的性能提升。该方法在多任务离线预训练、在线学习以及离线到在线微调中进行了评估。

资源

论文