DreamerV3-XP：通过不确定性估计优化探索

arXiv 25.10 2025 52.9 method

TLDR

DreamerV3-XP通过优先回放和集成模型分歧内在奖励增强探索，在Atari和DMC任务上测试。

评分理由

The paper presents a clear extension to DreamerV3 with two well-motivated exploration mechanisms and validates them on standard benchmarks, showing improvements in sparse-reward settings. However, the evaluation is limited to simulated environments and a subset of tasks, and the novelty is incremental rather than foundational.

Read-first 评分解释

综合优先阅读分 52.9，由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。原始总分保留为 39。

近期性 8%

86.7

使用温和的时间衰减，让近期论文更容易浮现，同时保留较早基础工作的价值。年份：2025

方法质量 25%

检查可见的摘要与分析字段，寻找实验、数据集、基线、指标和局限性等方法证据。命中信号：基准、结果

主题相关性 42%

55.7

使用现有 LLM 关键词相关性评分，并归一化到 0-100。关键词：world model、world simulator、generative world model、interactive world model、video world model、world dynamics prediction、model-based reinforcement learning world model

可复现性 25%

检查链接和可见文本中的论文、代码、数据集、工件与仓库信号。论文：有；代码：无；数据：无；命中信号：无

研究版图角色

前沿论文

排序敏感性

稳定性：volatile；排名波动范围：397。

关键词评分

world model

model-based reinforcement learning world model

world dynamics prediction

generative world model

world simulator

interactive world model

video world model

深度分析

创新点

基于回报、重建损失和值误差对轨迹进行评分的优先回放缓冲区
基于一组世界模型对预测环境奖励的分歧的内在奖励

方法

DreamerV3-XP扩展了DreamerV3，引入了一个优先回放缓冲区，该缓冲区使用回报、重建损失和值误差对轨迹进行评分，以及一个基于一组世界模型预测环境奖励的分歧的内在奖励。该方法在Atari100k和DeepMind Control Visual Benchmark任务的一个子集上进行了评估，并与原始DreamerV3进行了比较。

关键结果

这些扩展导致了更快的学习和更低的动力学模型损失，特别是在稀疏奖励设置中，同时确认了原始DreamerV3的结果。

资源

论文