PAVXploreRL: 物理-动作-视觉世界模型强化学习与动作探索

arXiv 2026 57 method

TLDR

PAVXploreRL使用强化学习通过动作探索优化世界模型中的物理合理性、动作一致性和视觉保真度。

评分理由

The paper introduces a novel RL framework that explicitly optimizes three key objectives (PAV) for world models, improving generalization to out-of-distribution actions. Strengths include clear problem formulation and empirical gains over baselines, but weaknesses include lack of real-world validation and reliance on simulated benchmarks.

Read-first 评分解释

综合优先阅读分 57，由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。原始总分保留为 54。

近期性 6%

100

使用温和的时间衰减，让近期论文更容易浮现，同时保留较早基础工作的价值。年份：2026

可复现性 18%

检查链接和可见文本中的论文、代码、数据集、工件与仓库信号。论文：有；代码：有；数据：无；命中信号：代码、GitHub

方法质量 18%

检查可见的摘要与分析字段，寻找实验、数据集、基线、指标和局限性等方法证据。命中信号：基线、基准、评估、实验

主题相关性 29%

77.1

使用现有 LLM 关键词相关性评分，并归一化到 0-100。关键词：world model、world simulator、generative world model、interactive world model、video world model、world dynamics prediction、model-based reinforcement learning world model

引用影响力 18%

使用 OpenAlex 形态的引用元数据作为文献关注度信号，并与论文本身质量分开处理。引用数：0

引用速度 12%

引用速度按发表年限估算年均引用，降低旧论文天然占优的偏差。年均引用：0.00

研究版图角色

前沿论文方法锚点复现锚点

排序敏感性

稳定性：volatile；排名波动范围：849。

关键词评分

world model

model-based reinforcement learning world model

video world model

world dynamics prediction

world simulator

interactive world model

generative world model

深度分析

创新点

通过奖励驱动的强化学习，在预训练潜在世界模型上显式优化物理合理性、动作一致性和视觉保真度（PAV）目标
无需成对视频监督的噪声驱动分布外动作探索，联合利用分布内轨迹以提高动作泛化能力
与仅使用专家数据的如Ctrl-World等世界模型相比，减少了策略评估中的过估计偏差

方法

PAVXploreRL基于预训练潜在世界模型，使用强化学习与奖励驱动训练来显式优化物理合理性、动作一致性和视觉保真度。它将分布内专家轨迹与噪声驱动的分布外动作探索相结合，无需对OOD动作提供成对视频监督。

关键结果

PAVXploreRL在多个基准测试中平均比预训练基线提高5.6%，生成更高质量的PAV属性，并提供更可靠的策略性能估计，同时减少了Ctrl-World的过估计偏差。

技术栈

PyTorch

资源

论文代码