持久机器人世界模型：通过强化学习稳定多步 rollout

arXiv 26.3 2026 69.2 method

TLDR

强化学习后训练稳定自回归机器人世界模型展开，在DROID数据集上达到SOTA。

评分理由

The paper introduces a novel RL-based fine-tuning method for diffusion world models, addressing error accumulation in multi-step video prediction. Strengths include a principled contrastive RL objective and strong empirical gains on real robot data. Weaknesses are the narrow domain focus and lack of discussion on generalization to other tasks or environments.

Read-first 评分解释

综合优先阅读分 69.2，由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。原始总分保留为 57。

近期性 8%

100

使用温和的时间衰减，让近期论文更容易浮现，同时保留较早基础工作的价值。年份：2026

主题相关性 42%

81.4

使用现有 LLM 关键词相关性评分，并归一化到 0-100。关键词：world model、world simulator、generative world model、interactive world model、video world model、world dynamics prediction、model-based reinforcement learning world model

方法质量 25%

检查可见的摘要与分析字段，寻找实验、数据集、基线、指标和局限性等方法证据。命中信号：基线、数据集、指标

可复现性 25%

检查链接和可见文本中的论文、代码、数据集、工件与仓库信号。论文：有；代码：无；数据：无；命中信号：数据集

研究版图角色

前沿论文方法锚点

排序敏感性

稳定性：volatile；排名波动范围：152。

关键词评分

world model

generative world model

video world model

interactive world model

world dynamics prediction

model-based reinforcement learning world model

world simulator

深度分析

创新点

强化学习后训练方案，在世界模型自身的自回归 rollout 上训练，而非真实历史
训练协议，从同一 rollout 状态生成并比较多个候选变长未来，强化更高保真度的预测
高效的多视角视觉保真度奖励，结合跨相机视图的互补感知指标，在片段级别聚合以提供密集、低方差的训练信号
在 DROID 数据集上实现 rollout 保真度的新最先进水平，在所有指标上超越最强基线

方法

该方法将近期针对扩散模型的对比 RL 目标适应到世界模型设置中，作为后训练方案应用，其中模型在其自身的自回归 rollout 上训练。训练协议从同一 rollout 状态生成多个候选变长未来，并使用多视角视觉保真度奖励——结合跨相机视图的互补感知指标并在片段级别聚合——来强化更高保真度的预测。

关键结果

在 DROID 数据集上，该方法将外部相机 LPIPS 降低 14%，腕部相机 SSIM 提升 9.1%，在成对比较中获胜 98%，并在盲人研究中达到 80% 的偏好率。

资源

论文