离线机器人世界模型：无需物理模拟器学习机器人策略

arXiv 25.4 2025 64.1 method

TLDR

不确定性感知自回归世界模型的离线MBRL无需模拟器即可在真实机器人上学习策略。

评分理由

The paper introduces RWM-U, an autoregressive world model with epistemic uncertainty estimation, combined with MOPO-PPO for offline MBRL. Strengths include real-world validation on quadruped and humanoid robots and consistent outperformance of baselines. Weaknesses are limited discussion of failure modes and comparison to other world model architectures.

Read-first 评分解释

综合优先阅读分 64.1，由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。原始总分保留为 46。

近期性 8%

86.7

使用温和的时间衰减，让近期论文更容易浮现，同时保留较早基础工作的价值。年份：2025

方法质量 25%

检查可见的摘要与分析字段，寻找实验、数据集、基线、指标和局限性等方法证据。命中信号：基线、基准、数据集、结果

主题相关性 42%

65.7

使用现有 LLM 关键词相关性评分，并归一化到 0-100。关键词：world model、world simulator、generative world model、interactive world model、video world model、world dynamics prediction、model-based reinforcement learning world model

可复现性 25%

检查链接和可见文本中的论文、代码、数据集、工件与仓库信号。论文：有；代码：无；数据：无；命中信号：数据集

研究版图角色

前沿论文方法锚点

排序敏感性

稳定性：volatile；排名波动范围：109。

关键词评分

world model

model-based reinforcement learning world model

world dynamics prediction

generative world model

interactive world model

world simulator

video world model

深度分析

创新点

RWM-U：一种具有认知不确定性估计的自回归世界模型，用于具有长时域不确定性传播的时间一致性多步 rollout
MOPO-PPO：将不确定性惩罚策略优化适配到稳定的在线策略 PPO 框架中，用于真实世界控制
一种使离线基于模型的强化学习在物理机器人上有效且无需物理模拟器的原则性流程

方法

本文提出了 RWM-U，一种结合认知不确定性估计的自回归世界模型，以实现具有传播不确定性的时间一致性多步 rollout。该模型与 MOPO-PPO 结合，后者将不确定性惩罚策略优化适配到在线策略 PPO 框架中。该方法在模拟中的多种操作和运动任务以及真实四足机器人和人形机器人上进行了评估，完全从离线数据集训练策略。

关键结果

所提方法持续优于无模型和不考虑不确定性的基于模型的基线。在模型学习中融合真实世界数据，得到的鲁棒策略超越了仅在模拟中训练的在线无模型基线。

技术栈

autoregressive world modelPPOMOPORWM-UMOPO-PPO

资源

论文