ReWorld：面向具身世界模型的多维奖励建模

arXiv 26.1 2026 71.7 method, system, application

TLDR

ReWorld利用强化学习通过多维奖励建模将基于视频的具身世界模型与物理真实性、任务逻辑和视觉质量对齐。

评分理由

The paper addresses a key limitation of current video world models—lack of physical fidelity and task logic—by introducing a hierarchical reward model trained on a large preference dataset and a PPO-style alignment algorithm. Strengths include a novel multi-dimensional reward approach and empirical validation; weaknesses are limited detail on specific metrics and comparisons in the abstract.

Read-first 评分解释

综合优先阅读分 71.7，由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。原始总分保留为 57。

近期性 8%

100

使用温和的时间衰减，让近期论文更容易浮现，同时保留较早基础工作的价值。年份：2026

主题相关性 42%

81.4

使用现有 LLM 关键词相关性评分，并归一化到 0-100。关键词：world model、world simulator、generative world model、interactive world model、video world model、world dynamics prediction、model-based reinforcement learning world model

方法质量 25%

检查可见的摘要与分析字段，寻找实验、数据集、基线、指标和局限性等方法证据。命中信号：分析、数据集、实验

可复现性 25%

检查链接和可见文本中的论文、代码、数据集、工件与仓库信号。论文：有；代码：无；数据：无；命中信号：数据集

研究版图角色

前沿论文方法锚点

排序敏感性

稳定性：volatile；排名波动范围：84。

关键词评分

world model

video world model

model-based reinforcement learning world model

generative world model

world dynamics prediction

world simulator

interactive world model

深度分析

创新点

面向具身世界模型的多维奖励建模，捕捉物理真实性、任务完成、具身合理性和视觉质量
构建大规模（约235K）视频偏好数据集以训练分层奖励模型
使用计算高效的PPO风格算法对基于流的世界模型进行后训练的实用对齐算法

方法

ReWorld首先构建一个大规模（约235K）视频偏好数据集，并训练一个分层奖励模型，旨在捕捉与人类偏好一致的多维奖励。然后提出一种实用的对齐算法，通过计算高效的PPO风格算法，使用该奖励对基于流的世界模型进行后训练。

关键结果

ReWorld显著提升了生成轨迹的物理保真度、逻辑一致性、具身性和视觉质量，优于先前方法。

局限性

该方法主要在接触丰富的操作任务上评估，未展示对其他领域的泛化能力。
奖励模型依赖于人类偏好，这可能具有主观性且大规模收集成本高昂。

技术栈

Reinforcement LearningFlow-based World ModelsPPOHierarchical Reward ModelVideo Preference Dataset

资源

论文