Mask2Real-WM: 分割掩码作为从仿真到现实的桥梁用于可控灵巧世界模型

arXiv 2026 42.9 method, system, application

TLDR

Mask2Real-WM 使用分割掩码作为仿真到现实的桥梁，实现可控灵巧世界模型，解耦动力学与渲染。

评分理由

The paper presents a novel two-stage world model that leverages segmentation masks to bridge simulation and reality, enabling effective pretraining on synthetic data and fine-tuning on minimal real data. Strengths include the decoupled architecture and demonstrated per-DoF controllability; weaknesses include domain specificity to dexterous manipulation and reliance on mask annotations.

Read-first 评分解释

综合优先阅读分 42.9，由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。原始总分保留为 42。

近期性 6%

100

使用温和的时间衰减，让近期论文更容易浮现，同时保留较早基础工作的价值。年份：2026

方法质量 18%

检查可见的摘要与分析字段，寻找实验、数据集、基线、指标和局限性等方法证据。命中信号：基线、基准、评估、实验

主题相关性 29%

使用现有 LLM 关键词相关性评分，并归一化到 0-100。关键词：world model、world simulator、generative world model、interactive world model、video world model、world dynamics prediction、model-based reinforcement learning world model

可复现性 18%

检查链接和可见文本中的论文、代码、数据集、工件与仓库信号。论文：有；代码：无；数据：无；命中信号：无

引用影响力 18%

使用 OpenAlex 形态的引用元数据作为文献关注度信号，并与论文本身质量分开处理。引用数：0

引用速度 12%

引用速度按发表年限估算年均引用，降低旧论文天然占优的偏差。年均引用：0.00

研究版图角色

前沿论文方法锚点

排序敏感性

稳定性：volatile；排名波动范围：351。

关键词评分

world model

world dynamics prediction

generative world model

video world model

model-based reinforcement learning world model

interactive world model

world simulator

深度分析

创新点

将世界模型解耦为预测未来分割掩码的动力学模型和将掩码映射为逼真RGB图像的渲染模型
使用分割掩码作为仿真到现实的桥梁，实现在合成仿真数据上的大规模预训练和在真实演示上的微调
通过掩码条件和仿真预训练实现所有23自由度的逐自由度动作可控性

方法

Mask2Real-WM是一种两阶段动作条件世界模型。动力学模型根据过去的掩码和23自由度动作序列预测未来的分割掩码，在超过50小时的合成数据上预训练，并在少于2.5小时的真实演示上微调。渲染模型使用ControlNet增强的Stable Video Diffusion骨干网络从预测的掩码生成逼真的RGB图像。

关键结果

掩码条件和仿真预训练对于所有23自由度的逐自由度动作可控性都是必需的；整体式基线仅能捕捉粗略的手部和末端执行器轨迹，而无法捕捉细粒度的逐关节动作效果。

资源

论文