RynnWorld-Teleop: 一种用于数字遥操作的动作条件世界模型

arXiv 2026 40.7 method, system

TLDR

提出数字遥操作范式，利用生成世界模型从手部姿态合成第一人称视频，实现可扩展的模仿学习数据收集。

评分理由

The paper presents a novel paradigm that decouples teleoperation from physical hardware, with strong empirical results including real-time generation (40+ FPS) and zero-shot Sim2Real transfer. However, the abstract lacks detailed comparisons to existing world models and does not discuss limitations such as generalization across diverse environments.

Read-first 评分解释

综合优先阅读分 40.7，由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。原始总分保留为 46。

近期性 6%

100

使用温和的时间衰减，让近期论文更容易浮现，同时保留较早基础工作的价值。年份：2026

主题相关性 29%

65.7

使用现有 LLM 关键词相关性评分，并归一化到 0-100。关键词：world model、world simulator、generative world model、interactive world model、video world model、world dynamics prediction、model-based reinforcement learning world model

方法质量 18%

检查可见的摘要与分析字段，寻找实验、数据集、基线、指标和局限性等方法证据。命中信号：数据集

可复现性 18%

检查链接和可见文本中的论文、代码、数据集、工件与仓库信号。论文：有；代码：无；数据：无；命中信号：数据集

引用影响力 18%

使用 OpenAlex 形态的引用元数据作为文献关注度信号，并与论文本身质量分开处理。引用数：0

引用速度 12%

引用速度按发表年限估算年均引用，降低旧论文天然占优的偏差。年均引用：0.00

研究版图角色

前沿论文

排序敏感性

稳定性：volatile；排名波动范围：292。

关键词评分

world model

generative world model

video world model

world dynamics prediction

world simulator

interactive world model

model-based reinforcement learning world model

深度分析

创新点

数字遥操作范式：通过使用生成式世界模型从手部姿态流合成第一人称视频，将数据收集与物理约束解耦。
动作条件世界模型，结合深度感知骨骼条件、视频Diffusion Transformer上的渐进式人-机器人训练以及流式自回归蒸馏，实现实时（40+ FPS）生成。
仅基于RynnWorld-Teleop生成数据训练的策略，在灵巧的双手任务中实现了零样本Sim2Real迁移。
使用数字遥操作数据增强真实世界数据集，提高了机器人策略的成功率。

方法

RynnWorld-Teleop采用视频Diffusion Transformer，以操作员的手部姿态流和单张参考图像为条件，结合深度感知骨骼条件和渐进式人-机器人训练。通过流式自回归蒸馏将模型压缩为单次推理，在单个H100 GPU上实现40+ FPS的实时交互式生成。生成的姿态流作为与具身无关的动作标签，支持模仿学习的策略训练。

关键结果

仅基于RynnWorld-Teleop生成数据训练的策略，在灵巧的双手任务中实现了有效的零样本Sim2Real迁移；用生成数据增强真实世界数据集，持续提高了成功率。

资源

论文