从监督式玩耍中习得灵巧操作
TLDR
DSP从人类玩耍中学习策略,自动收集数据训练世界模型并引导MPC,在真实实验中显著超越基线。
评分理由
Strong empirical evaluation in simulation and real world with clear gains over hindsight behavior cloning and data-efficiency gains over RL. Weakness: limited detail in abstract about world model architecture and generalization; no discussion of failure cases.
Read-first 评分解释
综合优先阅读分 34.8,由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。 原始总分保留为 39。
研究版图角色
前沿论文方法锚点
排序敏感性
稳定性:volatile;排名波动范围:292。
关键词评分
深度分析
创新点
- DSP框架通过行为克隆从几分钟的人类玩耍中学习玩耍策略,并用其自主收集数小时的交互数据以训练世界模型。
- 学到的玩耍策略通过提出候选动作序列,在学到的世界模型下进行评估,从而引导模型预测控制(MPC)。
- 一种在学到的世界模型内通过自博弈蒸馏出闭环、目标条件策略的方法。
- 展示了监督玩耍能够在无需任务特定演示或sim-to-real迁移的情况下实现灵巧操作。
方法
DSP通过行为克隆从几分钟的人类玩耍中训练玩耍策略,然后自主部署以收集数小时交互数据来训练世界模型。推理时,玩耍策略在学到的世界模型下为模型预测控制提出候选动作序列,并在世界模型内通过自博弈蒸馏出目标条件策略。该框架在仿真和真实世界中,使用多指灵巧手在欠驱动推动和任意到任意手内姿态重定向任务上进行了评估。
关键结果
在真实世界实验中,DSP的成功率比hindsight behavior cloning高69.6%,并且仅使用强化学习所需交互数据的1/490即取得了与之相当的成功率。