以梦为记:基于世界模型的通用机器人策略持续引导
TLDR
D2R 用预训练世界模型在想象中演练旧任务,持续引导冻结的通用机器人策略学习新任务,防止灾难性遗忘。
评分理由
The paper's main strength is its strong empirical validation on CALVIN and LIBERO using off-the-shelf policies and world models, directly addressing continual learning and forgetting. A limitation is that the method depends heavily on world-model faithfulness, and the truncated abstract leaves some implementation details and computational trade-offs unspecified.
Read-first 评分解释
综合优先阅读分 33.6,由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。 原始总分保留为 44。
研究版图角色
排序敏感性
稳定性:volatile;排名波动范围:338。
关键词评分
深度分析
创新点
- 提出 Dream to Remember (D2R),持续引导冻结的通用机器人策略学习新任务并保留旧技能,避免策略微调和共享引导模块中的灾难性遗忘。
- 利用冻结的预训练世界模型通过想象轨迹回放旧任务,无需重放缓冲区或新数据即可将引导模块锚定到之前行为。
- 支持两种学习模式:当世界模型足够精准时完全在想象中学习新任务;否则在真实环境中学习,同时仅用世界模型回放旧任务。
- 展示了在冻结的现成通用策略与世界模型(如 π0 和 A2World)上的持续引导,无需针对任务重新训练或更新策略权重。
方法
D2R 在任务顺序到达时训练一个用于冻结生成式通用策略的引导模块。冻结的预训练世界模型通过想象轨迹回放旧任务,将引导模块锚定到之前行为,无需重放缓冲区或新数据。若世界模型足够准确,则完全在想象中学习新任务;否则在真实环境中学习,同时仅用世界模型进行回放。该方法在 CALVIN、使用 π0 与 A2World 的 LIBERO-90 以及真实 Franka 机器人上进行了评估。
关键结果
在 CALVIN 上,D2R 完全在想象中顺序提升八项任务,平均成功率从 63.7% 提升到 74.8%;而 LoRA 微调在同一序列上降至 11.7%。在冻结的 π0 和 A2World 下,D2R 在真实环境中学习未见过的 LIBERO-90 任务,同时保持 π0 在先前 LIBERO 套件上的性能;在真实 Franka 机器人上,它完全在想象中顺序改进三项任务,同时保留之前的改进。
局限性
- 仅当世界模型足够精准时,D2R 才能完全在想象中学习新任务;否则必须在真实环境中学习。
- 在评估的 LIBERO-90 设置中,世界模型不足以用于策略优化,因此限制了该设置下的完全想象学习。