RoboHorizon:一种基于LLM辅助的多视角世界模型用于长时域机器人操作
TLDR
RoboHorizon结合LLM和多视角世界模型与关键帧发现,用于长时域机器人操作,在模拟基准上优于基线。
评分理由
The paper presents a novel pipeline combining LLM-generated dense rewards and multi-view masked autoencoders for keyframe discovery, showing strong empirical gains on RLBench and FurnitureBench. However, it lacks real-world validation and the approach may be complex to deploy.
Read-first 评分解释
综合优先阅读分 51.3,由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。 原始总分保留为 33。
研究版图角色
前沿论文
排序敏感性
稳定性:volatile;排名波动范围:339。
关键词评分
深度分析
创新点
- 提出了用于长时域机器人操作任务的Recognize-Sense-Plan-Act (RSPA)流水线
- 引入了RoboHorizon,一种利用预训练LLM为多阶段子任务生成密集奖励结构的LLM辅助多视角世界模型
- 将关键帧发现集成到多视角掩码自编码器(MAE)架构中,以增强对关键任务序列的感知
- 结合密集奖励和多视角表示构建机器人世界模型,用于高效长时域规划和基于RL的行动
方法
RoboHorizon遵循Recognize-Sense-Plan-Act (RSPA)流水线。预训练的LLM根据任务语言指令为多阶段子任务生成密集奖励结构。将关键帧发现集成到多视角掩码自编码器(MAE)中以感知关键任务序列。利用这些密集奖励和多视角表示构建机器人世界模型,并使用RL算法进行行动。
关键结果
在RLBench上,RoboHorizon在4个短时域任务上实现了23.35%的任务成功率提升,在RLBench的6个长时域任务和FurnitureBench的3个家具组装任务上实现了29.23%的提升,优于最先进的基于视觉模型的RL方法。