WorldAgen:统一状态-动作预测与测试时世界模型训练
TLDR
WorldAgen统一状态-动作预测,结合世界建模与测试时训练,在CALVIN和LIBERO上超越现有方法。
评分理由
The paper proposes a clear unified architecture with separate world-model and agent heads, supported by test-time adaptation and benchmark evaluations. Weaknesses include limited evidence of real-world deployment and no details on scalability or failure cases in the abstract.
Read-first 评分解释
综合优先阅读分 43.9,由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。 原始总分保留为 43。
研究版图角色
前沿论文方法锚点
排序敏感性
稳定性:volatile;排名波动范围:682。
关键词评分
深度分析
创新点
- 在共享Transformer骨干中联合学习世界建模与动作预测的统一框架。
- 双头设计:世界模型头根据过去状态-动作轨迹预测未来状态,智能体模型头根据任务指令预测动作。
- 混合单向注意力掩码(Mixed Unidirectional Attention Mask),用于分离世界模型与智能体模型的计算。
- 测试时训练(TTT)适应机制:在部署时采样探索动作、收集真实状态转移,并对世界模型进行轻量更新。
方法
WorldAgen使用带两个头的共享Transformer骨干:世界模型头从过去状态-动作轨迹预测未来状态,智能体模型头根据任务指令预测动作,二者通过混合单向注意力掩码分离。测试时,模型采样探索动作、收集真实状态转移,并通过轻量级测试时训练更新来精化世界模型。在CALVIN和LIBERO基准上与当前最先进方法进行对比评估。
关键结果
基线WorldAgen在CALVIN和LIBERO上达到与现有最先进方法相当、某些情况下更优的性能;在少量样本上进行测试时训练后,WorldAgen超越了现有最先进模型。