MineWorld:一个基于Minecraft的实时开源交互式世界模型
TLDR
MineWorld是一个基于视觉-动作自回归Transformer的Minecraft实时交互世界模型,采用并行解码,优于扩散模型。
评分理由
Strengths include a novel parallel decoding algorithm enabling real-time interaction and new metrics for evaluating action following. Weaknesses are the focus solely on Minecraft without discussion of generalization to other environments.
Read-first 评分解释
综合优先阅读分 77,由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。 原始总分保留为 58。
研究版图角色
前沿论文复现锚点
排序敏感性
稳定性:volatile;排名波动范围:17。
关键词评分
深度分析
创新点
- 基于Minecraft的实时交互世界模型,采用视觉-动作自回归Transformer
- 新颖的并行解码算法,同时预测每帧中的空间冗余token,实现每秒4-7帧
- 新的评估指标,同时评估世界模型的视觉质量和动作跟随能力
方法
MineWorld使用视觉-动作自回归Transformer,以配对的游戏场景和动作作为输入,通过图像分词器和动作分词器将场景和动作分别转换为离散token ID,输入由交错拼接的token ID组成。模型通过下一个token预测进行训练,同时学习游戏状态表示和状态-动作条件关系。推理时采用并行解码算法,同时预测每帧中的空间冗余token,实现实时交互。
关键结果
MineWorld每秒生成4到7帧,实现实时交互,并在提出的评估指标上显著优于当前开源的基于扩散的最先进世界模型。
技术栈
Visual-action autoregressive TransformerImage tokenizerAction tokenizerParallel decoding algorithm