DreamX-Phi 1.0:面向机器人操作的动作条件视频世界模型
TLDR
DreamX-Phi 1.0 是动作条件视频世界模型,预测未来观测,具几何一致性与高效蒸馏,在 WorldArena 2.0 中获第一。
评分理由
The paper introduces a strong video world model with novel geometric encoding and object-consistency techniques, validated by challenge rankings. Weaknesses include lack of detailed experimental methodology and limited evidence beyond benchmark results.
Read-first 评分解释
综合优先阅读分 47.6,由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。 原始总分保留为 58。
研究版图角色
前沿论文
排序敏感性
稳定性:volatile;排名波动范围:557。
关键词评分
深度分析
创新点
- 动作条件视频世界模型:从观测帧、语言指令和包含末端执行器位姿与夹爪状态的动作序列预测未来观测。
- 通过 PRoPE 风格几何编码将每个机械臂的 SE(3) 变换注入注意力,保持机械臂身份与刚体运动结构。
- 增加轻量级深度分支,提供场景级几何约束。
- 使用 SAM3 掩码和冻结的 V-JEPA 教师模型,在抓取过程中保持物体一致性。
- 通过分布匹配蒸馏将多步生成器蒸馏为少步学生模型,实现高效部署。
方法
DreamX-Phi 是动作条件视频世界模型,输入观测帧、语言指令以及由末端执行器位姿和夹爪状态组成的动作序列,预测未来帧。它通过 PRoPE 风格几何编码将每个机械臂的 SE(3) 变换注入注意力,使用轻量级深度分支提供场景级几何约束,并利用 SAM3 掩码和冻结的 V-JEPA 教师模型保持物体一致性。最后通过分布匹配蒸馏将多步生成器蒸馏为少步学生模型,以实现高效部署。
关键结果
截至撰写时,DreamX-Phi 在 WorldArena 2.0 Challenge 的 Track 1 中获第一名,在 Track 2 中获第二名。
技术栈
PRoPESAM3V-JEPAdistribution-matching distillation