训练中保持的精确等变性实现跨对称群的零样本泛化
TLDR
一个等变潜在世界模型通过保持预测损失不变性实现跨对称群的零样本泛化,经真实世界实验验证。
评分理由
The paper provides strong theoretical guarantees and empirical validation for equivariant world models, showing significant improvements over non-equivariant baselines. However, the abstract lacks details on scalability and broader applicability beyond the tested symmetries.
Read-first 评分解释
综合优先阅读分 62,由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。 原始总分保留为 44。
研究版图角色
排序敏感性
稳定性:volatile;排名波动范围:433。
关键词评分
深度分析
创新点
- 训练中保持的精确等变性实现了跨对称群的零样本泛化
- 训练损失的可证明对称性:单步预测relMSE在群上精确不变,因此在受限切片上拟合可确定整个轨道
- 在笔记本电脑规模(CPU/MPS)上使用完整种子进行验证,显示对称性在真实优化器(Muon/AdamW + EMA + VICReg)下仍然存在,残差约1e-6
- 单步误差在群上平坦至五位小数,而非等变基线在分布外失效(VN ×1.00 vs 基线 ×13.8 在2D,×17.2 在3D,×157 在全SE(3)),等变模型小4.5-7.4倍
- 闭环:在匹配的等变规划器下,方向g处的控制轨迹精确为ρ(g)作用于已见轨迹,闭环误差在群上不变(在PushT上的2D/SO(2)中float-floor-exact,在3D/SE(3)中统计平坦,95%置信区间不重叠)
- 对萨顿的苦涩教训进行压力测试:数据增强、暴力规模扩展和软等变性最多只能缩小跨群任务指标,从未达到float-floor精确性
- H步展开在每个视界保持平坦(×1.00,≤2×10⁻⁷),而基线残差随H累积
方法
构建了一个由等变编码器E和等变预测器f组成的潜在世界模型,群G通过正交表示ρ(g)作用于潜在变量。训练损失为单步预测relMSE,该损失在群上精确不变,因此在受限方向切片上拟合动力学可在数学上确定整个轨道。模型在笔记本电脑规模(CPU/MPS)上使用完整种子进行端到端训练,采用Muon/AdamW + EMA + VICReg,并与相同假设类别的非等变基线进行比较。评估指标包括单步误差、闭环误差和跨群展开误差。
关键结果
等变模型实现了跨群单步误差平坦至五位小数,而非等变基线表现出分布外误差因子13.8×(2D)、17.2×(3D)和157×(全SE(3)),尽管等变模型小4.5-7.4倍。闭环误差在群上不变(在PushT上的2D/SO(2)中float-floor-exact,在3D/SE(3)中统计平坦,95%置信区间不重叠),H步展开在每个视界保持平坦(×1.00,≤2×10⁻⁷),而基线残差随H累积。
局限性
- 任务成功率扫描不在范围内
- 无规划器不变性不在范围内
- 扩展性不在范围内