World-in-Context:基于上下文条件化的交互式视频世界建模
TLDR
World-in-Context 用上下文 token 统一视角、动作和相机控制,在 WBench 上实现强导航与视角切换性能。
评分理由
The paper introduces a novel conditioning framework that disentangles controls and uses IT-RoPE for temporal continuity, with convincing benchmark results. Weaknesses include limited abstract detail about methodology and no explicit discussion of limitations or broader applicability.
Read-first 评分解释
综合优先阅读分 61.3,由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。 原始总分保留为 52。
研究版图角色
排序敏感性
稳定性:volatile;排名波动范围:395。
关键词评分
深度分析
创新点
- In-Context Conditioning (ICC):将视角、动作和相机控制统一为显式 token,置于共享自注意力空间中,而非使用专门的条件化路径。
- 显式视角 token:解开冲突动态,并从单视角数据中实现涌现式视角切换。
- 动作与相机输入的互补使用:动作控制局部响应性,相机控制全局稳定性。
- Interaction-Transport RoPE (IT-RoPE):用累积的控制转移对时间注意力进行参数化,以在执行间隔间保持时间连续性。
方法
World-in-Context 使用 In-Context Conditioning 将视角、动作和相机控制表示为显式 token,并在共享的自注意力空间中进行上下文化,避免碎片化的架构条件路径。它引入 Interaction-Transport RoPE,在时间注意力中编码累积的控制转移。该框架在 WBench 上使用 World-in-Context-5B 进行评估,与包括 EchoWM 22B 和现有 5B 模型在内的基线进行对比。
关键结果
World-in-Context-5B 在 WBench 上取得 81.5 的导航性能,与 22B EchoWM(81.6)相当;视角切换成功率达 93.8%,而现有 5B 基线仅为 18.8%。受控分析表明,在更丰富的条件混合下具有叠加优势、良好的数据效率,并适用于因果展开。