X-Cache: 跨块缓存用于少步自回归世界模型推理
TLDR
X-Cache通过跨生成块缓存加速自回归世界模型推理,实现自动驾驶的实时仿真。
评分理由
The paper presents a novel caching method that reduces inference cost for interactive world models, with a dual-metric gating mechanism and KV cache management. Its strength lies in addressing a practical bottleneck, but the abstract is cut off, limiting full evaluation of results and limitations.
Read-first 评分解释
综合优先阅读分 57,由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。 原始总分保留为 53。
研究版图角色
前沿论文桥接论文方法锚点
排序敏感性
稳定性:volatile;排名波动范围:416。
关键词评分
深度分析
创新点
- 跨生成块缓存,在连续生成块之间而非去噪步骤之间进行缓存
- 双度量门控机制,使用结构和动作感知的块输入指纹决定重新计算或重用
- 识别KV更新块并强制完全计算,防止自回归KV缓存中的误差传播
方法
X-Cache是一种无需训练的加速方法,适用于少步自回归世界模型。它维护跨生成块持久化的逐块残差缓存,并使用双度量门控机制(基于结构和动作感知的块输入指纹)来决定重新计算或重用缓存的残差。为防止近似误差污染自回归KV缓存,它识别KV更新块并强制对其进行完全计算。
关键结果
在X-world生产级多摄像头动作条件驾驶世界模型上,X-Cache实现了71%的块跳过率和2.6倍墙钟加速,同时保持最小退化。
局限性
- 该方法专门针对具有多块因果DiT和滚动KV缓存的少步自回归世界模型设计,限制了向其他视频生成范式的泛化能力。
- 摘要未量化退化程度或提供失败案例,导致加速与质量之间的权衡存在不确定性。
技术栈
X-worldCausal DiTRolling KV CacheFew-step Denoising