基于上下文感知标记化的高效世界模型

ICML 24 2024 69.4 method

TLDR

Δ-IRIS使用增量编码和上下文感知标记化实现高效的基于Transformer的世界模型，在Crafter上以更快的训练速度达到SOTA。

评分理由

Strengths: Novel delta encoding reduces sequence length, leading to significant speedup and SOTA results on Crafter. Weaknesses: Only evaluated on a single simulated benchmark (Crafter), lacking real-world or diverse environment validation.

Read-first 评分解释

综合优先阅读分 69.4，由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。原始总分保留为 51。

可复现性 25%

检查链接和可见文本中的论文、代码、数据集、工件与仓库信号。论文：有；代码：有；数据：无；命中信号：代码、GitHub

近期性 8%

75.1

使用温和的时间衰减，让近期论文更容易浮现，同时保留较早基础工作的价值。年份：2024

主题相关性 42%

72.9

使用现有 LLM 关键词相关性评分，并归一化到 0-100。关键词：world model、world simulator、generative world model、interactive world model、video world model、world dynamics prediction、model-based reinforcement learning world model

方法质量 25%

检查可见的摘要与分析字段，寻找实验、数据集、基线、指标和局限性等方法证据。命中信号：基准

研究版图角色

复现锚点

排序敏感性

稳定性：volatile；排名波动范围：107。

关键词评分

world model

model-based reinforcement learning world model

world dynamics prediction

generative world model

interactive world model

video world model

world simulator

深度分析

创新点

编码连续时间步之间随机增量的离散自编码器
通过用连续标记总结当前世界状态来预测未来增量的自回归Transformer
实现高效世界模型表示的上下文感知标记化

方法

本文提出Δ-IRIS，一种基于模型的RL智能体，其世界模型由离散自编码器和自回归Transformer组成。离散自编码器编码时间步之间的随机增量，自回归Transformer通过用连续标记总结当前状态来预测未来增量。该智能体在Crafter基准测试上跨多个帧预算进行训练和评估，并与之前的基于注意力的方法进行比较。

关键结果

Δ-IRIS在Crafter基准测试的多个帧预算下达到了新的最先进水平，同时训练速度比之前的基于注意力的世界模型快一个数量级。

资源

论文代码