上下文与多样性至关重要：世界模型中上下文学习的涌现

arXiv 25.9 2025 49.3 method, theory

TLDR

研究世界模型中的上下文学习，识别ER和EL两种机制，并证明长上下文和多样环境是其涌现的关键。

评分理由

The paper provides a formalization of in-context learning for world models with theoretical error bounds and empirical validation, which is a strength. However, the empirical confirmation appears to be in synthetic or controlled settings, lacking real-world benchmarks or datasets, which limits its practical impact.

Read-first 评分解释

综合优先阅读分 49.3，由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。原始总分保留为 37。

近期性 8%

86.7

使用温和的时间衰减，让近期论文更容易浮现，同时保留较早基础工作的价值。年份：2025

主题相关性 42%

52.9

使用现有 LLM 关键词相关性评分，并归一化到 0-100。关键词：world model、world simulator、generative world model、interactive world model、video world model、world dynamics prediction、model-based reinforcement learning world model

方法质量 25%

检查可见的摘要与分析字段，寻找实验、数据集、基线、指标和局限性等方法证据。命中信号：结果

可复现性 25%

检查链接和可见文本中的论文、代码、数据集、工件与仓库信号。论文：有；代码：无；数据：无；命中信号：无

研究版图角色

前沿论文

排序敏感性

稳定性：volatile；排名波动范围：458。

关键词评分

world model

world dynamics prediction

model-based reinforcement learning world model

world simulator

generative world model

interactive world model

video world model

深度分析

创新点

形式化了世界模型的上下文学习（ICL），将关注点从零样本性能转向增长和渐近极限
识别出两个核心机制：环境识别（ER）和环境学习（EL）
推导了ER和EL的误差上界，揭示了这些机制如何涌现
通过实验证实了世界模型中存在不同的ICL机制，并研究了数据分布和模型架构如何以与理论一致的方式影响ICL

方法

该研究通过定义两个机制（ER和EL）形式化了世界模型的ICL，并推导了每个机制的理论误差上界。在实验上，作者测试了不同数据分布和模型架构下的世界模型，以验证理论预测并考察ICL的涌现。

关键结果

实验结果证实了世界模型中存在不同的ICL机制（ER和EL），并表明长上下文和多样环境是这些机制涌现的必要条件，与推导的理论界一致。

资源

论文