更高的嵌入维度为简单排序任务创建更强的世界模型

arXiv 25.10 2025 32.1 theory

TLDR

更大的嵌入维度提升了排序任务中Transformer内部世界模型的忠实性、一致性和可解释性。

评分理由

The paper provides clear quantitative evidence and mechanistic insights from hundreds of experiments, but its focus on a simple algorithmic task limits generalizability to complex real-world scenarios.

Read-first 评分解释

综合优先阅读分 32.1，由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。原始总分保留为 19。

近期性 6%

86.7

使用温和的时间衰减，让近期论文更容易浮现，同时保留较早基础工作的价值。年份：2025

方法质量 18%

检查可见的摘要与分析字段，寻找实验、数据集、基线、指标和局限性等方法证据。命中信号：实验、指标、结果

可复现性 18%

检查链接和可见文本中的论文、代码、数据集、工件与仓库信号。论文：有；代码：无；数据：无；命中信号：代码

主题相关性 29%

27.1

使用现有 LLM 关键词相关性评分，并归一化到 0-100。关键词：world model、world simulator、generative world model、interactive world model、video world model、world dynamics prediction、model-based reinforcement learning world model

引用影响力 18%

使用 OpenAlex 形态的引用元数据作为文献关注度信号，并与论文本身质量分开处理。引用数：0

引用速度 12%

引用速度按发表年限估算年均引用，降低旧论文天然占优的偏差。年均引用：0.00

研究版图角色

前沿论文方法锚点

排序敏感性

稳定性：volatile；排名波动范围：124。

关键词评分

world model

world dynamics prediction

model-based reinforcement learning world model

world simulator

generative world model

interactive world model

video world model

深度分析

创新点

探究嵌入维度如何影响通过强化学习训练的Transformer在冒泡排序任务中内部世界模型的涌现
发现两个一致机制：(1)注意力权重矩阵的最后一行单调编码token的全局排序；(2)选择的交换操作与这些编码值的最大相邻差值对齐

方法

使用强化学习训练一个Transformer执行冒泡排序风格的相邻交换。通过数百次实验改变嵌入维度，研究其对内部表示的影响。评估模型的准确率以及内部表示的忠实性、一致性和鲁棒性。

关键结果

即使嵌入维度非常小，模型也能达到高准确率，但更大的维度产生更忠实、一致且鲁棒的内部表示，从而带来更好的可解释性。

资源

论文