Awesome World Model Hub 论文 · 数据集 · 项目
← 返回论文列表

神经网络何时学习世界模型?

arXiv 25.2 2025 48.8 theory

TLDR

本文证明具有低度偏差的神经网络可在多任务设置中恢复潜在世界模型变量。

评分理由

Strengths include novel theoretical analysis using Fourier-Walsh transforms and connections to self-supervised learning. Weaknesses are the lack of empirical validation and reliance on restrictive Boolean model assumptions.

Read-first 评分解释

综合优先阅读分 48.8,由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。 原始总分保留为 16。

方法质量 25%
90

检查可见的摘要与分析字段,寻找实验、数据集、基线、指标和局限性等方法证据。 命中信号:分析、数据集、结果、验证

近期性 8%
86.7

使用温和的时间衰减,让近期论文更容易浮现,同时保留较早基础工作的价值。 年份:2025

可复现性 25%
38

检查链接和可见文本中的论文、代码、数据集、工件与仓库信号。 论文:有;代码:无;数据:无;命中信号:数据集

主题相关性 42%
22.9

使用现有 LLM 关键词相关性评分,并归一化到 0-100。 关键词:world model、world simulator、generative world model、interactive world model、video world model、world dynamics prediction、model-based reinforcement learning world model

研究版图角色

前沿论文方法锚点

排序敏感性

稳定性:volatile;排名波动范围:518。

关键词评分

world model
9
generative world model
2
world simulator
1
interactive world model
1
video world model
1
world dynamics prediction
1
model-based reinforcement learning world model
1

深度分析

创新点

  • 首次在理论上证明了神经网络在多任务设置中学习世界模型的条件
  • 证明具有低度偏差的模型在温和假设下可证明地恢复潜在数据生成变量,即使代理任务涉及复杂的非线性函数
  • 通过傅里叶-沃尔什变换分析可逆布尔变换的新技术

方法

本文利用任务解的布尔模型和傅里叶-沃尔什变换进行理论分析。它引入了分析可逆布尔变换的新技术,以证明具有低度偏差的神经网络可以在多任务设置中恢复潜在变量,假设数据生成过程满足温和条件。

关键结果

理论结果表明,在温和假设下,具有低度偏差的神经网络可以可证明地恢复潜在数据生成变量,但这种恢复对模型架构敏感。

局限性

  • 潜在变量的恢复对模型架构敏感,限制了通用适用性
  • 分析依赖于布尔模型和特定假设,这些假设可能不适用于所有现实场景
  • 结果是理论性的,缺乏在实际数据集或任务上的实证验证

标签