为双层规划合成世界模型

arXiv 25.3 2025 52.6 method

TLDR

TheoryCoder通过程序合成为网格世界游戏中的双层规划合成层次化世界模型，提升样本效率。

评分理由

Strengths include a novel integration of program synthesis with hierarchical world models for planning, addressing limitations of prior TBRL systems. Weaknesses are the restriction to grid-world domains and lack of real-world evaluation, leaving scalability and generality unverified.

Read-first 评分解释

综合优先阅读分 52.6，由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。原始总分保留为 35。

近期性 8%

86.7

使用温和的时间衰减，让近期论文更容易浮现，同时保留较早基础工作的价值。年份：2025

方法质量 25%

检查可见的摘要与分析字段，寻找实验、数据集、基线、指标和局限性等方法证据。命中信号：消融、基线

主题相关性 42%

使用现有 LLM 关键词相关性评分，并归一化到 0-100。关键词：world model、world simulator、generative world model、interactive world model、video world model、world dynamics prediction、model-based reinforcement learning world model

可复现性 25%

检查链接和可见文本中的论文、代码、数据集、工件与仓库信号。论文：有；代码：无；数据：无；命中信号：代码

研究版图角色

前沿论文

排序敏感性

稳定性：volatile；排名波动范围：322。

关键词评分

world model

model-based reinforcement learning world model

world simulator

world dynamics prediction

generative world model

interactive world model

video world model

深度分析

创新点

TheoryCoder，一种TBRL的实例化，使用理论的层次化表示和高效的程序合成方法
通过将通用抽象（如“移动到”）具体化，学习由大语言模型从观测中合成的Python程序作为低层转移模型
一种利用层次化结构解决大规模领域的双层规划算法

方法

TheoryCoder为智能体配备层次化抽象（例如“移动到”），这些抽象通过学习低层转移模型（由大语言模型从观测中合成的Python程序）在特定环境中具体化。然后，一种双层规划算法利用这种层次化结构在大规模领域中进行规划。该方法在多样且具有挑战性的网格世界游戏上进行了评估，基线包括直接策略合成。

关键结果

TheoryCoder成功应用于多样且具有挑战性的网格世界游戏，而基于直接合成策略的方法表现不佳。消融研究证明了使用层次化抽象的好处。

技术栈

Large Language Model (LLM)Program SynthesisPythonBilevel Planning

资源

论文