智能体世界模型：用于智能体强化学习的无限合成环境

arXiv 26.2 2026 48.1 method

TLDR

提出智能体世界模型，一种合成环境生成流水线，用于规模化多轮工具使用智能体的强化学习，具有可靠状态转换。

评分理由

Strengths: Novel approach to generating diverse synthetic environments for agent training, enabling out-of-distribution generalization. Weaknesses: The term 'world model' is misleading as it does not involve learned dynamics prediction; the contribution is an environment generator, not a predictive model.

Read-first 评分解释

综合优先阅读分 48.1，由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。原始总分保留为 25。

近期性 6%

100

使用温和的时间衰减，让近期论文更容易浮现，同时保留较早基础工作的价值。年份：2026

可复现性 18%

检查链接和可见文本中的论文、代码、数据集、工件与仓库信号。论文：有；代码：有；数据：无；命中信号：代码、GitHub

方法质量 18%

检查可见的摘要与分析字段，寻找实验、数据集、基线、指标和局限性等方法证据。命中信号：基准、评估、实验

主题相关性 29%

35.7

使用现有 LLM 关键词相关性评分，并归一化到 0-100。关键词：world model、world simulator、generative world model、interactive world model、video world model、world dynamics prediction、model-based reinforcement learning world model

引用影响力 18%

使用 OpenAlex 形态的引用元数据作为文献关注度信号，并与论文本身质量分开处理。归一化引用分位：0.1898907

引用速度 12%

引用速度按发表年限估算年均引用，降低旧论文天然占优的偏差。年均引用：0.00

研究版图角色

前沿论文方法锚点复现锚点

排序敏感性

稳定性：volatile；排名波动范围：716。

关键词评分

interactive world model

world simulator

generative world model

world model

model-based reinforcement learning world model

world dynamics prediction

video world model

深度分析

创新点

全合成环境生成流水线（智能体世界模型），可扩展到1000个多样化的日常场景
由代码驱动并基于数据库的环境，提供可靠一致的状态转换，不同于LLM模拟的环境
与从真实环境收集轨迹相比，支持更高效的智能体交互
通过完全可执行的环境和可访问的数据库状态实现可靠的奖励函数

方法

本文提出智能体世界模型（AWM），一种生成全合成、代码驱动且基于数据库的环境的流水线。这些环境支持多轮工具使用交互，并用于对智能体进行大规模强化学习。训练仅在合成环境中进行，并在三个基准上评估分布外泛化能力。

关键结果

仅在合成环境中训练（而非特定于基准的环境）在三个基准上产生了强大的分布外泛化能力。

局限性

合成环境可能无法完全捕捉真实世界的复杂性和随机性
在1000个合成环境之外未见过的真实世界环境中的泛化能力仍有待进一步验证

资源

论文代码