EnvACE：通过世界预演内化环境动态用于智能体强化学习

arXiv 2026 46 method

TLDR

EnvACE用世界预演替代外部环境交互，内化环境动态训练LLM智能体，在多个基准上表现优异。

评分理由

The paper introduces a novel method for agentic RL that avoids costly environment interactions by having the policy simulate environment responses, which is a significant strength. The abstract provides evidence of effectiveness across multiple benchmarks and controlled studies, but does not discuss potential limitations or failure cases.

Read-first 评分解释

综合优先阅读分 46，由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。原始总分保留为 51。

近期性 6%

100

使用温和的时间衰减，让近期论文更容易浮现，同时保留较早基础工作的价值。年份：2026

主题相关性 29%

72.9

使用现有 LLM 关键词相关性评分，并归一化到 0-100。关键词：world model、world simulator、generative world model、interactive world model、video world model、world dynamics prediction、model-based reinforcement learning world model

方法质量 18%

检查可见的摘要与分析字段，寻找实验、数据集、基线、指标和局限性等方法证据。命中信号：基线、评估

可复现性 18%

检查链接和可见文本中的论文、代码、数据集、工件与仓库信号。论文：有；代码：无；数据：无；命中信号：代码、GitHub

引用影响力 18%

使用 OpenAlex 形态的引用元数据作为文献关注度信号，并与论文本身质量分开处理。引用数：0

引用速度 12%

引用速度按发表年限估算年均引用，降低旧论文天然占优的偏差。年均引用：0.00

研究版图角色

前沿论文

排序敏感性

稳定性：volatile；排名波动范围：438。

关键词评分

world model

world dynamics prediction

model-based reinforcement learning world model

generative world model

interactive world model

world simulator

video world model

深度分析

创新点

世界预演：用交替的行动与环境模拟替代外部环境交互，并端到端联合优化
内化的世界模型，在测试时无需额外外部交互即可进行私有预演

方法

EnvACE训练一个策略，该策略交替生成工具调用，然后扮演环境角色产生响应，并基于预演的响应调节后续行动。两个角色通过任务成功奖励进行端到端联合优化，内化动作-响应动态。

关键结果

EnvACE在BFCL-v4、tau^2-Bench、VitaBench和FinMCP-Bench上优于环境扩展基线，且在不同模型规模上持续改进。测试时的私有预演在适度预算下进一步提升了性能。

资源

论文