CWM：一个用于代码生成与世界模型研究的开放权重大语言模型

arXiv 25.9 2025 64.3 method, system

TLDR

CWM是320亿参数开放权重LLM，经执行轨迹中期训练，利用世界模型提升代码生成，编程数学基准表现优异。

评分理由

The paper's strength lies in releasing a large open-weights model with novel mid-training on execution trajectories and strong benchmark results. Weaknesses include limited details on world model evaluation beyond early results and lack of explicit comparison to other world model approaches.

Read-first 评分解释

综合优先阅读分 64.3，由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。原始总分保留为 43。

近期性 8%

86.7

使用温和的时间衰减，让近期论文更容易浮现，同时保留较早基础工作的价值。年份：2025

方法质量 25%

检查可见的摘要与分析字段，寻找实验、数据集、基线、指标和局限性等方法证据。命中信号：评估、指标、结果

主题相关性 42%

61.4

使用现有 LLM 关键词相关性评分，并归一化到 0-100。关键词：world model、world simulator、generative world model、interactive world model、video world model、world dynamics prediction、model-based reinforcement learning world model

可复现性 25%

检查链接和可见文本中的论文、代码、数据集、工件与仓库信号。论文：有；代码：无；数据：无；命中信号：检查点、代码

研究版图角色

前沿论文方法锚点

排序敏感性

稳定性：volatile；排名波动范围：165。

关键词评分

world model

interactive world model

generative world model

world dynamics prediction

world simulator

model-based reinforcement learning world model

video world model

深度分析

创新点

在Python解释器和代理Docker环境中的观察-动作轨迹上进行中期训练，以超越静态代码提升代码理解
在可验证的编程、数学和多轮软件工程环境中进行多任务推理强化学习
提供一个开放权重测试平台，用于研究结合推理与规划的代码生成世界模型
利用世界模型逐步模拟Python代码执行
发布中期训练、SFT和RL后的模型检查点以支持进一步研究

方法

CWM是一个320亿参数的密集解码器专用大语言模型，训练上下文大小高达131k tokens。它在Python解释器和代理Docker环境中的观察-动作轨迹上进行中期训练，随后在可验证的编程、数学和多轮软件工程环境中进行广泛的多任务推理强化学习。评估使用pass@1指标，包括SWE-bench Verified（含测试时扩展）、LiveCodeBench、Math-500和AIME 2024。

关键结果

CWM在SWE-bench Verified上达到65.8%的pass@1分数，在LiveCodeBench上达到68.6%，在Math-500上达到96.6%，在AIME 2024上达到76.0%，展示了其在通用编程和数学任务上的强劲性能，与其世界建模能力无关。

局限性

世界建模能力仅作为初步步骤和早期结果呈现，表明其成熟度和范围有限
世界建模对代理编程和推理的益处仅得到初步证明

资源

论文