将游戏代码世界模型生成蒸馏到轻量级大语言模型中

arXiv 2026 55.8 method

TLDR

通过SFT和RLVR将游戏代码世界模型生成能力蒸馏到小型LLM中，提升语法正确性和规则遵循度。

评分理由

Strengths include a novel distillation pipeline combining SFT and RLVR with a verification framework, and a curated dataset of 30 games. Weaknesses are the limited scope (only one 3B model, 30 games) and lack of direct comparison to frontier models.

Read-first 评分解释

综合优先阅读分 55.8，由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。原始总分保留为 42。

近期性 6%

100

使用温和的时间衰减，让近期论文更容易浮现，同时保留较早基础工作的价值。年份：2026

引用影响力 18%

76.8

使用 OpenAlex 形态的引用元数据作为文献关注度信号，并与论文本身质量分开处理。归一化引用分位：0.76787073

主题相关性 29%

使用现有 LLM 关键词相关性评分，并归一化到 0-100。关键词：world model、world simulator、generative world model、interactive world model、video world model、world dynamics prediction、model-based reinforcement learning world model

方法质量 18%

检查可见的摘要与分析字段，寻找实验、数据集、基线、指标和局限性等方法证据。命中信号：数据集、实验

可复现性 18%

检查链接和可见文本中的论文、代码、数据集、工件与仓库信号。论文：有；代码：无；数据：无；命中信号：代码、数据集

引用速度 12%

引用速度按发表年限估算年均引用，降低旧论文天然占优的偏差。年均引用：0.00

研究版图角色

基础论文前沿论文桥接论文

排序敏感性

稳定性：volatile；排名波动范围：283。

关键词评分

world model

world dynamics prediction

world simulator

model-based reinforcement learning world model

interactive world model

generative world model

video world model

深度分析

创新点

通过后训练将游戏代码世界模型生成能力蒸馏到小型LLM中
包含30个完美信息和不完美信息游戏的精选数据集
评估生成代码的结构和语义游戏属性的验证框架
结合监督微调（SFT）和可验证奖励强化学习（RLVR）的后训练流程

方法

作者引入了一个包含30个游戏的精选数据集、一个用于结构和语义属性的验证框架，以及一个结合监督微调（SFT）和可验证奖励强化学习（RLVR）的后训练流程。他们使用Qwen2.5-3B-Instruct模型进行实验，评估语法正确性和执行层面的游戏规则遵循度。

关键结果

SFT提高了语法正确性，而RLVR改善了执行层面的游戏规则遵循度，使Qwen2.5-3B-Instruct在完美信息和不完美信息游戏中生成有效游戏代码世界模型的能力更强。

技术栈

Qwen2.5-3B-InstructSFTRLVRPython

资源

论文