语言模型能否作为基于文本的世界模拟器？

ACL 2024 67.8 benchmark

TLDR

使用新基准测试LLM作为文本世界模拟器；GPT-4不可靠，凸显局限性。

评分理由

The paper introduces a novel benchmark (ByteSized32-State-Prediction) to directly quantify LLM performance as world simulators, which is a strength. However, it only tests GPT-4 and focuses on text-based environments, limiting generalizability. The empirical evaluation provides concrete evidence for its claims.

Read-first 评分解释

综合优先阅读分 67.8，由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。原始总分保留为 40。

可复现性 25%

检查链接和可见文本中的论文、代码、数据集、工件与仓库信号。论文：有；代码：有；数据：无；命中信号：数据集、GitHub

近期性 8%

75.1

使用温和的时间衰减，让近期论文更容易浮现，同时保留较早基础工作的价值。年份：2024

方法质量 25%

检查可见的摘要与分析字段，寻找实验、数据集、基线、指标和局限性等方法证据。命中信号：基准、数据集

主题相关性 42%

57.1

使用现有 LLM 关键词相关性评分，并归一化到 0-100。关键词：world model、world simulator、generative world model、interactive world model、video world model、world dynamics prediction、model-based reinforcement learning world model

研究版图角色

方法锚点复现锚点

排序敏感性

稳定性：volatile；排名波动范围：252。

关键词评分

world simulator

world dynamics prediction

world model

interactive world model

model-based reinforcement learning world model

generative world model

video world model

深度分析

创新点

引入了ByteSized32-State-Prediction，这是一个用于量化大语言模型作为基于文本的世界模拟器的新基准
首次直接量化了大语言模型作为基于文本的世界模拟器的能力
揭示了GPT-4作为世界模拟器的能力和弱点

方法

作者构建了一个新基准ByteSized32-State-Prediction，包含文本游戏状态转换数据集及相应游戏任务。他们利用该基准评估GPT-4预测状态变化的能力，直接量化其作为基于文本的世界模拟器的性能。

关键结果

GPT-4尽管性能令人印象深刻，但在没有进一步创新之前，仍然是一个不可靠的世界模拟器。

局限性

GPT-4作为世界模拟器不可靠，表明当前大语言模型在没有进一步创新的情况下仍不充分

技术栈

GPT-4ByteSized32-State-Prediction

资源

论文代码