CityBench: 评估大型语言模型作为世界模型的能力

arXiv 24.6 2024 62.8 benchmark, system

TLDR

CityBench系统基准通过交互模拟器评估LLMs和VLMs作为世界模型在13个城市中的城市任务。

评分理由

The paper introduces a novel benchmark with real-world urban data and tasks, but its scope is limited to urban domains and does not address generative or video world models. The evaluation focuses on perception and decision-making, lacking explicit reinforcement learning or dynamics prediction components.

Read-first 评分解释

综合优先阅读分 62.8，由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。原始总分保留为 35。

近期性 8%

75.1

使用温和的时间衰减，让近期论文更容易浮现，同时保留较早基础工作的价值。年份：2024

可复现性 25%

检查链接和可见文本中的论文、代码、数据集、工件与仓库信号。论文：有；代码：有；数据：无；命中信号：GitHub

方法质量 25%

检查可见的摘要与分析字段，寻找实验、数据集、基线、指标和局限性等方法证据。命中信号：基准、评估、结果

主题相关性 42%

使用现有 LLM 关键词相关性评分，并归一化到 0-100。关键词：world model、world simulator、generative world model、interactive world model、video world model、world dynamics prediction、model-based reinforcement learning world model

研究版图角色

方法锚点复现锚点

排序敏感性

稳定性：volatile；排名波动范围：343。

关键词评分

world model

world simulator

interactive world model

world dynamics prediction

generative world model

model-based reinforcement learning world model

video world model

深度分析

创新点

首个用于评估LLMs和VLMs在城市研究中的系统基准
CityData: 整合多样化城市数据
CitySimu: 模拟细粒度城市动态
8个代表性城市任务，分为感知-理解和决策制定两类

方法

CityBench是一个基于交互式模拟器的评估平台。它构建了CityData以整合多样化城市数据，以及CitySimu以模拟细粒度城市动态。基于这些，设计了8个代表性城市任务（分为感知-理解和决策制定两类），并在全球13个城市对30个知名LLMs和VLMs进行了评估。

关键结果

先进的LLMs和VLMs在需要常识和语义理解能力的任务（例如人类动态、城市图像的语义推理）上表现出竞争力，但在需要专业知识和高级数值能力的任务（例如地理空间预测、交通控制）上表现不佳。

资源

论文代码