ROWBench:视频模型能否渲染程序所规定的内容?
TLDR
提出PROWBench基准:170个程序化片段和600个代理视频,检验视频模型对细粒度程序指定世界事件的视觉遵循。
评分理由
The benchmark addresses an important gap by using replayable world records and VLM-based metrics to test fidelity to program-specified interactions. However, the evaluation relies on synthetic/proxy videos rather than real-world data, and there is an inconsistency between the title's ROWBench and the abstract's PROWBench.
Read-first 评分解释
综合优先阅读分 41.4,由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。 原始总分保留为 45。
研究版图角色
前沿论文方法锚点
排序敏感性
稳定性:volatile;排名波动范围:647。
关键词评分
深度分析
创新点
- 提出 PROWBench,这是一个用于评估可编程世界模型对显式、细粒度程序指定世界事件的视觉遵从性的基准。
- 提供170个程序化构建的片段和600个代理视频,覆盖多样的场景和交互。
- 将实体状态和带时间戳的事件(包括摄像机视野之外的事件)记录为可重放的世界记录,并提供同步视图和代理表示。
- 使用可扩展框架构建场景、控制行为,并以多种表示渲染每个摄像机视图,如粗略3D和边界框。
- 支持第一人称和第三人称视角,并为部分片段提供同步多视图观测。
- 定义了实体控制和长时记忆两个评估维度,以及两个基于VLM的指标:逻辑-渲染对齐(Logic-Render Alignment)和交互成功率(Interaction Success Rate)。
方法
PROWBench 以程序化方式构建片段,并将实体状态和带时间戳的事件(包括镜头外事件)记录为可重放的世界记录。从这些记录中,它渲染同步的摄像机视图和代理表示,如粗略3D和边界框。随后,生成的视频通过实体控制、长时记忆,以及基于VLM的逻辑-渲染对齐和交互成功率指标,对照程序执行的可观察后果进行检查。
关键结果
标题和摘要未报告明确的定量实验结果;它们描述了基准构建、覆盖范围和评估指标。
局限性
- 同步多视图观测仅对部分片段可用。