Terra: 可探索的原生3D世界模型与点潜变量

arXiv 25.10 2025 49.6 method

TLDR

Terra提出原生3D世界模型，使用点潜变量实现可探索环境生成与多视图一致性。

评分理由

Strengths include a novel point-to-Gaussian VAE and sparse point flow matching achieving state-of-the-art reconstruction and generation with 3D consistency. Weaknesses are limited to static indoor scenes, no dynamics or interaction, and evaluation only on ScanNet.

Read-first 评分解释

综合优先阅读分 49.6，由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。原始总分保留为 25。

近期性 8%

86.7

使用温和的时间衰减，让近期论文更容易浮现，同时保留较早基础工作的价值。年份：2025

方法质量 25%

检查可见的摘要与分析字段，寻找实验、数据集、基线、指标和局限性等方法证据。命中信号：数据集、实验

可复现性 25%

检查链接和可见文本中的论文、代码、数据集、工件与仓库信号。论文：有；代码：无；数据：无；命中信号：代码、数据集、GitHub

主题相关性 42%

35.7

使用现有 LLM 关键词相关性评分，并归一化到 0-100。关键词：world model、world simulator、generative world model、interactive world model、video world model、world dynamics prediction、model-based reinforcement learning world model

研究版图角色

前沿论文

排序敏感性

稳定性：volatile；排名波动范围：420。

关键词评分

world model

generative world model

world simulator

interactive world model

video world model

world dynamics prediction

model-based reinforcement learning world model

深度分析

创新点

提出原生3D世界模型Terra，在内在3D潜空间中表示和生成可探索环境，超越了像素对齐的表示。
引入点到高斯变分自编码器（P2G-VAE），将3D输入编码为潜点表示并解码为3D高斯基元，联合建模几何与外观。
开发稀疏点流匹配网络（SPFlow），通过同时去噪位置和特征来生成潜点表示。
凭借原生3D表示和架构实现精确的多视图一致性，仅需一次生成过程即可从任意视角灵活渲染。
通过在点潜空间中进行渐进式生成实现可探索的世界建模。

方法

Terra使用点到高斯变分自编码器（P2G-VAE）将3D输入编码为潜点表示，随后解码为3D高斯基元以联合建模几何与外观。稀疏点流匹配网络（SPFlow）通过对点潜变量的位置和特征同时去噪来生成潜点表示。该模型支持在点潜空间中进行渐进式生成，以实现可探索的世界建模。

关键结果

在ScanNet v2室内数据集上，Terra在重建和生成任务中均达到了最先进的性能，并具有高度的3D一致性。

技术栈

Point-to-Gaussian VAESparse Point Flow Matching3D Gaussian Primitives

资源

论文项目