代码世界模型的双重生活：通过执行轨迹可证明地揭露恶意行为

arXiv 25.12 2025 39.8 method

TLDR

一种利用执行轨迹语义轨道分析检测大语言模型生成代码中后门的协议，具有理论保证但假阳性率高

评分理由

The paper introduces a novel verification framework (CTVP) with strong theoretical foundations (non-gamifiability, information-theoretic bounds), which is a strength. However, the abstract acknowledges high false positive rates and practical deployment challenges, limiting immediate applicability. The core contribution is about code verification, not world models.

Read-first 评分解释

综合优先阅读分 39.8，由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。原始总分保留为 1。

方法质量 25%

检查可见的摘要与分析字段，寻找实验、数据集、基线、指标和局限性等方法证据。命中信号：分析、基线、评估、验证

近期性 8%

86.7

使用温和的时间衰减，让近期论文更容易浮现，同时保留较早基础工作的价值。年份：2025

可复现性 25%

检查链接和可见文本中的论文、代码、数据集、工件与仓库信号。论文：有；代码：无；数据：无；命中信号：代码

主题相关性 42%

1.4

使用现有 LLM 关键词相关性评分，并归一化到 0-100。关键词：world model、world simulator、generative world model、interactive world model、video world model、world dynamics prediction、model-based reinforcement learning world model

研究版图角色

前沿论文方法锚点

排序敏感性

稳定性：volatile；排名波动范围：390。

关键词评分

world model

world simulator

generative world model

interactive world model

video world model

world dynamics prediction

model-based reinforcement learning world model

深度分析

创新点

跨迹验证协议（CTVP），用于在不直接执行的情况下检测代码生成LLM中的后门
利用模型预测的语义等价程序变换执行轨迹进行语义轨道分析
对抗鲁棒性商（ARQ），量化相对于基线生成的验证成本，并展示随轨道大小呈指数增长
基于信息论界限和空间复杂度约束的不可博弈性理论证明

方法

CTVP通过利用模型自身对多个语义等价程序变换的执行轨迹预测来验证不可信的代码生成模型。它分析这些预测轨迹中的一致性模式，以检测指示后门的行为异常，而无需直接执行可能恶意的代码。

关键结果

对抗鲁棒性商（ARQ）展示了随轨道大小呈指数增长，理论分析建立了信息论界限，证明了不可博弈性。然而，初始评估揭示了高假阳性率，需要在实际部署中加以解决。

局限性

初始评估中观察到的高假阳性率
实际部署需要解决高假阳性率问题
“初始评估”暗示了有限的实证验证

资源

论文