SciCoQA: 科学论文与代码对齐的质量保证

arXiv 2026 36.4 method

TLDR

SciCoQA数据集评估LLM检测论文-代码差异的能力，揭示自动化质量保证的重大差距。

评分理由

The paper introduces a novel dataset and evaluation framework for a specific verification task, which is a strength. However, it focuses narrowly on discrepancy detection rather than broader automated scientific discovery, limiting relevance to many keywords. The use of both real and synthetic data is a strength, but the low detection rates highlight limitations.

Read-first 评分解释

综合优先阅读分 36.4，由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。原始总分保留为 16。

近期性 8%

100

使用温和的时间衰减，让近期论文更容易浮现，同时保留较早基础工作的价值。年份：2026

可复现性 25%

检查链接和可见文本中的论文、代码、数据集、工件与仓库信号。论文：有；代码：无；数据：无；命中信号：代码、数据集、GitHub

方法质量 25%

检查可见的摘要与分析字段，寻找实验、数据集、基线、指标和局限性等方法证据。命中信号：分析、数据集

主题相关性 42%

13.3

使用现有 LLM 关键词相关性评分，并归一化到 0-100。关键词：AI scientist、automated scientific discovery、autonomous research agent、automated research、literature review agent、survey generation、automated experimentation、experiment design agent、AI for scientific research、paper writing agent、research automation、scientific discovery agent

研究版图角色

前沿论文

排序敏感性

稳定性：volatile；排名波动范围：21。

关键词评分

AI for scientific research

research automation

automated research

AI scientist

automated scientific discovery

autonomous research agent

scientific discovery agent

literature review agent

survey generation

automated experimentation

experiment design agent

paper writing agent

资源

论文