⌁ Awesome Auto Research Hub 论文 · 数据集 · 项目
English GitHub
← 返回论文列表

DeepSurvey-Bench: 评估自动生成科学综述的学术价值

arXiv 2026 59.8 method

TLDR

提出DeepSurvey-Bench基准，评估自动生成科学综述的学术价值，弥补现有表面层次指标的缺陷。

评分理由

The paper identifies a clear gap in evaluating survey generation quality beyond surface metrics, and introduces a multi-dimensional academic value criteria. However, the abstract is cut off, so full experimental validation is not visible, and the benchmark's novelty may be incremental.

Read-first 评分解释

综合优先阅读分 59.8，由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。 原始总分保留为 49。

方法质量 25%
100

检查可见的摘要与分析字段，寻找实验、数据集、基线、指标和局限性等方法证据。 命中信号：分析、基准、数据集、评估、实验、指标、结果

近期性 8%
100

使用温和的时间衰减，让近期论文更容易浮现，同时保留较早基础工作的价值。 年份：2026

主题相关性 42%
40.8

使用现有 LLM 关键词相关性评分，并归一化到 0-100。 关键词：AI scientist、automated scientific discovery、autonomous research agent、automated research、literature review agent、survey generation、automated experimentation、experiment design agent、AI for scientific research、paper writing agent、research automation、scientific discovery agent

可复现性 25%
38

检查链接和可见文本中的论文、代码、数据集、工件与仓库信号。 论文：有；代码：无；数据：无；命中信号：数据集

研究版图角色

前沿论文方法锚点

排序敏感性

稳定性：volatile；排名波动范围：78。

关键词评分

survey generation
10
literature review agent
7
AI for scientific research
6
research automation
6
automated research
5
paper writing agent
5
automated scientific discovery
3
AI scientist
2
scientific discovery agent
2
autonomous research agent
1
automated experimentation
1
experiment design agent
1

深度分析

创新点

  • 提出了DeepSurvey-Bench，一个用于评估自动生成科学综述学术价值的基准。
  • 定义了包含信息价值、学术交流价值和研究指导价值三个维度的综合学术价值评估标准。
  • 构建了带有学术价值标注的可靠数据集，超越了引用次数和结构连贯性等有缺陷的选择标准。
  • 评估深层学术价值（核心研究目标、批判性分析），而非表面层次指标。

方法

该基准定义了一个三维学术价值评估标准。基于这些维度构建带有标注的数据集。将生成的综述与该基准进行对比评估，并将结果与人类评估进行比较。

关键结果

该基准在评估生成综述的学术价值方面与人类表现高度一致。

资源

论文

标签

AICL