Awesome Auto Research Hub 论文 · 数据集 · 项目
← 返回论文列表

SurveyGen:基于质量感知的大型语言模型科学综述生成

arXiv 2025 59.8 method

TLDR

SurveyGen 提供大规模数据集与质量感知框架,用于评估和改进LLM自动综述生成。

评分理由

The paper's strength lies in its large, annotated dataset and novel quality-aware retrieval framework, enabling systematic evaluation. Weaknesses include the finding that fully automatic generation still underperforms in citation quality and critical analysis, limiting practical applicability.

Read-first 评分解释

综合优先阅读分 59.8,由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。 原始总分保留为 52。

方法质量 25%
100

检查可见的摘要与分析字段,寻找实验、数据集、基线、指标和局限性等方法证据。 命中信号:分析、数据集、评估、实验、结果

近期性 8%
86.7

使用温和的时间衰减,让近期论文更容易浮现,同时保留较早基础工作的价值。 年份:2025

主题相关性 42%
43.3

使用现有 LLM 关键词相关性评分,并归一化到 0-100。 关键词:AI scientist、automated scientific discovery、autonomous research agent、automated research、literature review agent、survey generation、automated experimentation、experiment design agent、AI for scientific research、paper writing agent、research automation、scientific discovery agent

可复现性 25%
38

检查链接和可见文本中的论文、代码、数据集、工件与仓库信号。 论文:有;代码:无;数据:无;命中信号:数据集

研究版图角色

前沿论文桥接论文方法锚点

排序敏感性

稳定性:volatile;排名波动范围:65。

关键词评分

survey generation
10
automated research
7
research automation
7
literature review agent
6
AI for scientific research
6
paper writing agent
5
automated scientific discovery
4
AI scientist
2
scientific discovery agent
2
autonomous research agent
1
automated experimentation
1
experiment design agent
1

深度分析

创新点

  • SurveyGen数据集:包含超过4,200篇人工撰写的综述,242,143篇引用文献及质量相关元数据
  • QUAL-SG框架:一种质量感知的综述生成框架,通过将质量指标融入文献检索以选择更高质量的源论文,从而增强标准RAG流程

方法

作者构建了包含质量元数据的人工撰写综述数据集SurveyGen,然后提出了QUAL-SG,一种质量感知的RAG框架,利用质量指标检索和选择更高质量的论文。他们系统评估了最先进的LLM在不同人类参与程度下的表现,从全自动生成到人工引导生成。

关键结果

半自动流程能够取得部分有竞争力的结果,但全自动综述生成仍然存在引用质量低和批判性分析有限的问题。

局限性

  • 全自动综述生成仍然存在引用质量低和批判性分析有限的问题。

标签

CLDLIR