LLaMEA-BO：一种用于自动生成贝叶斯优化算法的大语言模型进化算法

arXiv 2025 58.4 method

TLDR

大语言模型进化算法自动生成贝叶斯优化代码，在基准函数上超越基线。

评分理由

The paper presents a novel method using LLMs with evolution strategies to generate BO algorithms, showing strong empirical results on standard benchmarks. However, it lacks real-world validation and focuses narrowly on BO algorithm generation, limiting generalizability.

Read-first 评分解释

综合优先阅读分 58.4，由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。原始总分保留为 46。

近期性 8%

86.7

使用温和的时间衰减，让近期论文更容易浮现，同时保留较早基础工作的价值。年份：2025

可复现性 25%

检查链接和可见文本中的论文、代码、数据集、工件与仓库信号。论文：有；代码：有；数据：无；命中信号：代码、GitHub

方法质量 25%

检查可见的摘要与分析字段，寻找实验、数据集、基线、指标和局限性等方法证据。命中信号：基线、基准

主题相关性 42%

38.3

使用现有 LLM 关键词相关性评分，并归一化到 0-100。关键词：AI scientist、automated scientific discovery、autonomous research agent、automated research、literature review agent、survey generation、automated experimentation、experiment design agent、AI for scientific research、paper writing agent、research automation、scientific discovery agent

研究版图角色

前沿论文复现锚点

排序敏感性

稳定性：volatile；排名波动范围：92。

关键词评分

automated scientific discovery

AI for scientific research

automated research

research automation

AI scientist

scientific discovery agent

automated experimentation

autonomous research agent

experiment design agent

literature review agent

survey generation

paper writing agent

深度分析

创新点

使用LLM自动生成完整的贝叶斯优化算法代码（初始设计、代理模型、采集函数），而不仅仅是组件或非BO算法。
一个进化框架（LLaMEA-BO），通过受控提示变体进行选择、组合和变异，迭代优化LLM生成的BO算法。
证明无需任何微调，LLM生成的BO算法即可超越最先进的基线。

方法

该框架采用进化策略，LLM生成多个候选BO算法的Python代码，保留关键组件。候选算法在BBOB测试套件上评估，根据性能选择最优者，通过提示变体进行组合和变异，实现迭代优化。

关键结果

LLM生成的算法在维度5的24个BBOB函数中的19个上超越了最先进的BO基线，并且能够很好地泛化到更高维度以及不同任务（Bayesmark）。

技术栈

Large Language Model (LLM)Evolution StrategyPythonBBOBCOCOBayesmark

资源

论文代码