通过自我调节的模拟规划实现高效智能体推理
TLDR
提出自调节模拟规划三系统方法,以LLM为世界模型,实现高效推理,性能媲美更大模型。
评分理由
Strengths: novel three-system decomposition for efficient planning, self-regulation reduces token use, competitive results with smaller models. Weaknesses: reliance on LLM as world model may limit generalization; abstract lacks detailed methodology and limitations.
Read-first 评分解释
综合优先阅读分 49,由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。 原始总分保留为 30。
研究版图角色
基础论文前沿论文桥接论文
排序敏感性
稳定性:volatile;排名波动范围:337。
关键词评分
深度分析
创新点
- 将决策分解为三个系统:模拟推理(系统II)、自调节(系统III)和反应执行(系统I)
- SR^2^AM(自调节模拟推理智能体LLM),在LLM的思维链中实现这些不同阶段,以LLM作为世界模型
- 两种实例化:v0.1(提示多模块)和v1.0(从预训练推理LLM的轨迹中重构,通过监督学习和强化学习训练)
- 自调节决定何时以及多深入地规划,从而实现高效的令牌使用
方法
本文开发了SR^2^AM,一种将推理分解为三个系统的智能体LLM:反应执行(系统I)、使用世界模型的模拟推理(系统II)以及通过可学习配置器实现的自调节(系统III)。探索了两种实例化:v0.1使用提示多模块系统,而v1.0从预训练推理LLM的轨迹中重构结构化规划,并通过监督学习后接强化学习进行训练。在数学、科学、表格分析和网络信息检索任务上进行了评估。
关键结果
v0.1-8B和v1.0-30B在Pass@1上达到了与120-355B和685B-1T参数系统相当的性能,同时v1.0-30B比同类智能体LLM少使用25.8-95.3%的推理令牌。强化学习使平均规划视野增加22.8%,而规划频率仅增长2.0%,表明它学会了更长远地规划而非更频繁地规划。