Meta：代理贝叶斯优化新范式

标题Agentic Bayesian Optimization through Surrogate-Augmented Autoresearch来源arXiv, 2608.00316v1️文章简介研究问题如何结合大语言模型的语义推理能力与贝叶斯优化的不确定性量化优势解决传统BO策略固定且难以利用非结构化领域先验的问题主要贡献论文提出了代理贝叶斯优化范式及Sara系统实现了LLM主导决策、概率后端提供不确定性的协同优化框架。重点思路提出代理贝叶斯优化范式将LLM代理置于优化循环中心作为决策者保留贝叶斯后端作为不确定性感知的基础设施替代传统的固定策略。开发Sara代理与lenz后端系统。Sara负责解析自然语言先验、诊断代理模型并动态调整搜索策略lenz提供模块化接口支持运行时重新配置边界、目标函数及采集函数。定义元级决策过程允许代理在每次昂贵评估前进行多轮计算动作包括探测后端状态、提议候选点或重构优化问题从而灵活适应动态需求。分析总结在无先验知识的合成基准测试中Sara性能媲美最先进的传统贝叶斯优化方法显著优于纯LLM优化基线证明了其在缺乏语义信息时仍能保持系统性探索的可靠性。在超参数调优和化学反应产率优化等具有领域知识的任务中Sara利用自然语言先验实现快速冷启动并结合后端代理模型进行精细搜索收敛速度远超传统方法。Sara具备动态适应能力能在运行中途根据指令变化重新定义优化问题如从单目标约束优化切换为多目标帕累托优化且无需丢弃历史数据或重启实验。个人观点论文解决了LLM缺乏校准不确定性与传统BO缺乏语义理解的双重局限通过解耦决策逻辑与数值计算既保留了BO的样本效率又赋予了优化过程类似人类专家的灵活性与适应性。