OptiCom：LLM驱动优化中状态条件组合的统一框架

大语言模型（LLM）越来越多地被部署来通过迭代优化来解决复杂的科学和实际问题。然而，随着候选质量、故障模式和资源预算的发展，动态协调不同的搜索机制仍然是一个关键的开放挑战。有针对性的经验诊断表明，机制有效性高度依赖于状态。受此启发，我们分析个人决策如何推动最终结果，将共享预算下的预期最终改进分解为累积决策机会减去累积选择损失。在这种机会损失理论基础的指导下，我们提出了 OptiCom，一个统一的框架，代表共享配置空间中的 LLM 驱动的优化器：C=(A,Q,O,E,M,S)，对应于工件、查询、运算符、评估、内存和策略。在这个空间内运行，基于 LLM 的快速优化控制器通过结构化的操作包动态地组成即时机制，而较慢的策略适配器则根据累积的轨迹反馈细化长期选择偏好、操作员权重和模板。 32个基准组的综合评估证明了该框架的优越性：OptiCom在14个评估配置中的平均最高分排名为1.72，在23个组中获得最高分。最终，这些结果凸显了 OptiCom 作为稳健的 LLM 测试时计算扩展的通用范例的广泛适用性和高可扩展性。