自我进化程序的组件感知反馈

LLM引导的进化搜索可以发现复杂的程序，但现有方法大多只保存候选程序和适应度分数，而丢弃哪些组件编辑产生了哪些适应度指标变化。现有方法迫使变异器 LLM 从杂乱的历史中推断先前编辑的效果，使得程序搜索缓慢且不稳定。对于本地可服务的大语言模型来说尤其如此，以发展多组件系统。我们引入了组件感知反馈，它将每个评估的程序与其父程序进行比较，识别发生更改的组件，并将它们与相关的度量差异记录到稍后突变读取的归因内存中。内存将每个更改保存在两个参考系中，本地参考系针对其来自的父级，全局参考系针对种子程序，这显示了更改的直接影响以及自种子以来所取得的累积进度。我们在 LLM 重新排名上进行了研究，这是一个多目标优化问题，其中多级管道必须平衡质量与服务成本。在 12 个 \textsc{Bright} 数据集中，我们的方法在搜索预算中位数的三分之一后达到了最强基线的最终质量，并在留出集的 nDCG@10 中高出了 7.2%，并且在成本意识目标下，它发现平均更准确的管道，同时每次查询使用的词元减少了 11%，这表明组件感知反馈是更高效的自我进化系统的一个有希望的方向。