论文

PRISM:通过景观诊断进行排列优化的预测协议

PRISM: A Predictive Protocol for Permutation Optimization via Landscape Diagnostics

上下文与知识上下文工程

摘要

当系统的组件固定但它们的顺序影响性能时,就会出现排列优化。我们引入 PRISM,这是一种用于排列优化的预测协议,可在选择搜索策略之前测量适应度景观。 PRISM 使用廉价的景观诊断(包括一步移动自相关和适应度距离相关)来预测有用的突变算子,识别结构化搜索何时可能优于随机采样,并检测搜索几乎没有优势的情况。跨合成排列景观、神经架构基准、科学机器学习管道和大型语言模型指令排序,该协议在优化开始之前对搜索行为进行可测试的预测。详尽的指令排序实验揭示了仅由排列引起的巨大性能变化,而跨模型实验表明有用的排序结构可以跨模型系列和任务难度转移。其他实验表明,提示措辞优化后,指令顺序仍然重要,这表明内容优化和顺序优化是互补的。结果将 PRISM 定位为一个框架,用于确定排列搜索何时有用、应使用哪种表示形式和运算符以及何时使用更简单的替代方案。