论文

合成特征抽取器:一种Agentic的算法选择方法

Synthesizing Feature Extractors: An Agentic Approach for Algorithm Selection

摘要

约束满足问题的算法选择需要抽取能捕捉问题结构的特征。手工设计特征抽取器需要深厚的领域专长,且当新的问题类出现时很快成为瓶颈。我们提出一种自动化方法,使用大语言模型(LLM)在agentic的检查-修复-验证循环中合成可执行的Python脚本,作为可解释的、问题特定的特征抽取器。给定一个高层MiniZinc模型和一个实例,LLM Agent生成代码,构建类型化图表示并计算图密度、变量聚类和约束紧度等结构属性。我们在三个组合问题(车辆路径、汽车排序、定长纠错码)上以五个最先进求解器的组合评估该方法。合成的抽取器得到的算法选择器在性能上持续优于专家整理的mzn2feat特征(在FLECC上测试集准确率最高提升8.3个百分点)和最佳的基于transformer的trans2feat变体。同时,合成的特征抽取器仍然可检查。

合成特征抽取器:一种Agentic的算法选择方法:论文配图
图2:VRP 的特征相关矩阵(为清晰起见省略特征名)。LLM2feat 特征的平均相关性(|r|=0.221)比 mzn2feat(|r|=0.429)低 48.5%。