论文
错误分类法引导的提示优化
Error Taxonomy-Guided Prompt Optimization
摘要
自动提示优化(APO)是在不修改大语言模型权重的前提下挖掘其性能的有力途径。许多现有方法依赖试错,反复测试不同提示或上下文示例直到出现好的配置,往往消耗大量算力。近来,从执行日志导出的自然语言反馈展现出识别提示改进方向的前景。然而,多数既有方法以自下而上的方式运作,基于单个问题的反馈迭代调整提示,容易丧失全局视角。本文提出错误分类法引导的提示优化(ETGPO),一种采用自上而下思路的提示优化算法。ETGPO 聚焦全局失败图景:收集模型错误,将其归类为分类法,并针对最频繁的失败模式用指导增强提示。在覆盖数学、问答与逻辑推理的多个基准上,ETGPO 取得与最先进方法相当或更好的准确率,同时优化阶段的 token 用量与评估预算约只需三分之一。