CRAFT：成本感知的细化和前端感知的提示调整

针对准确性进行调整的提示通常会变长，从而增加每个模型调用的推理成本。最佳的准确性成本权衡取决于任务和预算，因此提示优化是对准确性和提示词元成本的帕累托前沿的搜索，而不是针对一个提示。通常的捷径是将目标折叠成加权和，在搜索之前固定权衡权重，并且通常只能恢复前面的狭窄区域，我们将这种失败称为标量化折叠。我们提出了 CRAFT（成本感知细化和前端感知调整），这是一种帕累托前沿提示优化器，它将目标 LLM 验证调用视为稀缺资源，并将其分配给接近乐观候选前沿的候选者。每轮，互补的准确性导向和成本导向的生成器都会提出编辑建议，帕累托间隙获取花费每轮验证预算，NSGA-II 保留保持分散的群体。在六个分类和推理基准中，CRAFT 的保留前沿同时达到高精度和低成本区域，而仅精度、仅成本和加权和基线各自集中在较窄的区域。准确性与成本的权衡成为搜索后的选择，而不是搜索前的权重。