RA-MoWE：以工作流亲和嵌入支持查询聚类与复用

摘要

Agentic 工作流程使大语言模型 (LLM) 能够通过协调推理、工具使用和验证来解决复杂任务。然而，针对整个任务集合优化的工作流可能会忽略各个查询所需的推理策略的差异，而为每个查询搜索新的工作流会重复昂贵的优化。为了解决这种权衡问题，我们引入了 RA-MoWE，这是一个使用工作流亲和性嵌入来聚类查询并指导生成可重用专家工作流的框架。每个嵌入都会记录一组固定的参考工作流程解决查询的效果，揭示推理策略有效的相似之处。 RA-MoWE 使用每个集群的查询和平均嵌入，通过执行反馈来初始化和完善专门的工作流程。嵌入编码器根据查询文本预测这些嵌入，允许新查询选择生成的专家，而无需首先执行参考工作流程。在从数学、科学和编程等四个基准中提取的 300 个查询测试集上，RA-MoWE 比在参考工作流程中进行选择将平均任务得分提高了 4.04 个百分点，同时推理时使用的语言模型调用减少了 27.7%。

RA-MoWE：以工作流亲和嵌入支持查询聚类与复用：论文原图 — 图 1：不同的工作流程偏好会激励专业专家。 (a) 六个 GPT-4o-mini 训练查询集群的平均嵌入显示出对参考工作流程的不同响应。 C2 有利于抽样和答案选择（CoT-SC），而 C4 有利于自我改进。 (b) RA-MoWE 使用这些偏好来选择初始工作流程。值是以每行为中心的标准化分数；轮廓标记行最大值，括号给出完整的簇大小。 Refine 修改了思路链 (CoT) 答案； Ens.($n$) 在 $n$ 采样的 CoT 答案中进行选择；计划增加了分解。星号标记了不可用工作流程的可运行替代品。测量细节参见附录 C.4。