论文

InsightEmb:学习用于代理洞察检索的动作意图嵌入

InsightEmb: Learning Action-Intent Embeddings for Agentic Insight Retrieval

上下文与知识检索增强

摘要

自我改进的智能体从先前的轨迹中积累可重复使用的见解,使得检索对于将积累的经验转化为可行的指导变得越来越重要。在每个决策步骤中,检索正确的洞察力可以帮助代理朝着其目标前进,我们将这种设置称为代理洞察力检索。然而,现有的检索方法主要对语义相似性进行建模,而忽略了检索到的见解是否解决了代理当前的决策瓶颈。我们提出了 InsightEmb,一种对比嵌入框架,仅使用数学推理数据来学习可转移的面向进度的检索几何。 InsightEmb 共同学习将具体情况与抽象启发式规则相结合,并将推理轨迹与类似的进度结构进行聚类。我们根据动态代理任务和静态技能检索基准评估 InsightEmb。在没有任何特定环境的训练的情况下,InsightEmb 改进了所有这些评估,超越了现有推理嵌入模型的性能。这些结果表明,状态洞察力匹配的几何结构可以跨领域转移,从而能够利用公开可用的推理数据进行有效的训练,而无需昂贵的特定环境监督。