论文

从检索到客户上下文:评估客户反馈分析的前沿模型系统

From Retrieval to Customer Context: Evaluating Frontier-Model Systems for Voice-of-Customer Analysis

上下文与知识应用与实践检索增强知识图谱行业应用

摘要

组织越来越多地使用前沿语言模型来分析客户反馈,但答案质量还取决于反馈的组织和提供方式。我们将\emph{客户上下文图}定义为客户和业务上下文的统一模型。类型化关系连接客户对象(反馈、对话、用户和帐户)、操作对象(票证、支持Agent、机会和竞争对手)以及分析或操作对象(分类概念、证据、见解、工作项和结果)。这使得Agent不仅可以调查客户所说的内容,还可以调查原因、谁受到影响、采取了什么行动、谁拥有该问题以及问题是否得到解决。对于此实验,该图是根据公共光标反馈填充的;相同的架构可以支持任何类型的反馈源。我们使用 30 个真实的产品、事件、比较和元数据问题,在相同的 9,432 条公共游标反馈记录上比较 Agentic RAG、深度研究Agent和客户上下文图支持的Agent。在没有详尽的事实依据的情况下,我们使用针对 30 个问题中的 28 个进行校准的比较评分标准,对答案质量(覆盖范围和组织)、分析深度(特异性和分解)和证据质量(引文支持和可追溯性)进行联合评分。我们根据他们的主张对引用的记录进行抽样,并对三个维度进行同等加权。在这个统一的评分标准下,客户上下文图支持的Agent总体得分为 0.961,而深度研究Agent的得分为 0.710,Agentic RAG 的得分为 0.651,并且在 30 个配对问题中的 27 个上领先于深度研究Agent(符号检验 p < 10^(-5);严格来说,在 30 个配对问题中的 26 个中得分最高)。其最大的优势是分析深度(0.967 与 0.642),反映了更具体、分层发展的发现,以及量化的主题和可追溯的证据……