GRAG：个性化对话系统的通用响应增强生成框架

在资源受限或隐私敏感的环境中部署功能强大的个性化对话代理仍然是一项重大挑战。我们确定了现有方法中的一个基本瓶颈：当前的训练范式将个性化和基础视为单一的整体学习问题。在这些范式下，语言模型被迫同时解决该说什么（内容依据）以及如何以特定于用户的方式说话（个性化），这带来了巨大的计算和优化挑战。因此，为了人物角色的依从性，通常会牺牲语境基础，反之亦然，导致响应要么在对话历史中基础薄弱，要么不够个性化。在这项工作中，我们提出了通用响应增强生成（GRAG）框架，该框架通过利用来自高容量、通用 LLM 的离线通用响应作为语义和结构支架来解耦这些竞争目标，以在资源有限的环境中无缝指导较小的、任务专用模型的 微调。通过将内容依据与个性化解耦，GRAG 允许模型专注于角色注入，同时保持牢固地锚定于对话上下文。我们以两种基于融合后和融合前的架构变体实例化 GRAG，并在涵盖不同个性化结构的多个基准会话数据集上对它们进行评估。我们的结果表明，GRAG 的性能显着优于不使用辅助支架的最先进方法，ROUGE-2 得分提高了 47%，BLEU 得分提高了 36%。最终，GRAG 提供了一个通用的蓝图，用于在资源有限的环境中构建上下文证据感知的个性化对话系统。