G-Long：用于高效长期对话代理的图形增强内存管理

虽然大语言模型（LLM）拥有先进的开放域对话系统，但由于长上下文推理的固有局限性以及处理大量原始文本的低效率，保持长期一致性仍然是一个挑战。现有方法通常依赖于容易导致信息丢失的非结构化内存存储，或者依赖于计算成本高昂、导致高延迟的 LLM。为了解决这些限制，我们提出了 G-Long，这是一种图形增强框架，它利用微调的小型语言模型（sLM）进行结构化三元组提取和关联检索，从而显着降低运营成本。此外，我们引入了新颖的注意力感知重要性评分机制，该机制利用 T5 摘要器的内在交叉注意力信号来识别显着记忆。跨不同基准的大量实验表明，G-Long 在响应生成和记忆检索方面均实现了最先进的性能，在 MSC 上的响应质量提高了高达 9.8%，在 LME 上的检索召回率提高了 40.8%，同时显着减少了计算开销。