用于多轮对话生成的上下文驱动增量压缩

现代对话智能体每次都会以不断增长的对话历史为条件，导致冗余注意力和编码成本随着对话长度的增加而增加。简单的截断或总结会降低保真度，而现有的上下文压缩器缺乏跨回合内存共享或修订，导致信息丢失并在长对话中复合错误。我们重新审视对话动态下的上下文压缩，并凭经验展示其脆弱性。为了提高效率和鲁棒性，我们引入了上下文驱动增量压缩（C-DIC），它将对话视为交错的上下文线程，并将可修改的每线程压缩状态存储在单个紧凑的对话内存中。在每个回合，轻量级检索、修改和写回循环会跨回合共享信息并更新过时的记忆，从而稳定长期行为。此外，我们将截断的时间反向传播（TBPTT）适应我们的多轮设置，无需全历史反向传播即可学习交叉轮依赖关系。对长篇对话基准的大量实验证明了 C-DIC 的卓越性能和效率；值得注意的是，C-DIC 在数百次对话轮次中表现出稳定的推理延迟和困惑度，支持高质量对话建模的可扩展路径。