论文
DiaRelay:使用恒定大小的内存来传递对话上下文,以实现对话中的情绪识别
DiaRelay: Relaying Dialogue Context with a Constant-Size Memory for Emotion Recognition in Conversation
摘要
对话中的情绪识别 (ERC) 需要模型来识别通常分布在远处对话轮次中的微妙情绪线索。现有方法通常通过固定上下文窗口合并对话历史。然而,短窗口会丢弃潜在有用的远程证据,而扩大窗口会反复重新编码重叠的话语,增加计算和内存成本,并可能引入不相关的上下文。此外,常用的参数高效自适应方法(例如LoRA)主要在特征空间中引入固定的低秩变换,并且没有显式地维护对话级状态或根据不断发展的对话上下文来调节它们的变换。为了解决这些限制,我们提出了一种轻量级适配器 DiaRelay,以使 LLM 能够显式维护对话级内存以实现准确的 ERC。 DiaRelay 基于 LoRA,引入了两个更加紧密协作的组件:选择性继电器内存转换和双轴继电器内存读取。选择性中继记忆转换逐步将有用的历史证据聚合到有界中继记忆中,并将其传播到连续的话语预测中。这允许早期的情绪线索在离开本地上下文窗口后影响后来的预测,而无需重新编码完整的对话历史或扩展主干上下文长度。双轴继电器内存读取使用传播的内存来动态调制低秩特征转换,从而无需测试时梯度更新即可实现上下文相关的表示适应。大量实验表明,DiaRelay 可以在 MELD 上实现 SOTA 加权 F1 和准确性,同时仅用额外的 710 万个可训练参数就在 IEMOCAP 上获得有竞争力的结果,这表明我们的 DiaRelay 在增强基于 LLM 的情感理解方面的有效性和通用性。