论文
AgenticAI-DialogGen：微调 的主题引导对话生成并评估 LLM 的短期和长期记忆
AgenticAI-DialogGen: Topic-Guided Conversation Generation for Fine-Tuning and Evaluating Short- and Long-Term Memories of LLMs
摘要
大语言模型 (LLM) 的最新进展提高了它们处理扩展会话上下文的能力，但由于缺乏编码短期和长期会话历史的数据集，微调 和评估短期和长期记忆仍然很困难。现有的会话数据集缺乏记忆基础，忽视主题连续性，或依赖昂贵的人工注释。为了解决这些差距，我们引入了 AgenticAI-DialogGen，这是一个基于代理的模块化框架，可以在无需人工监督的情况下生成基于角色和主题引导的对话。该框架使用 LLM 代理来提取知识图、识别主题、构建演讲者角色，并从非结构化对话中模拟主题引导的对话。 QA 模块根据短期和长期对话历史生成基于记忆的问答 (QA) 对。我们还生成了一个名为 TopicGuidedChat (TGC) 的新数据集，其中长期记忆被编码为特定于说话者的知识图，短期记忆被编码为新生成的主题引导对话。评估表明，AgenticAI-DialogGen 可产生更高的对话质量，并且在 TGC 数据集上进行微调的 LLM 在基于内存的 QA 任务上实现了更高的性能。