通过细粒度知识验证缓解金融检索增强生成中的幻觉

在金融检索增强生成（RAG）系统中，由于金融领域的时效性，模型经常依赖检索到的文档来生成准确的回复。虽然检索文档有助于弥补知识空白，但模型生成的回复仍会出现与检索信息相矛盾的幻觉。为缓解这种不一致，我们提出一个经细粒度知识验证增强的强化学习框架（RLFKV）。我们的方法将金融回复分解为原子知识单元，并评估每个单元的正确性，以计算细粒度忠实奖励。该奖励提供更精确的优化信号，从而改进与检索文档的对齐。此外，为防止奖励作弊（如过度简洁的回复），我们引入信息量奖励，鼓励策略模型保留不少于基础模型的知识单元数量。在公开的金融数据描述（FDD）任务和我们新提出的FDD-ANT数据集上开展的实验显示出一致改进，证实了我们方法的有效性。