论文

IterCOMP:用于多跳问答的推理感知自适应提示压缩

IterCOMP: Reasoning-aware Adaptive Prompt Compression for Multi-hop Question Answering

上下文与知识上下文工程

摘要

多跳问答需要跨多个证据段进行复杂的推理,这通常会淹没具有冗长且嘈杂的上下文的检索增强生成系统,从而损害效率和准确性。虽然现有的提示压缩方法试图解决这个问题,但它们通常是为单轮查询而设计的,无法捕获相互依赖的推理步骤。我们提出 IterCOMP,一个统一的 无需训练 提示压缩框架,它将多跳推理合并到迭代压缩循环中。 IterCOMP将文档分解为证据片段,评估问题的可回答性,并生成有针对性的后续问题,以迭代整合必要的证据,产生紧凑的、面向推理的提示。在 MusiQue、2WikiMultiHopQA 和 HotpotQA 上的实验表明,IterCOMP 在精确匹配和 F1 分数方面取得了实质性改进,同时降低了 词元预算,优于现有基线,并随着推理复杂性的增加而表现出鲁棒性。