论文

PassiveQA:通过监督微调进行认知校准问答的三动作框架

PassiveQA: A Three-Action Framework for Epistemically Calibrated Question Answering via Supervised Finetuning

模型训练监督微调与指令调优

摘要

大语言模型(LLM)在问答和检索增强生成(RAG)方面取得了强大的性能,但它们隐含地假设用户查询是完全指定和可回答的。在现实世界中,查询通常不完整、不明确或缺少关键变量,导致模型产生过度自信或幻觉的响应。在这项工作中,我们研究不完整信息下的决策感知查询解决方案,其中模型必须确定是否回答、要求澄清或弃权。我们表明,标准和增强的 RAG 系统不能可靠地表现出这种认知意识,即使信息不足也默认生成答案。为了解决这个问题,我们提出了 PassiveQA,这是一个三动作框架,通过监督微调使模型行为与信息充分性保持一致。我们的方法集成了结构化信息状态表示、基于知识图的上下文以及可显式建模缺失变量和决策推理的微调规划器。跨多个 QA 数据集的实验表明,在计算受限的训练方案下,微调规划器在宏观 F1 和弃权回忆方面取得了显着改进,同时降低了幻觉率。这些结果提供了强有力的经验证据,表明认知决策必须在训练期间学习,而不是在推理时强加。