面向推理时论证的神经符号学习

主张验证是包括健康与金融在内的高风险场景中的重要问题。当支撑主张的信息不完整或相互冲突时，给出不确定的回答可能比二元的真假分类更合适。在任何情况下，对决定最终判定的考量给出忠实解释都至关重要。我们提出推理时论证（ITA），一个用于三值主张验证的可训练神经符号框架：给出主张强度的形式论证语义既用于(i)指导LLM训练——模型学习生成论证并为其赋基础分（代表内在强度），也用于(ii)从生成并已打分的论证计算三值（真/假/不确定）预测。由此，在训练时，论证生成与打分可以依据所诱导论证预测的质量来优化。此外，在推理时，最终预测按构造即忠实于决定判定的论证与分数，而不像常规推理模型那样由可能不忠实的事后推理痕迹来辩护。最后，我们在两个三值主张验证数据集上表明，ITA优于论证式基线，并能与非论证的直接预测基线相竞争，同时其判定由显式、可检查的论证结构确定性地计算得出。