论文
AGSC:长文本生成中不确定性量化的自适应粒度和语义聚类
AGSC: Adaptive Granularity and Semantic Clustering for Uncertainty Quantification in Long-text Generation
摘要
大语言模型(LLM)在长格式生成方面表现出了令人印象深刻的能力,但其应用受到幻觉问题的阻碍。虽然不确定性量化(UQ)对于评估可靠性至关重要,但复杂的结构使得跨异构主题的可靠聚合变得困难,此外,现有方法常常忽视中性信息的细微差别,并遭受细粒度分解的高计算成本的困扰。为了应对这些挑战,我们提出了 AGSC(自适应粒度和基于 GMM 的语义聚类),这是一个专为长格式生成而定制的 UQ 框架。 AGSC首先使用NLI中性概率作为触发器来区分无关性和不确定性,减少不必要的计算。然后,它应用高斯混合模型 (GMM) 软聚类来建模潜在语义主题,并为下游聚合分配主题感知权重。 BIO 和 LongFact 上的实验表明,AGSC 实现了最先进的与事实的关联,同时与完全原子分解相比,推理时间减少了约 60%。