通过集成自我验证和检索增强生成减少大型语言模型中的幻觉

大型语言模型 (LLM) 逐渐用于高级工程任务，包括计算机辅助设计 (CAD) 文档、标准合规性验证和知识检索。尽管如此，它们仍然容易产生幻觉，输出看起来令人信服，但并非基于上下文，这限制了它们在精度和合规性至关重要的高端工程应用中的可信度。该论文介绍了 CoVe-RAG+，这是一个统一的框架，它将验证链 (CoVe) 与检索增强生成 (RAG) 集成在一起，以减轻大型语言模型 (LLM) 生成的结果中的幻觉。 CoVe-RAG+ 支持外部权威来源（例如工程标准、CAD 信息和模拟报告）中的 LLM 验证，同时应用迭代自我验证过程来验证重要声明。 CoVe-RAG+ 根据 CAD 模型文档、标准合规性验证和历史设计数据的再利用等工程活动进行评估。实验结果表明，相对于基线 CoVe 和 RAG 方法，事实准确性提高了 28%。此外，CoVe-RAG+ 通过提供阐明性验证报告和来源可追溯性来增强用户信心。研究结果表明，CoVe-RAG+ 为在事实准确性至关重要的工程设计过程中实施大语言模型提供了一种可扩展且可靠的选择。