论文
面向数据敏感领域的LLM输出神经符号验证（扩展预印本）
Neuro-Symbolic Verification of LLM Outputs for Data-Sensitive Domains (extended preprint)
摘要
部署在高风险领域的LLM面临根本性的可靠性挑战：幻觉、不一致和隐私漏洞带来不可接受的风险，在这些场景中错误会造成法律、财务或安全后果。本文提出一种混合验证架构，将形式化符号方法与神经语义分析相结合，为LLM生成内容提供互补保证。该架构采用逻辑推理进行输入验证，利用完备性性质为结构化需求提供可判定的保证。在输出验证方面，基于嵌入的语义相似度在形式化方法缺乏表达力的地方检测上下文幻觉。这种分离在一个并行的、基于actor的流水线中实现，克服了基于提示的自我验证方法的局限——后者继承了产生幻觉的分布偏置。所提架构与类型感知验证方法通过HAIMEDA得到验证，这是一个通过行动设计研究（Action Design Research）开发的真实医疗器械损害评估报告系统。评估显示，结构化实体的幻觉检出率超过83%，语义捏造为72%，报告创建时间缩短30%，表明神经符号架构能为数据敏感领域的LLM部署提供有原则的保障。
