论文

先审查,后信任:AI辅助个人健康记录中基于来源的完整性校验关卡

Review Before Trust: Source-Grounded Integrity Gates for AI-Assisted Personal Health Records

模型推理推理验证与自校正

摘要

大语言模型可以将医疗文档转换为结构化数据,但源代码可能仍然不支持合理的输出。将此类输出保留在纵向健康记录(随着时间的推移积累患者信息的记录)中,因此会产生完整性风险:未经验证的数据可能会影响以后的总结、趋势或预防性护理计算。我们引入了一种证据门控的信任促进模型,该模型使生成的数据保持临时状态,直到确定性监控器根据源文档对其进行验证。仅当源包含唯一的支持引用、相关字段出现在同一实验室行中并且保留所需的出处时,监控器才允许指定下游用途的候选者。生成器无法批准自己的输出,缺失或模棱两可的证据会导致拒绝,并且被拒绝的候选者仍可供人工审查,而不是被默默丢弃。我们在个人健康记录应用程序 Medical DataCloud 中实现该模型,并通过自动测试和重播已保存的提取输出来对其进行评估。所有 22 项一致性和突变测试均通过。重播涵盖 9 份历史实验室 PDF 报告,其中包含 102 行手动标记的行。报告产生 97 个数字候选:模式验证接受所有 97 个,早期的数据包级证据检查接受 94 个,强化的引用和行级策略接受 72 个,同时保留 25 个供审查。该研究评估系统完整性而不是临床正确性或临床安全性。结果证明了可强制执行边界的技术可行性,该边界可防止生成的声明在纵向健康记录中授权自己重复使用。