论文
CARE：证据不一致的符合隐私的代理推理
CARE: Privacy-Compliant Agentic Reasoning with Evidence Discordance
摘要
大语言模型 (LLM) 系统越来越多地用于支持高风险决策，但当可用证据内部不一致时，它们通常表现更差。这种情况存在于现实世界的医疗保健环境中，患者报告的症状与医学迹象相矛盾。为了研究这个问题，我们引入了 MIMIC-DOS，这是一个用于重症监护病房 (ICU) 环境中短期器官功能障碍恶化预测的数据集。我们从广泛认可的 MIMIC-IV（一个公开的电子健康记录数据集）中得出该数据集，并专门根据体征和症状之间存在不一致的病例构建它。这种设置对现有的基于 LLM 的方法提出了重大挑战，单通道 LLM 和代理管道经常难以协调此类冲突信号。为了解决这个问题，我们提出了 CARE：一种多阶段隐私兼容代理推理框架，其中专有的 LLM 通过生成结构化类别和转换来提供指导，而无需访问敏感的患者数据，而本地 LLM 使用这些类别和转换来支持证据获取和最终决策。根据经验，在 MIMIC-DOS 的受控回顾性评估下，CARE 在评估的 LLM 和代理工作流程中的关键指标上实现了最佳整体性能，表明它可以在保护隐私的同时更稳健地处理相互冲突的临床证据。