MedGuards：用于可靠医疗错误检测和纠正的多代理系统

随着 大语言模型 (LLM) 越来越多地部署在医疗保健环境中，生成或现有文本中的准确错误检测和纠正变得至关重要，因为即使是很小的错误也可能对患者安全构成风险。现有的错误检测和纠正方法，包括自动检查和启发式方法，不能很好地概括未知的数据集。在本文中，我们提出 MedGuards 作为医疗安全护栏，这是一种将医疗错误检测和纠正视为多智能体上下文学习任务的新框架。专门的代理分别检测、定位和纠正错误，而置信引导的仲裁机制则使用推理轨迹和置信度分数来解决分歧。该设计增强了可解释性、稳健性和适应性，无需对基础 LLM 进行额外训练。此外，我们还引入了关键字优先纠正分数（KPCS），这是一种新的评估指标，它考虑参考文本中的关键关键字是否正确生成，从而提供比传统指标更全面的评估。由临床笔记组成的四个多语言医学数据集的实验证明了所提出的框架在多个指标和模型上的显着改进。我们的目标是在现实世界的医疗保健应用中更安全地部署 LLM。为了可重复性，我们在 https://github.com/congboma/MedGuards 上公开提供我们的代码。