ETHOS：迈向临床多智能体系统的模块化伦理框架

大语言模型 的快速采用促进了临床多智能体系统 (MAS) 的开发，该系统能够集成多模式患者数据并支持日益复杂的临床决策。然而，这些系统在现实世界的医疗保健环境中的部署引发了与安全、公平、问责制、透明度和患者信任相关的关键道德问题。尽管包括世界卫生组织、美国国家医学院和 FUTURE-AI 联盟在内的许多组织都提出了医疗保健人工智能的道德框架和治理原则，但这些努力在很大程度上仍然是概念性的。为了应对这一挑战，我们提出了 ETHOS（通过分层监督系统实现道德和信任），这是一个模块化道德框架，设计为治理元代理，可以与任何现有的多代理系统集成，而无需更改其底层架构。 ETHOS 通过由确定性检查、上下文审查和最终道德批评家组成的分层治理方法，将利益相关者知情的道德要求转化为可执行的运行时监督。这些组件不断评估中间推理步骤和最终输出，使系统能够识别道德风险、请求修改或抑制不符合预定义安全和可信标准的响应。我们在肝病临床决策支持 MAS 中展示了 ETHOS。结果表明，ETHOS 通过检测不完整、不一致或超出范围的证据并在无法支持安全建议时适当增加弃权率来提高决策可靠性。通过将道德治理直接嵌入到系统运行中，ETHOS 提供了一种实用且可审计的机制，用于将高级人工智能道德原则转化为可部署的保障措施。