CRC-Router：按风险决定医学智能体继续或转人工

摘要

Agentic AI 系统在医学成像领域得到越来越多的探索，以提高吞吐量并减少临床医生的工作量；然而，安全部署仍然具有挑战性，因为自主错误可能会传播到下游临床决策中。因此，核心要求不仅是强大的预测性能，而且还包括可靠的路由机制，该机制可以确定系统何时应自主处理以及何时应升级案例以供进一步审查。为了解决这一差距，我们提出了 CRC-Router，这是一种风险受限、不确定性感知的路由模块，适用于传统的医疗预测模型和Agentic 医疗 AI 系统。 CRC-Router 将多个互补的不确定性信号与预测分数相结合，构建每个发现的路由特征向量，使用轻量级的每个发现的风险模型将该向量映射到估计的错误接受风险，然后应用共形风险控制（CRC）来校准用户指定的风险目标下的接受阈值。使用 NIH ChestX-ray14 数据集对胸部 X 射线多重发现分类进行实例化，CRC-Router 既作为独立的路由层，又作为与最先进的 MedRAX 代理集成的插件模块，在评估的基线之间实现了最强的经验风险覆盖权衡。这些结果证明了 CRC-Router 在选择性医疗自动化中的有效性及其与现有预测与 Agentic 医疗流程的模块化、模型不可知的兼容性。代码可在 https://github.com/XLIAaron/CRC-Router 上公开获取

图1（图注摘要）：CRC-Router先建模不确定性与风险，再经共形风险控制校准转人工阈值。