论文
当心工具失效:为医疗智能体实现协同的工具增益
Mind the Tool Failures: Achieving Synergistic Tool Gains for Medical Agents
摘要
医疗AI智能体越来越多地使用外部工具进行诊断、治疗推荐和证据检索,但大多数现有方法都假定任务适配的工具在其预期范围内是可靠的。这一假设在真实临床环境中十分脆弱:即便是相关的工具,也可能在困难实例上失效,并导致不安全的下游决策。为解决这一问题,我们研究不完美工具设定下的医疗工具使用,以纠正被单个工具漏掉的失效实例。依赖实例的失效模式在最佳固定单一工具与理想的逐实例选择器之间造成了一个差距,我们将其称为Single-Oracle风险差距。核心挑战在于,传统的任务级工具选择无法弥合这一差距,因为它固有地受限于最佳单一工具的性能。受此观察启发,我们因此考虑实例级异质性,并将工具使用形式化为一个实例级选择问题。具体而言,我们提出一个基于GRPO的强化学习框架,其奖励面向概率风险最小化与分歧感知的协同学习,以促进在实例层面对错误的工具共识进行纠正。此外,我们采用熵引导的采样策略来上调高分歧实例的权重,这些实例为学习实例特定的工具协同提供更强的信号。这两个组件相互补充,共同缓解实例级异质性并提升工具协同。在两项任务和七个医疗基准上的实验表明,我们的方法在广泛的一系列基线上始终取得稳健且稳定的提升,凸显了协同感知的工具使用对于可靠医疗智能体系统的重要性。
