论文

迈向可信赖的医疗大语言模型智能体

Toward Trustworthy Large Language Model Agents in Healthcare

智能体系统Agent 动作执行与治理

摘要

医疗预约排班仍是持续的运营瓶颈:人工协调、碎片化遗留系统与高昂管理开销限制服务可用性并降低患者就医可及性。本文提出CareConnect:一个安全第一的医疗后勤自动化对话智能体——利用LLM函数调用、检索增强生成(RAG)与分层确定性安全护栏。系统编排八个领域专属工具支持预约、改期、取消与机构信息查询,同时强制严格范围约束——禁止医疗建议或诊断;安全攸关情形经确定性短路机制处理(紧急检测与医疗意图拒绝)。我们在680个任务导向场景的综合基准上评估(横跨端到端工作流、多轮交互与边缘案例):任务完成率91.8%、每请求中位延迟2.2秒、专属安全子集上安全合规率96.0%、每次预约平均运营成本0.0324美元——相较人工排班显著降本。源码公开于https://github.com/Hadi-Hsn/CareConnect。

迈向可信赖的医疗大语言模型智能体:论文配图
图 1:用于医疗保健物流自动化的 CareConnect 代理工作流程。