论文

DrugClaw 和 DrugAudit:基于主要来源的代理和权威意识的药物信息问答基准

DrugClaw and DrugAudit: A Primary-Source-Grounded Agent and Authority-Aware Benchmark for Drug-Information Question Answering

模型评测基准与评测资源

摘要

药物信息问答是一个高风险的环境,幻觉的事实可能会误导临床决策,并且每个引用事实的来源与事实本身一样重要。我们提出了 DrugClaw,这是一个多代理检索增强系统,它通过反射驱动的状态机工作流程查询药物和药物警戒技能的注册表,并返回基于主要监管或同行评审记录的答案。我们还贡献了 DrugAudit,这是一个包含 3,772 项权威意识的基准,具有一个评估小组,可以在双法官 LLM 作为法官协议下对上游参考来源匹配、词元级 语义片段重叠和引文 忠实性 进行评分,法官间 kappa = 0.88(几乎完美)。在 DrugAudit 加上 MedQA (751) 和 PubMedQA (512) 的药物相关子集中,DrugClaw 在标题表的每一列中均名列前茅:两位法官的综合证据指数、法官介导的答案正确性、主要来源率(0.918,+10.1 pp 超过次佳)、忠实性(0.887,+5.9 pp)、MedQA (0.920) 和 PubMedQA (0.693)。