论文
相同事实,不同诊断:衡量和缓解临床大模型的叙事锚定
Same Facts, Different Diagnosis: Measuring and Mitigating Narrative Anchoring in Clinical Language Models
摘要
临床诊断大模型不仅对事实内容敏感,也会受到社会语言学语域影响。论文将相同事实因不同表达语域而导致诊断分歧的现象称为叙事锚定。基准不加入种族、收入等人口统计标记,仅改变语域。研究将 1000 个 USMLE 临床案例改写为三种不同社会语言学角色的表述,由独立审计和未见生成提示的另一模型验证事实保持。在三个架构家族、不同规模的七种模型中,直接提示下均出现统计显著的叙事锚定,差距为 0.064–0.151。思维链和明确去偏指令仅部分降低偏差,表面收益经常伴随准确率大幅下降。NarrativeShield 是在诊断前提取、核验临床事实的三 Agent 流程,将差距降至 -0.004–0.037,并在全部模型中达到受测方法最低的严重不稳定决策率 DSS<0.8,多数模型付出适度、机制上可预期的准确率代价。非指令微调基础模型的压力测试表明,能否执行去偏干预受零样本指令遵循能力限制,而不只取决于提示内容。研究发布经人工事实保持验证的数据集,用于研究语域相关临床偏差。