论文
TreeProbe:LLM 中的藏医学文化偏见基准
TreeProbe : A Tibetan Medicine Benchmark for Cultural Bias in LLMs
摘要
大语言模型 越来越被视为缓解全球健康不平等的潜在手段,但其产出往往反映了占主导地位的高资源医学传统,并且对传统医学知识体系的覆盖范围有限。藏医学作为世界四大传统医学体系之一,拥有独立且高度结构化的理论框架。当模型缺乏对藏医学的扎实理解时,它们可能会依赖于占主导地位的认知系统,并在推理过程中扭曲本地知识结构。然而,评估藏医学文化偏见的定量工具仍然基本上缺失。为了解决这一差距,我们引入了 TreeProbe,这是第一个围绕藏医学本土药树框架组织的文化偏见基准。它包含 4,719 个专家评审项目,涵盖 467 种疾病和沿着三个根源的 10 个子任务。对代表性 LLM 的实验表明,当前模型在藏族本土医学背景下仍然受到限制,并表现出系统的外部本体漂移。进一步的分析表明,模型在是否倾向于生物医学或中医推理方面存在分歧,这是由预训练数据组成以及中医和藏医学之间的表面相似性决定的。 TreeProbe 为开发医疗人工智能系统提供了诊断基准,该系统在语言上具有包容性且在认知上是公平的。代码和数据可在 https://anonymous.4open.science/r/TreeProbe/ 的匿名存储库中获取。