论文

[MASK] 背后:基于 DAPF 的痴呆症检测中的解开表示和 忠实性

Behind the [MASK]: Disentangling Representation and Faithfulness in DAPF-Based Dementia Detection

模型评测模型行为与机制分析

摘要

通过基于提示的领域自适应模型进行口语分析是低资源、非侵入性痴呆筛查的一个有前途的方向,但此类模型在内部仍然不透明。我们通过基于提示的 微调 (DAPF) 框架研究了域适应模型的可解释性,该框架将痴呆症检测作为与诊断相关的屏蔽词元预测。我们使用各种探测和分析技术来解释 DAPF 和强基线,发现 DAPF 实现了最佳的整体性能(准确度 = 0.83 和宏 F1 = 0.83),诊断最可从其 [MASK] 表示中恢复。然而,这种代表性优势并没有延伸到词元级解释忠实性。 DAPF 归因主要反映语言任务词汇、话语标记和转录伪影,扰动测试显示较弱或负面影响。这表明其屏蔽词元接口确定了诊断信息,但没有产生忠实的 词元级 解释。