具有知识引导扰动的稳健生物医学出版物类型和研究设计分类

按出版物类型和研究设计准确、一致地索引生物医学文献对于支持证据合成和知识发现至关重要。先前关于自动化出版物类型和研究设计索引的工作主要集中在扩大标签覆盖范围、丰富特征表示和提高域内准确性，通常对来自与训练相同分布的数据进行评估。尽管预训练的生物医学语言模型在这些设置下实现了强大的性能，但针对域内准确性进行优化的模型可能依赖于肤浅的词汇或数据集特定的线索，导致分布偏移下的鲁棒性降低。在本研究中，我们引入了一种基于受控语义扰动的评估框架，以评估出版物类型分类器的鲁棒性，并研究结合实体屏蔽和领域对抗训练的鲁棒性训练策略，以减轻对虚假主题相关性的依赖。我们的结果表明，当鲁棒性目标被设计为选择性地抑制非任务定义特征，同时保留显着的方法信号时，可以减轻鲁棒性和域内准确性之间常见的权衡。我们发现这些改进源于两个互补机制：（1）当输入中存在显式方法线索时，增加对此类线索的依赖；（2）减少对虚假的特定领域主题特征的依赖。这些发现强调了特征级鲁棒性分析对于出版物类型和研究设计分类的重要性，并表明改进掩蔽和对抗性目标以更有选择性地抑制主题信息可能会进一步提高鲁棒性。数据、代码和模型可在以下位置获取：https://github.com/ScienceNLP-Lab/MultiTagger-v2/tree/main/ICHI