论文
AIA$^{2}$:子组鲁棒性的属性不可知不平衡增强
AIA$^{2}$: Attribute-Agnostic Imbalance Augmentation for Subgroup Robustness
摘要
描述数据内容和上下文的属性可以引发多种不平衡模式,而不仅仅是标签不平衡。然而,现有的研究主要解决标签不平衡问题,而忽视了数据属性,例如主题和人口统计数据,这可能会引发有意义的子组结构,同时导致代表性不足的子组的模型退化。我们提出了属性无关的不平衡增强(AIA$^{2}$),这是一种在不同子组不平衡情况下提高模型鲁棒性的框架,无需明确的子组注释。 AIA$^{2}$ 通过潜在语义分布自动发现不同的不平衡,获得具有学习难度和子组不平衡缺陷的切片,并部署 大语言模型 (LLM) 进行子组感知的不平衡增强。我们在 5 个具有丰富领域及其属性值的流行语料库上评估了 AIA$^{2}$,涵盖社会问题和多样化主题。结果显示,表现最差的子群体的表现有所提高,并且与竞争基线相比取得了持续的进步。消融研究证实了每个组成部分的互补贡献,另外的分析表明,AIA$^{2}$ 提供了一种实用且一致的方法来提高数据子组不平衡情况下最差组的鲁棒性。代码可在 https://github.com/trust-nlp/AIA2-Subgroup-Robustness 获取。