使用大语言模型实现因果公平生成

大语言模型 (LLM) 越来越多地用于生成、完成和转换信息，其输出可以影响后续决策，引发人们对其对人口差异影响的担忧。在这种情况下，因果推理为评估公平性提供了原则基础，因为它将观察到的差异归因于生成它们的机制，而纯粹的统计方法即使使用无限数据也无法做到这一点。在LLM生成中，查询可能会请求多个因果相关的变量，每个变量既是感兴趣的结果，又是其他输出的可能原因，并且提示中提供的信息不需要遵循拓扑或时间顺序。这就需要能够分析并选择性地消除这种灵活的生成过程中的差异的方法。在本文中，我们介绍了带有LLM（简称 CFG）的因果公平生成。 CFG 提取相关概念、参考群体和因果图中的基础生成，并消除用户选择的因果效应。 CFG 还允许保留被认为对任务效用合理的路径，这在法律文献中称为业务必要性。此外，在适当的因果假设下，我们在消除适应人口模型中的所有歧视性因果效应时为我们的方法提供了正式的保证。我们根据人口数据和具有已知因果基础事实的合成数据集，在三个现实环境中使用四个LLM评估 CFG。