论文
GoT-CD：思维图因果发现和事后特定路径公平审计的脆弱性
GoT-CD: Graph-of-Thoughts Causal Discovery and the Fragility of Post-hoc Path-Specific Fairness Audits
摘要
因果发现从观察数据中恢复定向结构，并越来越多地用于临床环境中，以支持预测模型的机制推理和公平性审核。路径特定的反事实公平性询问受保护的属性是否通过非法路径影响结果，但这些估计值是相对于提供的因果图定义的，因此会继承发现步骤引入的任何错误。发现方法通常根据对所有边缘均等加权的聚合结构指标进行评分，并且没有既定的评估询问审计所依赖的特定路径是否在发现中幸存下来，或者当该路径缺失时审计报告什么。在这里，我们展示了全图思维图推理产生的非循环发现图在结构上与 大语言模型 (LLM) 基线竞争，但结构保真度本身并不能保证公平忠实的审计。我们引入了 GoT-CD，其中推理单元是一个完整的候选边集：并行生成多个图，通过确定性有效性函数进行评分，并在禁止发明边的硬并集约束下进行合并，并在提交之前使用贪婪投影强制执行 DAG。 GoT-CD 在所有五个报告的基准上返回有效的 DAG，并在亚洲、阿尔茨海默病和 COVID-Respiratory 数据集上的 LLM 方法中获得最佳 DAG 有效 F1 分数。在具有已知不公平路径的阿尔茨海默氏症基准上，事后特定于路径的审计显示，八个已发现的图中有五个没有恢复从敏感属性到结果的路径，因此报告了无效的总体效应，而中介效应仍然存在，需要下游特定于路径的公平性分析以及结构发现。