论文

iTAG:具有准确因果图注释的自然文本生成逆向设计

iTAG: Inverse Design for Natural Text Generation with Accurate Causal Graph Annotations

模型训练合成数据

摘要

从文本中发现因果关系的一个根本障碍是缺乏用作 真值 的因果注释文本数据,因为注释成本很高。这激发了生成带有因果图注释的文本的重要任务。早期基于模板的生成方法牺牲文本自然度来换取高因果图注释准确性。最近的依赖于 大语言模型 (LLM) 的方法通过 LLM 直接从目标图生成自然文本,但不能保证因果图注释的准确性。因此,我们提出了 iTAG,它在现有的 LLM 相关方法中将因果图转换为文本之前,对节点执行现实世界的概念分配。 iTAG将此过程构建为一个以因果图为目标的逆问题,通过思想链(CoT)推理迭代检查和细化概念选择,使概念之间的诱导关系尽可能与因果图描述的目标因果关系一致。 iTAG 在广泛的测试中展示了极高的注释准确性和自然性,并且使用生成的数据测试基于文本的因果发现算法的结果显示了与真实世界数据的高度统计相关性。这表明 iTAG 生成的数据可以作为基于文本的因果发现算法的可扩展基准测试的实用替代品。