论文
综合研究验证中的后果行为和代表性公平性
Consequential Behaviour and Representational Fairness in the Validation of Synthetic Research
摘要
工业界和学术界的研究人员使用由大型语言模型支持的综合调查受访者作为人类样本的替代品。这些合成群体需要根据现实世界的数据进行验证,因此研究人员经常使用与人类调查的临时比较来解决这些问题。受行为科学中意图与行为差距的启发,我们认为,对于决策者委托综合研究来预测后果行为的大多数应用案例,这些验证测试了错误的东西。为了解决这个问题,我们提出了一个具有两个要求的验证框架。首先,每个有效性声明都必须说明其与人类数据的对应程度:样本是否预测所代表的人会做什么,验证涉及四种诊断(位置、分散、响应过程和结构)中的哪一种,以及验证是否与实验效果进行比较?其次,研究人员必须报告子群体的有效性主张,因为这些群体往往受后果性决策的影响最大,而总体准确性掩盖了他们的误述。我们的验证框架将三个正义维度(分配、程序和识别)操作为可测量的量,并将人物内部反事实实验定义为验证要求。然后,我们将该框架应用于电动汽车充电费,最后提供一份报告清单,研究人员可以使用该清单来提出令人信服的有效性主张。