识别行为识别模型中的道德偏见

人类行为识别（HAR）模型越来越多地部署在高风险环境中，但它们在不同人类外表下的公平性尚未得到分析。我们引入了一个使用合成视频数据来审核 HAR 模型中偏差的框架，这些数据是在完全控制视觉身份属性（例如肤色）的情况下生成的。与之前专注于静态图像或姿势估计的工作不同，我们的方法保留了时间一致性，使我们能够隔离和测试单个属性的变化如何影响模型预测。通过使用 BEDLAM 模拟平台进行受控干预，我们展示了一些流行的 HAR 模型即使运动保持相同，是否也会在肤色上表现出统计上显着的偏差。我们的结果强调了模型如何编码不需要的视觉关联，并且我们提供了跨组系统错误的证据。这项工作为审计 HAR 模型提供了一个框架，并支持根据即将出台的监管标准开发更透明、更负责任的系统。