儿童表达的并非如此：手语到对话 AI 的安全边界审计

自动手语翻译 (SLT) 已进入消费产品，将美国手语转换为英语文本，以便向对话助理进行听写、消息传递和查询。面向儿童的人工智能和平台信任与安全工具决定文本，使用未成年人帐户上的过滤器和对聊天消息进行评分的修饰分类器。因此，使用 SLT 的手语儿童可以通过翻译达到这些保障措施。我们发现没有公开记录的系统对两者进行联合评估，并且领先部署的 SLT 模型既没有对 18 岁以下的签名者进行训练，也没有对 18 岁以下的签名者进行正式评估。改变否定、参与者角色、保密性、紧迫性或寻求帮助的错误可能会在不影响流畅性的情况下改变安全决策。本文提出了对该边界进行聋人知情的部署前审计，其中包括故障分类法、经过净化的场景模式、四个比较条件和四个结果衡量标准。 Auslan 是计划中的第一个案例研究。