RedVox：跨语言语音模型的安全性和公平性差距

支持语音的模型越来越多地部署在跨语言的现实应用程序中。然而，它们在英国环境之外和自然条件下的安全性和公平性仍然没有得到充分研究。我们调查了最先进的语音模型版本的安全报告实践，发现只有 8% 记录了任何多语言分析。为了解决这一差距，我们推出了 RedVox，这是一种基于真实声音的音频和语音多语言安全和公平基准，涵盖五种语言（英语、法语、意大利语、西班牙语和德语）的不安全和不公平的刻板要求。通过评估八个最先进的模型，我们发现即使在非对抗性条件下，漏洞仍然存在，在非英语语言中更严重，并且当请求来自口头输入时，漏洞会被放大。最后，通过调查为 RedVox 做出贡献的参与者，我们记录了收集人类参与者的语音数据所面临的独特的个人和隐私挑战，指出了自然主义语音安全研究中更广泛的社会技术挑战。