论文

通过 TTS 生成的中毒对语音情感识别进行后门攻击

Backdoor Attacks on Speech Emotion Recognition via TTS-Generated Poisoning

模型评测安全与风险评测

摘要

语音情绪识别(SER)系统越来越多地利用自我监督的声学表征,但它们在训练时攻击方面的脆弱性在很大程度上仍未得到充分研究。本文首次对 SER 上基于中毒的后门攻击进行了系统研究,重点关注文本转语音 (TTS) 生成的音频带来的威胁。我们引入了一种隐秘的低能量声学触发器,可以不知不觉地嵌入自然语音和合成语音中,从而实现可扩展且一致的中毒。我们的实验表明,SER 模型可以在低中毒率下以高攻击成功率可靠地受到损害,同时在良性输入上保持近乎干净的性能。我们进一步表明,后门模式表现出强大的跨模型可转移性,并且自我监督表示特别容易学习这些触发器。这些发现表明,TTS 技术极大地降低了有效后门攻击的障碍,暴露了现代 SER 管道中的关键漏洞,并激发了对专用防御的迫切需求。