论文

语音到语音LLM助手的保障措施:汽车应用案例研究

Safeguards for Speech2Speech LLM-Assistants: A Case Study in Automotive Applications

模型评测安全与风险评测

摘要

近期进展推出了能产生自然听感交互——包括音调与情绪等非语言线索——的语音到语音(S2S)对话助手。在汽车领域,这使直观、类人的车内对话体验成为可能。但集成这些端到端助手限制了可编程领域专属保障措施的架构选择。本文讨论S2S护栏的两种实现途径:基于转写与基于工具。经实证评估,我们证明两种策略在多数情况下都不足以支撑工业部署:延迟高得难以接受(即使计算便宜的检查也会把每个回答延迟0到1.4秒),并存在技术障碍(如可能不确定的工具调用行为)。最后我们勾勒汽车场景中S2S护栏的开放挑战。

语音到语音LLM助手的保障措施:汽车应用案例研究:论文配图
图 1:基于脚本的护栏 图 2:基于工具的护栏