论文

HALAS:人类注释的现代 ASR 系统幻觉数据集

HALAS: A Human-Annotated Dataset of Hallucinations of Modern ASR Systems

模型评测基准与评测资源

摘要

端到端自动语音识别 (ASR) 系统会产生自然语音的幻觉,但现有的缓解方法通常是在非语音或人为损坏的音频上进行评估。我们介绍 HALAS,这是第一个人工注释的自然发生幻觉数据集,来自真实的未经处理的电话录音的七个最先进的 ASR 模型。 HALAS 提供跨度级别的标签,可以分析幻觉模式及其严重程度。我们的分析揭示了强烈的跨模型词汇重叠,并证实几乎正确转录的语音也会出现幻觉(其特征是低单词错误率)。提出的 HALAS 基准表明,用作幻觉检测代理的字符和语义级指标达到 81% ROC-AUC,而最先进的检测方法的 F1 分数仅为 53.1%。因此,HALAS 为检测和缓解 ASR 幻觉建立了第一个严格的非人工基准。