您什么时候可以修剪您的网络？多语言语音解析中中间神经元的研究

端到端语音解析是最近提出的一项任务，包括预测口语的转录和句法树。现有的语音解析架构通常利用中间神经网络。在这项工作中，我们研究了中间神经网络（NN）用于解析的有效性，特别是它们发挥的作用。我们引入了一种更简单的端到端语音解析架构，其中删除了这些中间神经网络单元，将参数减少了 12%，同时在自动语音识别 (ASR) 和解析方面实现了与现有方法相当或更好的性能。我们证明，当预训练编码器被冻结时，中间神经网络单元有助于减少表征差距。我们对法语、中低资源语言斯洛文尼亚语和奈雅语的语音解析进行了综合评估。我们进一步研究了训练数据大小和预训练语音编码器的中间层对语音解析的影响。