了解多目标跨语言摘要中的 LLM 行为

多目标跨语言文本摘要 (MTXLS) 将源文档总结为多种目标语言，随着用户使用多种语言的内容，它变得越来越重要，但仍未得到充分探索。为了弥补这一差距，我们引入了多目标跨语言元素感知 (MEA)，这是一种涵盖 24 种目标语言的新 MTXLS 基准测试。我们对各种 LLM 的端到端和管道方法进行了基准测试，结果表明 MTXLS 的性能仍然大大落后于英语单语摘要。为了更好地理解 LLM 中的 MTXLS，我们提出了一个分层分析框架来研究 LLM 内部如何执行 MTXLS。我们的分析表明，翻译和摘要行为在后面的层中共同出现，而不是作为明显分解的阶段出现。大多数与任务相关的处理发生在这些层内，并且错误也往往出现在相似的深度。受这些发现的启发，我们引入了一种推理时间激活引导方法，该方法利用英语摘要中的隐藏表示来指导 MTXLS 的生成。实验表明，我们的方法持续提高了跨目标语言的 MTXLS 质量。