无监督跨语言引导的零样本依存解析

具有基于编码器架构的预训练语言模型 (PLM) 在各种语言理解任务的零样本跨语言传输方面表现出了令人印象深刻的能力。然而，由于其句法性质，将该技术应用于依存句法分析仍然是一个重大挑战。为了提高模型跨语言类型的通用性，我们提出了一种跨语言无监督引导方法来改进 PLM 中的句法知识。我们表明，我们的方法在低资源语言的零样本解析性能方面取得了显着的改进。对这些自举模型的分析揭示了识别句法结构的鲁棒性增强，无参数树探测测试中得分更高就证明了这一点。