论文
使用 大语言模型 进行类型特征预测:一种上下文学习方法
Typological Feature Prediction with Large Language Models: An In-Context Learning Approach
摘要
类型学特征广泛应用于多语言 NLP 中,此类特征的预测具有下游实用性。然而,现有的预测缺失值的方法缺乏可解释的预测理由,而它们在资源级别和特征类型上的性能仍未得到充分探索。鉴于 LLM 在元语言推理和提供基本原理方面的能力,我们通过使用来自 URIEL+ 和 Glottolog 的语言数据的上下文学习方法来研究 LLM 在类型特征预测中的表现。我们发现零样本提示是不够的,但是当给出系统发育和地理邻居证据时,LLM 大大优于所有基线,而不会对低资源语言造成不利。我们进一步发现大多数 LLM 基本原理与所提供的证据一致,为可解释的类型特征预测迈出了一步。