参数化知识的跨语言探索

大语言模型 中的参数知识在不同语言之间的访问并不相同。因此，标准推理技术常常难以揭示局部事实，导致跨语言知识迁移和一致性失败。在这项工作中，我们通过探索跨语言提示策略来研究获取隐藏事实知识的技术。我们确定了跨语言探索的四个固有维度，这些维度直接控制参数化知识检索，并在涵盖 17 种不同类型语言的多语言事实基准上对其进行评估。我们的结果表明，跨语言探索显着改善了知识转移和事实回忆，代表了比母语缩放更有效的计算帕累托前沿。此外，我们观察到跨语言一致性的相应改善，超出了仅用准确性提高所能解释的程度。总的来说，我们的工作将多语言即时探索建立为解锁潜在参数知识的高效推理时间策略。