简单的转换在文本嵌入模型中的翻译效果有多远？

我们研究简单的转换是否可以跨异构文本嵌入模型转换表示。了解独立训练的模型如何组织语义信息是人工智能与人工智能之间潜在通信的推动者，而无需解码为人类可读的文本。我们专注于线性映射等轻量级翻译器，在超越简化基准的现实文本环境中测试潜在普遍性的文献假设。在架构、池化策略和训练目标不同的九个嵌入模型中，我们使用 CKA、下游传输、保真度和检索来评估兼容性。简单的翻译器可以恢复有意义的共享结构并支持某些兼容对的传输，但对于其他兼容对则严重失败。兼容性共同取决于架构、训练目标、池化和数据分布。总的来说，结果表明异构嵌入空间并不像一些文献中经常建议的那样通过简单映射来普遍相关。