心理情感理论中文本嵌入情感线索的比较研究

文本编码器以其在自然语言处理中的实用性而闻名，因为它们能够有效地将输入压缩为密集向量，同时保留语义。这些模型已应用于情感计算，特别是帮助解决情感分析和情感识别任务。然而，目前尚不清楚现代文本编码器产生的潜在表征在多大程度上捕获了明确定义的情感心理学理论。在这项工作中，我们研究了 12 个最近发布的文本编码器的情感能力，通过探测它们生成的嵌入作为输入特征，使用词级和句子级数据解决三个已建立的情感框架中的回归和分类任务。此外，我们应用语义数据泄漏预防技术来提高单词级评估的稳健性。我们的主要发现表明，在字级评估时，与专有对应物相比，最新的指令感知开放权重编码器的潜在流形包含相同甚至更多的情感信息。相比之下，任务调整和专有编码器的嵌入在句子级情感分类上达到了最高分。此外，还提供了潜在表征及其编码情感线索的定性分析。