情绪刺激和强度在塑造 大语言模型 行为中的作用

情感提示——在提示工程中使用特定的情感用语——在提高 大语言模型 (LLM) 的表现、诚实性和责任感方面显示出越来越大的希望。然而，这些研究仅限于单一类型的积极情绪刺激，并且在分析中没有考虑不同程度的情绪强度。在本文中，我们探讨了四种不同情绪（快乐、鼓励、愤怒和不安全感）在情绪提示中的影响，并评估它们的准确性、阿谀奉承和毒性。我们使用 GPT-4o mini 开发了一个提示生成管道，以创建一套 LLM 和人类生成的提示，在四种情绪中具有不同的强度。然后，我们编译一个“参考数据集”，其中包含人类和模型标签对齐的提示。我们对 LLM 行为的实证评估表明，积极的情绪刺激会带来更准确、毒性更小的结果，但也会增加阿谀奉承的行为。