论文

探究《LLM》中的文化意识:跨文化审美文体学案例研究

Probing Cultural Awareness in LLMs: A Case Study of Cross-Culture Aesthetic Stylistics

模型评测基准与评测资源

摘要

大语言模型 (LLM) 越来越多地应用于不同的文化背景,但它们掌握审美风格的能力,即战略性地使用语言来引起文化共鸣的能力,仍然未被充分探索。我们策划了C4STYLI,这是香港和中国大陆高度风格化的电影片名和广告口号翻译的基准,从行为识别和生产能力的角度评估LLM。广泛的评估表明,LLM 在文体识别方面与人类不同,并且这种识别能力在不同的文本域中存在差异。此外,LLM 中的文体识别和生成性能并不一致。为了进一步检查 LLM 是否真正捕获风格识别中的风格信息,我们使用逻辑回归探针进行结构消融。我们发现,在香港环境中,LLM 中的文体识别主要依赖于表面语言信息而不是文体结构。这表明对香港特有的风格结构的敏感性有限。