论文
轻量级文体一致性分析:对 LLM 生成的文本内容进行稳健检测以进行多媒体审核
Lightweight Stylistic Consistency Profiling: Robust Detection of LLM-Generated Textual Content for Multimedia Moderation
摘要
大语言模型 (LLM) 在内容创建中的日益普及,使得区分人类编写的文本内容与 LLM 生成的对应内容成为多媒体审核的关键任务。现有的检测器通常依赖于统计线索或特定于模型的启发式方法,使它们容易受到释义和对抗性操作的影响,从而限制了它们的鲁棒性和可解释性。在这项工作中,我们提出了 LiSCP,一种新颖的轻量级风格一致性分析方法,用于稳健检测 LLM 生成的文本内容,重点关注对抗性操作下的特征稳定性。我们的方法构建了一个一致性配置文件,将离散的文体特征与连续的语义信号相结合,利用多模态引导的释义文本变体的文体稳定性。跨越现实世界多媒体新闻和电影数据集以及传统文本域的实验表明,LiSCP 在域内检测方面实现了卓越的性能,并且在跨域设置中比现有方法高出高达 11.79%。此外,它在对抗性场景下表现出显着的鲁棒性,包括对抗性攻击和混合人类人工智能设置。