论文

SHAKTI与TRIDENT以印地语数据和往返翻译检测AI文本

TRIDENT and SHAKTI: A Framework and Benchmark for Hindi AI-Text Detection

模型评测应用与实践基准与评测资源安全与风险评测机器翻译

摘要

随着大型语言模型 (LLMs) 变得越来越多语言,区分人类编写的文本和人工智能生成的文本对于维护信息完整性至关重要。然而,研究仍然以英语为中心,对于印地语等资源匮乏的语言的基准有限。为了解决这一差距,我们引入了 SHAKTI,这是一个大规模的印地语基准,涵盖四种文体、八个 LLM 家族、多种提示策略和对抗性转换。我们通过人工标注来评估其质量,并分析人类和人工智能生成的文本之间的语言、语法和基于情感的差异。基于这些发现,我们提出了 TRIDENT,一种基于往返翻译的检测框架,具有三种变体:TRIDENT-S(静态阈值)、TRIDENT-D(动态阈值)和 TRIDENT-C(使用多距离 RTT 特征的逻辑回归)。 TRIDENT 利用原始文本和往返翻译文本之间的语义一致性来识别人工智能生成的内容。大量实验表明 TRIDENT 优于传统和监督基线,其中 TRIDENT-S 实现了最佳整体性能。跨七种语言、对抗性设置和未见过的LLMs 的进一步评估证明了其多语言适用性和鲁棒性,同时强调了对翻译模型的敏感性。

SHAKTI与TRIDENT以印地语数据和往返翻译检测AI文本:论文配图
图 2:SHAKTI 数据集构建流程概述。人类编写的印地语文本从新闻、维基百科、问答 (QA) 和短文四种类型中收集,并用于通过八个 LLMs 和多个特定于类型的提示来指导文本生成。随后将五种对抗性转换应用于 LLM 生成的文本,以构建一个基准,其中包含人工编写的、未受干扰的 LLM 生成的和对抗性转换的样本。