论文

大语言模型自动简历筛选中的提示注入:单注入与多注入设定

Prompt Injection in Automated Résumé Screening with Large Language Models: Single and Multi-Injection Settings

模型评测安全与风险评测

摘要

大语言模型(LLM)日益被用于筛选与排序求职者——为候选人策略性操纵算法招聘系统创造激励。我们研究自动简历筛选中的提示注入——定义为不引入新资质、但设计为影响LLM评估的细微自我推介文本。经受控实验——我们表明:当简历质量同质且少数候选人注入时——提示注入可靠改进申请人排名。但其有效性随更多候选人注入迅速消退——当操纵普遍化时崩溃。当候选人质量异质时——提示注入平均效果较弱——但偶尔可使低质量候选人排在高质量者之前——引发公平性关切。总体而言——当操纵罕见且候选人质量差异小时——基于LLM的筛选最脆弱。代码与资源公开于:https://github.com/preetb1199/Prompt_Injection_ACL26。

大语言模型自动简历筛选中的提示注入:单注入与多注入设定:论文配图
图 1:均质池,多次进样。随着 55 年均质库中(a)描述性注入和(b)指导性注入中注入简历数量的增加,排名增益和成功率。在这两种模型和两种注入中,注入在稀有时最有效,并且随着更多候选者注入而减弱,表明竞争饱和。