论文
按任务限定AI智能体权限的架构实证评估
Empirical Evaluation of Task-Based Permission Scoping Architecture for AI Agents
摘要
许多企业像配置员工主机一样配置智能体,在部署时固定包含角色所有潜在所需权限的凭据。对人类主体,按任务限制访问不可行,角色控制作了妥协;对智能体,这让当前任务不用的凭据也持续暴露,可被受入侵或失配智能体利用。Noyan(2026)称之为任务上下文不匹配,提出角色权限上限、任务权限分类器和策略禁令三源架构,预先消除暴露,并发布600条标注提示评估集。本文端到端实现安全门控并评估:微调RoBERTa-large与少样本Claude Haiku 4.5分类质量相当,宏F1为0.881对0.886,精确率0.897对0.842,严重度加权残余风险0.63对1.12。结果显示可信组件无需随被监督智能体规模增长,该控制方法有较大可扩展监督空间。我们提出攻击面消除指标:仅角色上限关闭27.9%的严重度加权攻击面,加入任务分类器关闭84.4%,显示任务粒度较角色粒度的安全优势。作者认为智能体任务以机器可读文本到达,使任务粒度访问控制可执行。研究将其确立为有测量依据、潜在可部署的智能体攻击面缩减机制。
