论文
企业AI智能体的动态能力范围划定:一个合成数据集与三源权限架构
Dynamic Capability Scoping for Enterprise AI Agents: A Synthetic Dataset and Three-Source Permission Architecture
摘要
企业 AI 智能体通常在配置时被授予静态凭证集,持有其角色在所执行的每个任务中可能需要的所有工具。这种持续存在的过度授权扩大了攻击面。我们主张,能力范围划定必须遵循动态最小权限原则,并应作为事前防御机制而非事后检测机制来对待。智能体上下文中不存在的凭证无法被滥用,无论其推理或规避手段多么高明。我们概述了实例化该原则的三源架构:基于角色的权限上限、任务上下文分类器和策略导出的组合禁令,构成针对 LLM 智能体失准与滥用情形的分层主动防御。该架构同时支持强制执行与仅观察两种部署模式;后者记录与任务上下文不一致的智能体权限请求,产生可用于失准研究的行为信号。作为评估该架构的第一步,我们贡献了一个包含 600 条企业任务提示的合成数据集,其基于多部门公司政策,并在 15 项权限的工具化分类体系上标注了最低所需权限,可直接映射到可部署凭证或可执行护栏。该数据集通过两遍流水线构建,将提示生成与权限标注分离以避免循环性,并以 60 条记录/688 个决策的人工审核样本进行验证(审核前 Cohen's $κ= 0.917$,审核后 $κ= 0.967$)。数据集与策略之间的迭代将权限上限违规从 46 次降至 3 次,降幅达 93%。这表明当二者协同开发时,合成提示生成可以推动策略精化。数据集、环境规范与生成流水线均已发布,以支持动态范围划定机制的评估。