当较低权限就足够时：调查 LLM 代理中特权过高的工具选择

随着 LLM 代理越来越多地自主选择工具，他们在具有不同权限的工具中的选择变得与安全相关。然而，之前的工具选择研究侧重于与安全无关的元数据偏好，而对特权敏感的选择没有得到充分探索。为了解决这一差距，我们研究了特权过高的工具选择，其中代理选择或升级到更高特权的工具，尽管有足够的低特权替代方案。我们引入 ToolPrivBench 来评估代理是否在有足够的低权限替代品的情况下选择较高权限的工具，测量初始选择和短暂工具故障后的升级。在八个领域和五种经常性风险模式中，我们发现主流 LLM 代理中过度特权的工具选择很常见，并且因瞬时故障而进一步放大。我们进一步发现，一般安全调整并不能可靠地转移到最小特权工具选择，而提示级控制仅在瞬态故障下提供有限的缓解。因此，我们引入了一种特权感知的 后训练 防御，它教导代理优先选择足够的低特权工具，并仅在必要时升级。我们的缓解实验表明，这种防御大大减少了不必要的高权限工具的使用，同时保留了一般功能。