论文

批准得太晚:LLM守护的自适应系统中的裁决过期

Approved Too Late: Verdict Staleness in LLM-Guarded Self-Adaptive Systems

智能体系统Agent 动作执行与治理

摘要

面向自适应系统(SAS)的大语言模型(LLM)守护栏可能发出在检查时正确但在执行时已过期的批准。这造成了执行阶段的检查时间与使用时间不一致(TOCTOU)风险。我们研究裁决新鲜度:守护栏裁决在使用时是否仍然有效。我们区分了回答不同问题的三个量:固定动作重放下的全部候选裁决变化率、在记录的闭环轨迹上以oracle标注的批准过期率、以及以裁判为条件的用时失效率。在五个可复现的SAS环境中,在共同的八步模拟器偏移重放下,全部候选裁决变化率介于5.3%至48.4%。我们提出Freshness-Bounded Shield(FBS),它根据每次批准的安全侧余量和近期特征波动性估计其有效时限,无需显式的被控对象动力学模型。在工件中记录的固定设置下,FBS在相同偏移下将oracle标注的批准过期率从3.4%–24.7%降至0–1.8%。对四个LLM裁判的单独审计发现,每个批准流都存在非零的裁判条件用时失效率。我们提出一个新鲜度契约:每次批准必须在检查时正确,并在使用时仍然有效。