论文
经有限规则修订验证自适应智能体控制器
Verification of Adaptive Agentic Controllers through Finite Rule Revision
摘要
工业智能体AI系统日益呈现原型能力与生产部署之间的鸿沟。特别地,自适应智能体可能产出看似合理的输出,同时在非确定性、保密约束、有限上下文与弱可观测性下难以验证。本文为以有限符号规则、显式诊断谓词、解释日志与留出重评估表示的自适应智能体控制器形式化一个有界验证协议。核心研究问题是:当自适应控制器经有限规则、显式诊断谓词、解释日志与留出重评估表示时,哪些类别的控制器失败可以被检测、局部修复或拒绝,而不依赖无限制的人机回路判断?所提框架把控制器当作有限可修订对象:诊断失败映射到预定义的规则级编辑——增规则、删规则与优先级修订;修复后的控制器在留出仿真种子或克隆初始状态上重评估。在风格化的资金受限库存控制基准上的实验显示三种结果:资源诱发的失败经单条规则编辑仍不可修复;部分修复因违反阈值或护栏被拒绝;以及一次局部单步修复——通过删除平滑规则解决订单波动失败。贡献是方法论的:提供一个仿真兼容的流程,检验特定控制器级失败能否在受控条件下变得可观察、可解释、局部可修订并可实证重测。