论文

Chronos 漏洞:智能体AI中时间持久性和基于记忆的欺骗的分类

The Chronos Vulnerability: A Taxonomy of Temporal Persistence and Memory-Based Deception in Agentic AI

模型评测安全与风险评测

摘要

从人工智能中的无状态生成模型到有状态的自主代理的转变代表了一种架构演变,它在提供长期规划和企业工作流程自动化的能力的同时,也代表了一种新形式的安全威胁的引入,即 Chronos 漏洞。 Chronos 漏洞代表了基于内存的攻击的威胁,包括内存注入攻击 (MINJA) 和睡眠代理,其中自主代理的内部信念系统受到损害,有效地将攻击向量与最终灾难性事件脱钩。这项研究在工作流世界基准的背景下正式化了基于持久性的攻击和动态失明威胁的威胁模型,表明传统的端点内容过滤器不足以满足当前的有状态架构。因此,本研究综合了纵深防御格局,对新兴框架进行了分类,例如诊断轨迹护栏 (AgentDoG)、形式时间验证 (Agent-C)、免疫内存共识 (A-MemGuard) 以及通过基于 GPU 的可信执行环境 (TEE) 和零信任内存架构实现的硬件锚定信任。