面向大量并发Agent沙箱的内存压缩

高扇出智能体工作负载会造成日益严重的内存瓶颈，因为单个任务可能会产生许多并发沙箱会话。然而，这些沙箱远非独立：它们源自共享模板并执行相关轨迹，暴露出大量的模板相关和跨沙箱内存冗余。传统的内存压缩在三个基本维度上与此设置不太匹配：如何压缩，因为它们无法利用不同沙箱页面之间的相似性；压缩什么，因为它们通过保守的页面选择来控制页面错误开销；以及何时压缩，因为压缩要么由内存压力触发，要么在不了解智能体执行阶段的情况下执行。我们推出 AgentZip，这是第一个专为 AI 智能体沙箱设计的内存压缩系统。 AgentZip 引入了利用模板相关冗余和跨沙箱冗余的压缩机制。它将压缩范围扩大到具有有利表示的任何页面，并将开销控制从压缩时页面选择转移到恢复时预取。它进一步将昂贵的压缩与 LLM 等待期结合起来，以避免干扰前台工具的执行。在 LLM 训练和推理工作负载中，AgentZip 将沙箱拥有的内存减少了 8.7 倍，而 Linux 配置的内存减少了 2.1 倍。恢复预取和智能体执行感知调度可将激进压缩的速度从高达 3.1 倍降低到 1.40 倍，同时保留几乎所有的内存节省优势。