论文
带外元数据对安全自主智能体的重要性:Redpanda智能体数据平面
The Importance of Out-of-Band Metadata for Safe Autonomous Agents: The Redpanda Agentic Data Plane
摘要
AI智能体日益被期望像数字员工一样运作:访问企业数据、做出决策并自主采取行动。但智能体同时比人类更不可预测——容易出现幻觉、误解和对抗性操纵——又在技术上更强大:凭借深入的系统知识和高吞吐接口,能以机器速度造成级联损害。这种组合使得依赖智能体忠实解释或传递安全关键元数据(如访问策略、数据分级和行为约束)变得不安全。我们提出Redpanda智能体数据平面(Agentic Data Plane,ADP),一种围绕带外元数据通道构建的架构:这类基础设施通路以确定性的方式承载安全上下文、策略信号和审计轨迹,完全位于智能体的读写路径之外,并横跨异构基础设施。这些通道在智能体生命周期的每个阶段执行治理——入口处限定数据访问范围,执行期间约束行为,出口处捕获防篡改的完整记录。我们通过一个多智能体投资组合再平衡系统演示ADP:自主智能体监控市场、做出交易决策并在隔离的客户账户间执行订单——按客户的数据范围限定、交易审批阈值和防篡改审计轨迹全部由智能体既看不见也无法绕过的带外通道强制执行。