MAGIQ：具有可证明安全性的后量子多代理人工智能治理系统

我们的计算生态系统正在被两个新兴范例所改变：代理人工智能系统的增加部署和量子计算的进步。对于代理人工智能系统，最关键的问题之一是创建安全的治理架构，以确保代理遵循其所有者的通信和交互策略，并对他们与其他代理交换的消息负责。对于量子计算，必须改造现有系统，设计新的密码机制，以确保长期安全性和抗量子性。事实上，NIST 建议从 2030 年开始弃用标准公钥加密算法，包括 RSA、Diffie-Hellman (DH) 和椭圆曲线结构 (ECC)，并在 2035 年之后禁止使用。在本文中，我们提出了 MAGIQ，这是一种在多智能体人工智能系统中进行策略定义和执行的框架，使用新颖、高效、抗量子的加密协议，并具有经过验证的安全保证。 MAGIQ (i) 允许用户为代理到代理会话和任务定义丰富的通信和访问控制策略预算，包括一对多代理会话的全局预算； (ii) 使用后量子密码原语执行此类政策； (iii) 支持基于会话的代理对代理和一对多代理会话策略的执行； (iv) 通过消息归属向用户提供代理的责任。我们使用通用可组合性（UC）框架对系统的正确性和安全性进行正式建模和证明。我们评估了我们框架的计算和通信开销，并将其与最先进的代理 AI 框架 SAGA 进行比较。 MAGIQ 是迈向代理人工智能系统后量子安全解决方案的第一步。