ADKO：代理去中心化知识优化

我们提出了代理去中心化知识优化（ADKO），这是一个跨自治代理的协作黑盒优化框架，可实现样本效率、隐私保护、异构目标处理和通信效率。每个智能体都维护一个在本地数据上进行训练的私有高斯过程（GP）代理，并且仅通过知识词元（包含方向信号、优势分数和可选语言模型（LM）见解的紧凑、有损摘要）进行通信，而不共享原始数据或模型参数。 ADKO 统一了 GP-Upper Confidence Bound (GP-UCB)、并行贝叶斯优化、去中心化学习和 LM 引导发现。我们提供了对双重信息损失的第一个正式分析：通过基于互信息的保真度量化的词元压缩，以及分解为偏差和随机噪声的 LM 近似误差。我们的主要结果表明，累积遗憾分解为 GP 误差、LM 偏差、LM 噪声和压缩损失，并具有亚线性遗憾的充分必要条件。我们还提出保真度感知词元修剪，以在内存预算下保留高信息词元。神经架构搜索和科学发现的实验验证了该理论，并显示出相对于强大基线的持续改进。