关于人工智能代理网络的可靠性：密度演化、停止集和架构优化

现代人工智能系统越来越多地不再通过单个模型调用来解决任务，而是通过多个不完美的代理一起工作：一些提出解决方案的各个部分，其他人验证它们，然后将结果组合起来。这些系统通常优于任何单一模型，但很少清楚它们为何成功或何时会失败。我们将这样的系统建模为稀疏图上的消息传递，稀疏图是低密度奇偶校验（LDPC）码的基础结构，并将编码理论的密度演化机制扩展到这种更丰富的设置。在我们的模型中，任务是一组耦合的二进制子声明，代理架构是一个稀疏的角色类型因子图，其检查节点是嘈杂的布尔验证器节点，每个节点计算它所涉及的子声明的本地布尔函数。三种不同的故障模式，全部建模为擦除（代理弃权，验证者不返回可用输出，以及两个代理之间丢失消息），随着代理交换集值消息而传播。检查代理通过专门针对 XOR、AND、OR、蕴涵和 Horn 约束的单个逻辑强制规则组合这些消息。这不仅仅是对 LDPC 理论的重新标记：验证器函数是非线性和值不对称的，并且三种故障模式不会简化为单个有效通道，因此它们需要新的阈值、有限长度和逆结果，而不是直接重用奇偶校验密度演化。我们证明了一个密度演化定理，该定理可以预测随机角色类型架构上未解决的子声明的渐近分数，并扩展到确定性的局部树状图序列。 XOR情况恢复了二进制擦除通道（BEC）上的经典LDPC递归； AND 情况暴露了正验证者证书和负验证者证书之间的不对称性。