论文
确定性视界:作为可信AI系统设计规范的不可行性结果
The Deterministic Horizon: Impossibility Results as Design Specifications for Trustworthy AI Systems
摘要
大语言模型如今能编写软件、起草法律文书、撰写临床记录,但从图灵、阿罗到无免费午餐定理的根本性极限始终塑造着计算能力的边界。本论文将这些不可行性结果从奇闻轶事转变为设计规则。其旗舰结果证明了仅由架构决定的准确率上限:超过某个临界推理深度后,任何训练都无法撼动它,无论适配器秩、样本量或损失函数如何。这一确定性视界可在部署前由层数与嵌入宽度计算得出,在十二种transformer架构上测得介于19到31之间,而在最优长度轨迹上微调只能挽回不到4个百分点。其机制是残差流的容量不变量,信息论转换给出越过视界后超指数级的准确率衰减。针对模幂运算、相对于常数深度素数模电路的无条件电路复杂度下界补充了这一结果。同一论证在多个子领域得到重述:任何误设模型下的偏好学习在样本复杂度上发生不连续跳变;多阶段检索流水线需要至少与阶段数相同的独立指标;对于估值依赖提示的智能体,标准真实拍卖会失效;神经推理的零知识验证在每次非线性激活上付出实测110到190倍的开销。它们共同构成一份包含十六条规范的目录,每条都配对了一个可计算的边界、一个量化的违背代价与一个构造性设计规则:其中两个组合已被证明,一个配对是诚实的障碍,四个仍悬而未决。不可行性规范方法论被作为可信AI可能需要的生成性研究纲领提出。AI的每一条根本极限同时也是一条设计规则。