论文

随机词汇微积分的基础:概率单纯形上的语义下降和随机动力学

Foundations of Stochastic Lexical Calculus: Semantic Descent and Random Dynamics on Probability Simplices

模型评测评测方法与指标

摘要

大型语言模型会产生与提示相关的单词概率,而科学系统需要有意义的状态的不确定性,这些不确定性可以随着证据的到来而更新。我们开发了一个可观察的框架,用于确定语言派生概率何时支持这种顺序状态表示。理论上,我们定义了上下文语言的类型化可测量转换,构造了最小闭合表示,并给出了语义更新唯一存在的充要条件。我们限制了不可约非闭包和累积误差,并在平均收缩下证明了概率单纯形上外部随机递归的存在性、唯一性和稳定性。这些结果定义了随机词汇演算,而不将内部演算归因于语言模型。根据经验,冷冻实验测试了可观察到的影响。原始提示条件概率未通过预先指定的不变性门;在特定于提示的校准之后,常见的三态表示通过稳定性门并覆盖 30 个未触及的八步路径中的 28 个,或标称水平 0.90 时的 0.933。因此,语言概率仅在声明的操作域内经过验证的封闭性、稳定性和覆盖范围的情况下支持随机状态。