TBP-mHC：通过传输多面体实现流形约束超连接的完整表达

超连接（HC）通过跨多个残差流引入可学习的混合来改进残差网络，但无约束的混合会导致训练不稳定。流形约束超连接 (mHC) 通过 Sinkhorn 归一化强制执行近似双随机性来解决此问题，而 mHC-lite 通过置换矩阵的凸组合以阶乘复杂性为代价确保精确约束。 KromHC 使用克罗内克积参数化降低了此成本，但将混合矩阵限制为 Birkhoff 多面体的结构化子流形。我们提出了运输 Birkhoff 多面体 (TBP) 参数化及其递归变体 (RTBP)，它们精确地构造了具有 $(n-1)^2$ 自由度的双随机混合矩阵。我们的方法避免了迭代归一化和组合爆炸，同时保留了伯克霍夫多胞体的完整表现力。语言模型 预训练' 的实证结果展示了具有竞争力的性能以及改进的稳定性和可扩展性。