变异无多样性：LLM驱动程序演化中的收敛动力学

当大语言模型反复修改一个程序时，它会探索新的形式还是回到相同的形式？我们通过在特定领域语言、不同的提示设计、模型族和随机复制中没有选择压力的情况下分析大语言模型驱动的突变链来研究这个问题。我们发现基于 LLM 的突变始终向程序空间中的受限吸引子区域收敛。趋同在结构水平上尤其严重：在 87% 的链中，超过 93% 的突变会重新审视以前见过的结构形式，其中大多数变异仅限于重复模板内的末端替换。周期分析揭示了短周期和自循环在过渡结构中占主导地位。收敛速度随提示措辞和模型选择的不同而变化，但这种现象在各种条件下都是稳健的。经典的 GP 子树变异算子没有表现出可比较的收敛性，这表明该效应是 LLM 变异管道所固有的。这些发现揭示了大语言模型驱动的程序演化的核心矛盾：支持语义感知程序转换的相同功能也带有结构同质性的系统性偏差，如果此类系统要维持开放式探索，就必须考虑到这一点。源代码可在 https://github.com/can-gurkan/lmca 获取。