差异背后：诊断和缓解代码级自主研究循环中的算法模式崩溃

代码级自主研究循环（ARL）最近已成为自动化机器学习研究的具体研究对象。在此类循环中，LLM 代理建议对实验训练管道进行修改，执行修改后的管道，并保留改进可验证的循环内指标的编辑。尽管可执行指标似乎提供了可靠的进展信号，但仍不清楚重复的指标驱动代码编辑是否会带来真正的改进，并在循环之外推广。我们对这个问题进行了系统的诊断。在各种实验设置中，我们确定了一种稳健的故障模式，我们称之为 \textbf{算法模式崩溃}。在这种情况下，表面级别的编辑多样性保持稳定，但语义和机制级别的多样性崩溃：代理继续编辑不同的代码行，同时反复提出相同类型的算法更改。这种崩溃伴随着环路指标增益与独立评估所测得的增益之间的差距不断扩大。然后，我们提出了多样性感知提案采样（\textsc{DAPS}），这是一种结合了类别覆盖重新加权、持久编辑内存和验证门的轻量级缓解措施。在将循环内度量、门读取的审计度量和循环组件无法访问的盲度量分开的三层协议下，\textsc{DAPS} 将编辑的语义簇衰减减少了 $69.1\%$，并将相对 忠实性 提高了 $83.7\%$ 盲和 $81.6\%$ 审计，同时保留了循环内优化速度。我们在 Github \href{https://github.com/BokwaiHo/arl-mode-collapse}{repository} 中提供了代码。