涌现的海市蜃楼：涌现的失调和重新调整确实是一种强有力的现象吗？

最近的工作报告了紧急错位（EM），即在狭窄的、特定领域的错位数据集上进行微调的语言模型突然获得了广泛的错位行为，同时有证据表明这种行为可以通过有限的重新调整来逆转。我们使用受控的 微调 循环系统地研究重复对齐和错位循环，同时跟踪行为表现以及整个训练过程中的 LoRA 表示。尽管我们重现了 EM，但我们发现未对准和重新对准都对表面数据集特征高度敏感，在控制响应长度差异后，明显的快速重新对准很大程度上消失了。我们进一步发现，之前报道的机械特征，包括 LoRA 空间中的代表性相变，并不总是与训练过程中的行为失调相关。我们的结果表明，当前关于 EM 的证据不如之前声称的那样稳健，并强调需要仔细控制这些表面级数据集伪影的评估协议，以识别 EM 现象的稳健性。