用于可控数据生成的机械电路识别

虽然数据合成的最新进展旨在构建高质量的数据集，但大多数生成管道仍然依赖于基于启发式提示的控制。这种黑盒范例对于单个样本如何与模型的底层学习动态交互提供了有限的洞察。为了弥补这一差距，我们提出了一个基于电路的框架，它将基于训练动态的数据评估与机械可解释性（MI）联系起来。具体来说，我们沿着三个互补的效用轴（可学习性、挑战和一致性）来概念化数据质量。首先，我们发现了因果控制这些效用信号的专门模型内部电路。然后，我们超越启发式提示转向机械控制，利用这些电路作为可控接口，主动引导生成以产生针对实用程序的数据。在此功能的基础上，我们引入了 SAMS（阶段感知机制调度），它根据模型不断变化的优化需求来调度电路引导数据。多项选择 QA 任务的实验表明，我们的方法产生的精确控制的数据比基于提示的基线具有更大的多样性，持续改进下游性能和校准。最终，这项工作为可解释的数据生成建立了一个有原则的白盒范例，开创了将 MI 不仅用作分析工具，而且用作实用、可控界面的先河。