论文
通过训练进行编译:将自然语言规范转化为局部神经函数
Compile by Training: Turning Natural-Language Specifications into Local Neural Functions
摘要
许多重复出现的文本函数很容易描述,但很难用规则来实现,而为每个输入调用大型远程模型会带来重复的成本、延迟和对提供者的依赖。我们提出了通过训练进行编译,它将自然语言规范转化为可重用的神经函数。在编译时,教师模型会生成特定于任务的示例,用于训练紧凑解释器的小型适配器。生成的函数无需教师即可运行,并且可以像普通软件一样进行存储、版本控制和编写。在 FuzzyBench-Hard(Program-as-Weights 快速编译器未产生精确匹配的子集)上,通过训练进行编译达到了 83.6% 的语义准确度。这种更高的精度伴随着更高的编译时间成本:对于快速编译器来说大约是一分钟而不是几秒钟。我们将编译器部署在公共交互式服务中,并在多站点网站助手、语言控制的 3D 化身和双向英语-克劳迪什翻译器中演示编译功能。