论文
LangSelect:用于 LLM 代码生成的成本感知目标语言路由
LangSelect: Cost-Aware Target-Language Routing for LLM Code Generation
摘要
LLM 代码生成系统通常在解码之前选择目标编程语言,并将该选择视为固定的。我们表明,对于语言灵活的编程任务(其中几种目标语言是可以接受的并且可以通过相同的测试进行检查的任务),这种选择是一个可衡量的成本杠杆:同一任务的经过验证的实现在生成的词元长度方面可能存在很大差异。我们引入了 LangSelect,一个验证感知路由器,它在生成之前选择目标语言,并在第一次尝试失败时回退。为了将离线路由机会与端到端行为分开,我们评估了经过验证的解决方案重播(它在已经接受的语料库解决方案中进行选择)和实时 GPT-5 生成(它对每次生成尝试(包括失败和回退)进行收费)。在 MultiLang-Bench(一个包含 3,000 个任务、8 种语言的经过验证的语料库)上,重播显示出巨大的语言路由空间。在对 450 个保留任务的实时评估中,训练分割域启发式基线将Harness代理词元(包括包装器和入口点开销)减少了 50.3%,回退后通过率为 92.9%,而学习的 CodeBERT+ 元数据选择器在回退后达到最高通过率 93.8%,词元增加了 3.7%。这些结果表明,输出语言路由可以为单元测试可验证的代码生成定义实际的成本正确性边界。