论文
DuET:使用生成的代码和伪代码进行测试输出预测的双重执行
DuET: Dual Execution for Test Output Prediction with Generated Code and Pseudocode
摘要
这项工作解决了测试输出预测,这是测试用例生成中的一个关键挑战。为了提高 LLM 预测输出的可靠性,现有方法首先生成代码以进行地面预测。一种基本策略是直接执行生成的代码,但即使是很小的错误也可能导致失败。为了解决这个问题,我们引入了基于 LLM 的伪代码执行,它将预测基于更具容错能力的伪代码,并通过 LLM 推理来模拟执行。我们进一步提出了 DuET,一种双重执行框架,通过功能性多数投票将两种方法结合起来。我们的分析表明,这两种方法在克服直接执行的代码错误和伪代码推理的局限性方面是互补的。在 LiveCodeBench 上,DuET 实现了最先进的性能,将 Pass@1 提高了 13.6 个百分点。