论文
AdverMCTS:通过对抗性蒙特卡罗树搜索对抗代码生成中的伪正确性
AdverMCTS: Combating Pseudo-Correctness in Code Generation via Adversarial Monte Carlo Tree Search
摘要
大语言模型 (LLM) 的最新进展已成功采用基于搜索的策略来增强代码生成。然而,现有的方法通常依赖于静态、稀疏的公共测试用例进行验证,从而导致伪正确性——解决方案过度拟合可见的公共测试,但无法推广到隐藏的测试用例。我们认为,针对固定的弱环境进行优化本质上限制了鲁棒性。为了解决这个问题,我们提出了 AdverMCTS,一种新颖的对抗性蒙特卡罗树搜索框架,通过将代码搜索与主动漏洞发现相结合来对抗伪正确性。 AdverMCTS 将生成过程制定为求解器代理(合成候选代码)和攻击者代理之间的极小极大型游戏,攻击者代理不断发展以生成利用当前代码池中逻辑分歧的目标角落测试用例。这些发现的测试形成了一个动态的、逐渐充满敌意的过滤器,对脆弱的推理进行惩罚。大量实验表明,AdverMCTS 的性能显着优于最先进的基线,有效降低了误报率,并迫使模型泛化超出初始限制。这项工作的资源可在 https://anonymous.4open.science/r/AdverMCTS_open-A255 获取。