基于自然语言的规范和验证

最近的前沿大语言模型（LLM）在识别大型、成熟的开源系统中的安全漏洞方面表现出了强大的性能。随着 LLM 生成的代码变得越来越普遍，一个自然的目标是首先防止此类模型产生易受攻击的实现。形式验证提供了实现这一目标的原则性途径，但现有的验证管道通常需要用严格的形式语言编写的规范。先前的工作已探索使用 LLM 来综合此类规范，但取得的成功有限。在本文中，我们研究了一种不同的方法：使用 LLM 生成规范并在规范以自然语言表达时组合地验证实现。我们的初步结果表明这种方法很有前途。