论文
RTL-Interact以EDA交互和正确性门控奖励训练RTL设计模型
RTL-Interact: Training EDA-Interactive Models for Multi-Task RTL Design
摘要
大型语言模型为寄存器传输级(RTL)设计提供了一条有前途的途径,但可靠的实现需要根据电子设计自动化(EDA)工具的反馈进行检查和修订。现有的 RTL 专用模型通常缺乏与此类 EDA 工具的学习交互,或者依赖于单独的生成和修复组件。我们引入了 RTL-Interact,这是一个多任务后训练框架,它训练单个 RTL 专用模型来生成 RTL、构建适合任务的 EDA 检查并使用工具反馈修改实现。该框架将自动构建的多任务示范数据与从思维链到工具集成推理的阶段性监督相结合。我们进一步引入了用于多任务强化学习的模式感知策略优化(PAPO)。 PAPO 通过正确性门控奖励增强了组相对策略优化,有利于简洁的成功检查,同时奖励有效的修改,并使用任务分组来保持跨目标的覆盖范围。在 CVDP 上,RTL-Interact-32B 实现了 48.7% 加权 Pass@1 和 68.9% Pass@5,超过了其教师模型 DeepSeek-V3.2,而 RTL-Interact-8B 实现了 44.9% 加权 Pass@1。此外,我们还表明 PAPO 可以将平均工具调用减少 63.8%,同时改进 Pass@1。这两个模型在 VerilogEval v2 和 RTLLM v2 上的性能也优于所有 RTL 专用基线,证明了我们方法的有效性。
