Bash-Commenter：利用语法感知偏好优化来增强 大语言模型 用于 Bash 代码注释生成

由于 Bash 的语法自由和复杂的命令结构，Bash 脚本的理解具有挑战性。尽管 Bash 脚本在系统管理中发挥着至关重要的作用，但它通常缺乏足够的注释，从而影响了可读性和可维护性。现有的自动评论生成方法面临两个主要挑战：（1）有限的训练数据集不足以代表现实世界的 Bash 使用模式； (2) 大语言模型 (LLM) 对 Bash 特定概念的理解不够。为了解决这些问题，我们提出了 Bash-Commenter，一种基于 LLaMA-3.1-8B 的高级评论生成方法。首先，我们构建了一个复杂的、带有高质量注释的多行 Bash 脚本的综合数据集。其次，我们对大规模 Bash 数据进行连续 预训练 (CPT)，然后进行监督 微调 (SFT)，加强模型对 Bash 语法和语义的基础知识。最后，我们介绍语法感知偏好优化（SAPO），它通过将原子操作应用于脚本的抽象语法树（AST）来构建偏好对，创建最小的正确和轻微错误脚本对，以进行细粒度语义学习。我们的方法优于最先进的基线，对于 1,064 个单行命令实现了 33.40% BLEU-4、58.26% METEOR 和 57.03% ROUGE-L，对于 1,046 个多行脚本实现了 22.15% BLEU-4、43.89% METEOR 和 32.80% ROUGE-L。人类和 LLM 评估进一步确认了评论质量的正确性、完整性和自然性。