论文

LLM-通过问题信息生成增强的提交消息:一项探索性研究

LLM-Enhanced Commit Message Generation via Issue Information: An Exploratory Study

上下文与知识上下文工程

摘要

提交消息可帮助开发人员了解代码更改、支持协作并改进长期维护。然而,仅使用问题信息作为基于 LLM 的 CMG 的外部上下文尚未得到系统研究。我们通过将代码差异与问题信息结合作为 LLM 输入,提出了用于提交消息生成 (ISAC) 的 ISsue 增强框架。为了支持评估,我们构建了 ApacheCM-Issue,这是一个基于 ApacheCM 构建的提交问题对齐数据集,通过将提交与来自 GitHub 和 Apache Jira 的问题链接起来。使用来自 Scala、Java 和 C++ 项目的示例,我们使用两种代表性的 LLM、GPT-5.5 和 DeepSeek-V4-Flash 在不同的推理配置中评估四种输入配置。结果表明,合并问题信息在所有评估的模型配置和指标中持续改进基于 LLM 的 CMG,其中观察到 CIDEr 的增益最大。合并类似的历史提交可进一步提高自动指标分数,而用结构化问题摘要替换完整问题信息则会降低自动指标分数。在实验数据集的所有五个自动指标上,ISAC 的性能也优于四个复制的最先进 (SOTA) CMG 基线。人工评估进一步表明,结构化问题摘要可以提高感知完整性,尽管替换原始问题信息可能会牺牲上下文细节并导致自动指标的结果更差。