论文
提示 GPT-5 有关 Scrum 认证问题:实证准确性研究
Prompting GPT-5 on Scrum Certification Questions: An Empirical Accuracy Study
摘要
大语言模型 (LLM) 越来越多地用于敏捷软件开发中的文档、指导和训练。当从业者采用这些工具来准备专业 Scrum Master (PSM) 等认证时,一个关键问题是 LLM 是否能够可靠地推理 Scrum,这是《Scrum 指南》(2020) 中描述的一个具有规范、定义明确的规则的框架。本文研究了不同的提示技术如何影响 LLM 对 Scrum 认证类型问题的回答的事实准确性。 GPT-5 使用三种技术回答了 993 个经过验证的 PSM 对齐问题的数据集:零样本、思想链和源引用。所有提示均达到了 85\% 以上的认证级准确度,其中基于引文的变体表现最佳 (89.1\%),错误率最低。正确答案集中在明确定义的主题中,例如\emph{完成的定义}、事件和产品待办事项管理以及单选题,而多选问题和更具解释性的领域,例如 Scrum 团队和产品价值,则不太稳定。在至少一项提示失败的问题中 (16.2\%),错误集中在与 Scrum 指南不一致 (28\%)、超出其范围的内容 (34\%) 以及过时或有偏见的解释 (38\%)。总体而言,提示技术产生了适度但一致的改进,特别是在减少误解和版本漂移方面,支持在敏捷学习和认证准备中更可靠地使用 LLM。