评估使用 SLM 和快速工程代码生成的环境影响

从云托管的 大语言模型 (LLM) 到本地部署的开源小语言模型 (SLM) 的转变使人工智能辅助编码变得民主化；然而，它也分散了人工智能的环境足迹。虽然诸如 Chain-of-Thought 和 ReAct 之类的提示策略可以作为在不修改模型参数的情况下优化代码生成的外部机制，但它们对能源消耗和碳排放的影响在很大程度上对开发人员来说仍然是不可见的。本文提出了第一个系统的实证研究，调查基于 SLM 的代码生成中不同的即时工程策略如何影响代码生成的准确性以及可持续性因素。我们使用 HumanEval+ 和 MBPP+ 基准评估了 11 个开源模型（参数范围从 1B 到 34B）的六种突出的提示策略。通过测量 Pass@1 精度以及能源 (kWh)、碳排放 (kgCO2eq) 和推理延迟，我们发现可持续性通常与精度脱钩，从而在不牺牲性能的情况下实现显着的环境优化。我们的研究结果表明，思想链作为一种更简单的提示技术，可以在推理能力和能源效率之间提供近乎最佳的平衡。相反，多重抽样策略往往会为边际收益带来不成比例的成本。最后，我们将电网碳强度确定为部署时排放的主导因素，强调从业者需要考虑区域能源概况。这项工作为“绿色”提示工程提供了定量基础，使开发人员能够将高性能代码生成与生态责任结合起来。