平衡可持续性与性能：小规模LLM在Agentic人工智能系统中的作用

随着大语言模型成为Agentic人工智能系统的核心组成部分，其推理期间的能耗可能构成重大可持续性挑战。本研究调查在多智能体真实环境中部署较小规模语言模型能否在不损害响应速度和输出质量的情况下降低能耗。我们对不同规模的语言模型进行比较分析，以量化效率与性能之间的权衡。结果显示，较小的开源权重模型可以在保持任务质量的同时降低能耗。基于这些发现，我们提出可持续人工智能设计的实用指南，包括最优批大小配置和计算资源分配。这些洞见为开发可扩展、环境负责的人工智能系统提供了可操作的策略。