论文
EcoThink:面向可持续且普惠智能体的绿色自适应推理框架
EcoThink: A Green Adaptive Inference Framework for Sustainable and Accessible Agents
摘要
随着Web从静态检索转向生成式交互,大语言模型(LLM)不断攀升的环境足迹构成了严峻的可持续性挑战。当前范式不加区分地将思维链(CoT)等计算密集型策略应用于每天数十亿次查询,造成LLM过度思考——这种冗余放大了碳排放和使用门槛。这种低效阻碍了资源受限地区公平获取AI,直接损害联合国可持续发展目标13(气候行动)和10(减少不平等)。为解决这一问题,我们提出EcoThink,一个能耗感知的自适应推理框架,旨在调和高性能AI智能与环境责任。EcoThink采用轻量级的基于蒸馏的路由器动态评估查询复杂度,对事实型检索跳过不必要的推理,而将深度计算留给复杂逻辑。在9个多样基准上的大量评估表明,EcoThink平均降低推理能耗40.4%(网页知识检索最高达81.9%),且无统计显著的性能损失。通过减少算法浪费,EcoThink为构建可持续、包容且节能的生成式AI智能体提供了可扩展的路径。
