衡量谷歌级规模AI服务交付的环境影响

核心观点

• 研究背景：随着生成式AI应用的普及，AI服务对环境的影响日益凸显，但缺乏在生产环境中测量AI服务环境指标的研究。
• 研究方法：提出并执行了一种全面的方法来测量大规模AI生产环境中AI推理工作负载的能量使用、碳排放和水消耗。
• 测量边界：该方法考虑了AI服务基础设施的完整堆栈，包括主动AI加速器功率、主机系统能量、空闲机器容量和数据中心能源开销。

关键数据

• Gemini Apps文本提示能耗：中位数Gemini Apps文本提示消耗0.24 Wh的能量，远低于许多公开估计。
• 环境影响：中位数Gemini Apps文本提示产生0.03 gCO2e的碳排放，消耗0.26 mL的水。
• 效率提升：过去一年中，中位数Gemini Apps文本提示的能量消耗减少了33倍，碳排放减少了44倍。

研究结论

• 现有方法的局限性：现有的、较窄的测量方法低估了AI服务的环境影响。
• 全面测量的必要性：全面测量AI服务环境指标对于准确比较模型和激励整个AI服务堆栈的效率提升至关重要。
• 效率提升措施：软件效率提升、清洁能源采购和优化的硬件设计是降低AI服务环境影响的的关键因素。