2024财年英伟达可持续性报告

目录 关于本报告 准备影响每一个行业，并通过在各个领域解锁效率和资源配置优化，开启一个生产力与可持续性的新时代。第四次工业革命已经启动，全世界都在拥抱NVIDIA的计算机平台。 亲爱的NVIDIA大家庭、合作伙伴和支持者们， 通过使用并行工作的NVIDIA GPU来加速工作负载，我们指数级增加了吞吐量，同时降低了完成任务所需的总能量消耗以及因而产生的总拥有成本。节能效果显著。 我们正处于历史的关键时刻。NVIDIA在加速计算和生成式AI领域的科技飞跃是新一轮工业革命的核心，通过增强计算能力并显著提高可持续性，从根本上重塑了各个行业。 加速计算将原本需要数万台通用服务器的任务负荷，压缩进极为密集的形态，节约了10倍至20倍的成本和能源。每台GPU服务器虽然成本更高，消耗的电力也更多，但所需服务器的数量降低了一个数量级。因此，当我们审视实际完成的任务或吞吐量时，能够节约大量的金钱和能源。这正是为何在CPU扩展速度减缓的当下，我们不得不转向加速计算——我们不能再延续传统的方式扩展规模。加速计算至关重要。 我们的推动这些变革的决心坚定不移。我们在人工智能和加速计算方面的创新设定了新的环境责任标准，同时为实现更绿色、更可持续的未来提供动力。 生成式AI的时代已经到来，这是对我们多年前构想的加速计算架构的证明。我们的突破显著降低了计算成本，催生了一种新的软件开发方法——深度学习。这种革命性的方法允许算法通过在庞大的数据集中发现模式和关系来学习数据的结构和意义，从而编写出任何人类都无法编写的软件。 NVIDIA加速计算节省能源 计算机行业几十年来推动发展的CPU规模扩展时代正在消退，随着计算需求的激增。软件先驱们转向NVIDIA开创的加速计算作为前进的道路。加速计算是可持续且高效地满足巨大计算能力需求的方法。 从蒸汽动力机器到电力，再到软件的生产，每一次前三个工业革命都创造出一些本质上全新的东西，从而改变了每个行业和社会。我们如今正站在做出之前无法想象之物的边缘——数字智能。生成式AI革命正在…… NVIDIA加速计算是可持续计算。 NVIDIA已经为世界上最节能的超级计算机提供动力，这些超级计算机被各个科学领域的科学家使用，以解开宇宙的秘密。 NVIDIA加速计算已经达到一个转折点。NVIDIA正在使全球万亿级数据中心产业现代化。 正确的镜头评估AI成本和能量的方法是纵向的，不仅仅是训练，还包括对整个生命周期以及创建的AI模型下游影响的长期视角。累积的益处可能是巨大的。当进行纵向分析时，AI将在推动工业生产力和节省能源、时间和成本方面产生彻底的变革。 启用电网边缘的实时智能。波特兰通用电气正在使用英伟达人工智能在电表中指导更多可再生能源进入电网，减少停电，加快风暴后的恢复，并最终降低电网的运营成本。 充分利用巨大的计算能力来模拟宇宙现象、解码遗传序列以及预测气候模式。Green500根据其计算能力和能源效率评估全球领先的超级计算机。NVIDIA技术为最新Green500榜单上排名前10的系统中的7个提供动力。 人工智能训练消耗能源 —— 应用人工智能节约能源 训练人工智能基础模型需要大量的计算能力。随着越来越复杂的模型在更多数据上训练以使其更智能、更有用、更安全，这些需求将会上升。模型正在学习变得更加客观，深入推理以提供更安全、更有思考、更符合预期的响应。英伟达加速计算正在通过每一代新产品的推出，降低训练这些基础AI模型所需的成本和能源消耗。 Cadence开发了人工智能芯片设计工具，这些工具可以加速开发并帮助芯片运行更快、更节能、成本更低。MediaTek的芯片为超过20亿个连接设备提供动力，已经通过这种方法制造出5%更小的晶圆并降低了6%的功耗。这6%的节能将惠及数百万人口。因此，通过设计更好的软件、芯片和系统，我们为世界节省的能源将对社会产生永久的益处。 数据处理与管理是一个价值1000亿美元的市场，也是一项主要的企业工作负载。NVIDIA CUDA GPU加速了Apache Spark数据处理引擎的普及。基准研究表明，NVIDIA加速的Spark可以将数据处理碳足迹减少高达80%，同时提供平均5倍的速度提升和计算成本的4倍降低。 人工智能推动生产力，消除浪费，节约能源 我们正在与世界各地的公司合作，将人工智能的革命性能力应用于节能。 NVIDIA的新Blackwell平台是一个完美的例子。Blackwell使全球的组织能够构建和部署由大型、万亿参数语言模型驱动的实时生成式AI。但这只是故事的一半。这个开创性的平台在模型处理方面，也比其前身降低了至少一个数量级的成本和能耗。 研究人员利用人工智能发现更安全、性能更好的电池，这些电池使用的自然资源更少。微软和太平洋西北国家实验室使用NVIDIA加速计算在一周内筛选了超过3200万种潜在材料。他们确定了18种有希望的候选材料，包括一种含有锂和钠离子的新型电解质材料。这种新材料与常规电池相比，锂的使用量减少了高达70%。 Pandas 是全球领先的数据分析库，被近千万数据科学家使用。尽管使用简便，但它仅能在 CPU上运行，处理大量数据集时性能会因缓慢的处理速度而受到影响。为了解决这个问题，我们最近宣布 NVIDIA 已经将 Pandas 的速度提升了高达150 倍，而无需近千万 Pandas 用户更改他们的代码。考虑到数百万数据科学家处理的数据量，节省的时间和精力将非常巨大。 人工智能帮助我们适应气候变化 人工智能最为激动人心的应用之一便是我们的地球-2平台。通过训练人工智能识别和预测天气模式，英伟达我们地球的数字孪生可以以前所未有的两公里尺度预测大气压力、温度、降水、风速和风向以及湿度。一旦地球-2模型 训练模型是人工智能的起点。在训练成本和能源上的投资旨在创建出这样的模型，当它们应用于或进行推理时，将帮助我们发现更优的科学、工程或运营解决方案，从而节约能源、时间和成本。 能源公司正拥抱人工智能以减少运营的环境足迹，自动化劳动密集型任务，以及 我非常自豪于我们共同取得的进步——我们的团队、合作伙伴和全球社区。感谢您加入我们这段变革之旅。我们一起，正在为技术能够为地球和未来世代带来的成就设定新的标准。 一次计算平台转变——一场新的工业革命 操作系统用于工业数字化 经过训练，它能够比传统的物理模型预测天气快1000倍，并且节能3000倍。 地球2是一个数字孪生的例子，用于模拟和预测复杂的物理和动态系统。地球2在NVIDIA Omniverse中运行，这是一个强大的虚拟世界模拟引擎，在这里计算机图形、物理和人工智能交汇。 NVIDIA加速计算已经达到转折点。行业正在紧急采用NVIDIA，因为相同的架构可以节省能源、时间和成本，同时也适用于生成式AI。加速计算与生成式AI的结合推动了完整全栈计算平台的转变，从而改变了每个行业。 我们希望地球-2号能够被全球的研究人员所使用，因此我们通过DGX Cloud提供了API访问。这推动了气候研究，并通过减少对超级计算机上物理模拟的需求及其相关的碳足迹，有助于环境可持续性。 我们创建了Omniverse，以表示和模拟物理世界，以便工程师可以开发能够理解和操作在工业应用中的AI和机器人系统。在Omniverse内部，公司可以运行和优化其物理基础设施的数字孪生，如工厂、仓库、农场和加工厂。这些虚拟副本使企业能够确定改进领域并降低成本、材料消耗和能源使用——这些都是实现可持续性目标的关键因素。 新计算栈和生成式人工智能从根本上改变了计算机的工作方式——从指令驱动到意图驱动的计算机。生成式人工智能改变了我们使用计算机的方式——从搜索和检索预先包装的内容，到与每个上下文实时生成独特的信息互动。生成式人工智能正在将生产软件的计算机行业转变为制造数字智能的行业。最重要的是，生成式人工智能是科学家和工程师发现以前难以解决的挑战解决方案的新工具——为创造可持续的未来而创造。 地球-2还民主化了高分辨率天气预报，改进了对严重风暴的预测和追踪以减轻经济影响。《天气公司》和台湾中央气象行政部门计划利用地球-2来催化主动性决策，引导企业和组织以及国家解决假设情景、预测前所未有的天气，以确保可行的结果，涉及政策制定、城市规划以及基础设施规划各个领域。 首席执行官兼联合创始人，NVIDIA黄仁勋， 全球重工业代表着惊人的100万亿美元的市值，并肩负着全球能源消耗的很大一部分。通过Omniverse数字化这些行业以及利用生成式AI的力量，NVIDIA可以对可持续性工作进行深远的影响。 前言 2024年亮点 人员、多样性和包容性 产品价值链 关于英伟达 29,600全球员工 60% 50% 76% 可再生能源在2024财年 第三范围类别1温室气体排放在供应商参与努力中涵盖 20X 93%供应商在下列情况进行审计：过去两年 1,000 36 各国 NVIDIA在全球范围内运营 NVIDIA Blackwell GPU相较于CPU在特定AI和高性能计算工作负载中的能效 90%+NVIDIA GPU系统包装采用按重量可回收材料。 #2在Glassdoor的榜单上最佳雇主 2.7% 总体离职率，与半导体行业平均的17.7%相比 #1 超级计算机在2024年6月的Green500榜单上由NVIDIA提供动力。 GPU最初用于模拟人类的想象力，使得电子游戏和电影中的虚拟世界成为可能。如今，GPU也能模拟人类智慧，使我们对物质世界的理解更加深刻。其并行处理能力，由数以千计的计算核心支持，对于深度学习算法至关重要。这种通过从大量数据中学习而自行编写的软件的AI形式，可以成为具备感知和理解世界能力的计算机、机器人以及自动驾驶汽车的“大脑”。数以千计的企业正在开发基于GPU的AI解决方案，以提供传统编码难以实现或甚至不可能提供的服务和产品。此类例子包括生成式AI——能够创作新的内容，如文本、代码、图像、音频、视频以及分子结构——以及推荐系统，通过在庞大的数据集上训练的深度神经网络，利用捕捉用户偏好的数据集，可以提出高度相关的内容，如产品、服务或广告。 关于英伟达 统一的基础架构利用我们的GPU、网络和软件栈。我们架构的可编程性使我们能够通过使用各种软件栈来支持多个数百亿美元的市场，这些软件栈是由内部或第三方开发人员和合作伙伴开发的。在我们平台上，开发者数量庞大且持续增长，以及安装基础的不断扩大，增强了我们的生态系统，并提升了我们的平台对我们客户的增值价值。 2018年。我们于2020年收购了Mellanox，将我们的创新画布扩展到网络领域，并引入了新的处理器类别——数据处理单元（DPU）。在过去五年中，我们构建了完整的软件堆栈，在GPU和CUDA之上运行，将人工智能应用于全球最大的行业，包括NVIDIA DRIVE自动驾驶堆栈、Clara医疗保健和Omniverse工业数字化；并推出了NVIDIA AI Enterprise软件——本质上是为企业人工智能应用提供的操作系统。2023年，我们推出了我们的首款数据中心CPU，Grace，专为大规模人工智能和高性能计算而设计。 NVIDIA开创了加速计算，以帮助解决最具挑战性的计算问题。NVIDIA是一家全栈计算基础设施公司，提供数据中心规模的产品，正在重塑行业。 我们的全栈解决方案包括运行于所有NVIDIA GPU上的基础CUDA编程模型，以及数百个领域特定的软件库、软件开发套件和应用程序编程接口。这一深入而广泛的应用软件堆栈加速了性能并简化了NVIDIA加速计算在如AI模型训练与推理、数据分析、科学计算和3D图形等计算密集型工作负载中的部署。它使得针对不同行业进行垂直优化成为可能，包括从医疗保健和电信到汽车和制造等各个领域。 创新是我们核心。自公司成立以来，我们已在研发领域投入超过453亿美元，产生了对现代计算至关重要的发明。我们在1999年发明的GPU引发了PC游戏市场的增长并重新定义了计算机图形。2