美股财报会议如何聊AI之英伟达

语势科技 美股财报会议如何聊AI之英伟达 2023年8月24日 前言：美股科技股“七巨头”（MagnificentSeven）正在陆续发布第二季度财报。这些巨头中的多数也是生成式AI科技浪潮中的引领者。我们准备了【抠糖系列】，从这些巨头和其他AI美股概念股最新财报会议中，捕捉业界在生成式AI上的展望和最新战略布局。 英伟达 8月23日，AI底层算力龙头英伟达终于公布了季报。数据显示，英伟达第二财季营收135.1亿美元，同比增长101%，净利润为62亿美元，同比增长843%，超过华尔街惊喜指引，且本季度的指引继续高于预期。 英伟达在财报会议中，黄仁勋强调了加速计算和生成式AI推动了新的计算时代的到来，算力需求在今、明两年具有高可见性，英伟达将通过扩产和推出新品应对巨大的需求。同时，黄仁勋认为AI最大的机遇在于生产力提升，英伟达将和合作伙伴一起开拓企业市场，包括ServiceNow、埃森哲、VMware、Snowflake等的合作，旨在为企业提供使用自有数据更安全、便捷地构建定制化生成式AI应用的方案。 以下为部分财报会议内容翻译：黄仁勋（JensenHuang） 1、一个新的计算时代已经开始。行业正在同时经历两个平台转换，加速计算和生成式人工智能。全球价值1万亿美元的数据中心将转向加速计算，以实现更好性能、能源效率和更低成本。加速计算使生成式人工智能成为可能，并正在推动软件的转换。 2、我们面对的需求是巨大的，我们正在大幅扩大生产能力，供应将在今年和明年大幅增加。NVIDIA已经为此做了20多年的准备，并创造了一个新的计算平台，全球的行业都可以建立在此之上。 3、NVIDIA已经取得了显著的规模，并100%投资于加速计算和生成式AI。我们的生态系统合作伙伴可以信任我们的专业知识、专注和规模，能够提供强大的路线图和覆盖范围，帮助他们增长。由于这些能力的叠加，我们正在加速。我们每6个月升级并添加新产品，以应对生成式AI的不断扩展。 4、我们正在将NVIDIAAI扩展到要求模型隐私、安全和控制权的全球企业。与全球领先的企业IT公司Accenture、Adobe、Getty、HuggingFace、Snowflake、ServiceNow、VMware和WPP以及我们的企业系统合作伙伴Dell、HPE和Lenovo一起，我们正在将生成式AI带给全球企业。 5、我们正在构建NVIDIAOmniverse，将重工业的数万亿美元数字化，使其能够使用生成式AI 自动化物理资产的建设和运营，并实现更高的生产效率。 6、生成式AI始于云端，但最重要的机遇在全球最大的产业中，这些公司可以实现数万亿美元的生产力提升。对于NVIDIA、我们的客户、合作伙伴和整个生态系统来说，现在是推动计算的这一世代性转变的激动人心的时刻。 ColetteM.KressExecutiveVP&CFO 7、数据中心业务营收录得创纪录的103.2亿美元，环比增长了141％，同比增长了171％。数据中心计算收入年同比增长了近三倍，主要是由云服务提供商和大型消费互联网公司对HGX平台的加速需求推动的，该平台是生成式AI和大语言模型的引擎。包括AWS，GoogleCloud，Meta，MicrosoftAzure和OracleCloud在内的大型公司以及越来越多的GPU云提供商正在大量部署基于Hopper和Ampere架构GPU的HGX系统。 8、按区域划分，数据中心增长最强劲的是美国，因为客户将资本直接投向AI和加速计算。中国的需求占数据中心收入的20％至25％，关于可能增加的向中国的出口管制，鉴于全球的强劲需求，如果发生，预计不会对财务结果立即产生实质影响。但在长期内，如果实施禁止向中国出售我们的数据中心GPU的限制，将导致美国产业在全球最大的市场之一中失去永久性的领先机会。 9、我们发布了新的AI就绪型服务器，配备了NVIDIA®L40SGPU、NVIDIABlueField®-3DPU和NVIDIAAIEnterprise软件，使企业能够微调生成式AI基础模型并部署生成式AI应用，比如智能聊天机器人、搜索和摘要工具等。作为全球领先的系统制造商的戴尔科技、慧与和联想，将于年底前推出搭载NVIDIAL40S的服务器，以加速推进企业级AI的发展。 10、GH200GraceHopper超级芯片（一款完全专为大规模AI和高性能计算打造的突破性加速CPU）将在本季度内在OEM服务器上提供。它也正在向多个超级计算客户发货。NVIDIA和SoftBank正在基于GH200平台进行生成式AI和5G/6G应用的合作。 11、我们的GraceHopper超级芯片的第二代版本将配备最新的HBM内存，并将在2024年第二季度提供。 12、我们发布了DGXGH200，这是一种新的大存储AI超级计算机，用于巨型AI语言模型、推荐系统和数据分析。在GH200服务器中，GPU互连使用了NVLink和NVSwitch，将256块GPU以更紧密更高速的双层结构进行连接，实现巨大飞跃。预计到今年年底，GoogleCloud、Meta和Microsoft将成为首批获得访问权限的公司。 13、我们也通过合作伙伴为客户提供云端或本地服务： 我们与Snowflake合作，提供加速云，为企业创建使用其专有数据的定制生成式AI应用程序，全部安全地嵌入Snowflake数据云。通过NVIDIANeMo平台开发大型语言模型，企业 将能够获得定制的应用，包括聊天机器人、搜索和摘要。 全球最大的营销和通信服务组织WPP正在开发一个内容引擎，利用NVIDIAOmniverse使艺术家和设计师将生成式AI集成到3D内容创建中。通过使用经过严格训练的生成式AI模型，以及来自Adobe和GettyImages等合作伙伴的内容，WPP的设计师可以使用文本提示来创建各种高保真图像。 视觉内容提供商Shutterstock使用NVIDIAPicasso构建工具和服务，帮助用户创建具有生成式AI帮助的3D场景背景。 我们与ServiceNow和Accenture合作推出了AI灯塔计划，加速企业AI能力的开发。AI灯塔将ServiceNow企业自动化平台和引擎与NVIDIA加速计算以及Accenture咨询和部署服务相结合。 我们与HuggingFace合作，简化了新的和定制的AI模型的创建。HuggingFace将为企业提供一项新服务，使它们能够训练和调整由NVIDIAHGX云驱动的高级AI模型。 VMware和NVIDIA宣布了一个名为VMwarePrivateAIFoundationwithNVIDIA的重大新企业产品，这是一个完全集成的平台，具有来自NVIDIA的AI软件和加速计算，以及适用于运行VMware的企业的多云软件。 问答环节摘要 Q：英伟达在大模型训练市场地位牢固，如何看待小模型推理和大模型推理之间的市场细分？ （MatthewD.RamsayTDCowen，ResearchDivision） A：大语言模型能力非常惊人。它能理解非结构化语言，但其核心是对人类语言结构的习得。它已经编码或压缩了大量的人类知识，这些知识是通过它所学习的语料库获得的。你创建这些大语言模型，并且创建尽可能大的版本，然后从中派生出较小的模型，本质上是教师-学生模型，这是一种称为蒸馏的过程。因此，当您看到这些小模型时，非常可能的情况是它们是从大模型中派生或蒸馏得来的。您还是需要从大模型开始，它具有大量的概括性和泛化性以及zero-shot能力。（JensenHuang） Q：关于L40S，它能缓解多少供应紧张问题？（AtifMalikCitigroupInc.,ResearchDivision） A：L40S实际上是为不同类型的应用而设计的。H100是为大语言模型和处理非常大的模型及大量数据而设计的。L40S的重点是能够对模型进行微调。它被设计为超大规模的扩展，它采用标准机架、标准服务器，其所有内容都是标准化的，这意味着将L40S服务器安装到全球超大规 模数据中心非常容易。L40S还匹配了围绕它的软件堆栈，以及BlueField-3和我们与VMware、Snowflake、ServiceNow和许多其他企业合作所做的工作。L40S是为全球企业IT系统而设计的。这就是为什么惠普、戴尔、联想和其他大约20家系统制造商正在与我们合作，共同将生成式AI带给全球企业的原因。L40S开局很好，全球企业和超大规模数据中心正在积极地部署L40S。 （JensenHuang） Q：仍有大量（AI算力）需求未得到满足，您认为未满足的需求有多少？（JosephLawrenceMooreMorganStanley,ResearchDivision） A：（算力需求）的可见性，可以贯穿今年和明年。我们已经与领先的CSP和数据中心建造商一起计划下一代基础设施。全球正在从通用计算转向加速计算。公司提高吞吐量、提高能源效率、提高成本效率的最佳方式是将其资本预算转向加速计算和生成式AI，因为这样做，将能够从CPU上卸载大量工作量，增加数据中心中可用的CPU数量。公司正在认识到这个转折点，并将他们的投资转向加速计算和生成式AI。这不是一个推动需求的单一应用，而是一种新的计算平台、一种新的计算转型正在发生。世界各地的数据中心都在响应这一点，以广泛的方式进行转型。（JensenHuang） 免责声明： 本报告是基于已公开信息撰写，但本公司不保证该等信息的准确性或完整性，本报告所载的资料、工具、意见及推测只提供给客户作参考之用，并非作为或被视为出售或购买证券或其他投资标的的邀请或向人作出邀请。本报告所载的资料、意见及住测仅反映本公司于发布本报告当日的判断。在不同时期，本公司可发出与本报告所载资料、意见及推测不一致的报告。 客户不应视本报告为作出投资决策的惟一因素。客户应自主作出投资决策并自行承担投资风险。本公司建议客户应考虑本报告的任何意见或建议是否符合其特定状况，以及(若有必要)咨询独立投资顾问。在任何情况下本报告中的信息或所表述的意见并不构成对任何人的投资建议。在任何情况下，本公司不对任何人因使用本报告中的任何内容所引致的任何损失负任何责任。 本报告的版权归本公司所有，属于非公开资料。本公司对本报告保留一切权利。除非另有书面显示，否则本报告中的所有材料的版权均属本公司。未经本公司事先书面授权，本报告的任何部分均不得以任何方式制作任何形式的拷贝、复印件或复制品，或再次分发给任何其他人，或以任何侵犯本公司版权的其他方式使用。所有本报告中使用的商标、服务标记及标记均为本公司的商标、服务标记及标记。