【中信前瞻】英伟达(NVDA)GTC会议分析师专场交流纪要–20230322
a°纪要 a°题ÿ:NVIDIACorpGTCFinancialAnalystQ&A; a°时间ÿ20233o22I01:00AM-02:00AMCST Þ方ÿ英伟达 出人ÿ ColetteM.Kress,NVIDIACorporation-ExecutiveVP&CFOJensenHuang,Co-Founder,CEO,President&DirectorSimonaJankowski,NVIDIACorporation-VPofIRl迎联系ÿ中信前瞻陈俊ß/高飞翔 0黄ā勋GTC大a总结1 11lka°谈论到了O个ú态，要î及ÿ持续发展1生r式AI1数_化2 ú态1ÿÿ持续发展ÿ摩尔定律的发展þ经终结，英伟达在过去若~的时间Ý，一直落地A«算的发展2截ó目前，英伟达在A«算领域做到了全p式_局，Ð架构1到系统1到软þ1到Aß再到对à的à用程序2 英伟达A«算，ÿñ做到横U扩展1UP扩展1U外扩展，产品更xp灵活性2 英伟达的A«算ę_被用到多个领域ÿ粒子物理学1流体ú力学，直到机器人学1人工智能等等,«算机图形学1图像处理，视频处理Ā今y,所pà些类型的领域都í耗了大量的CPU内和大量的电力2s们p机aA所pà些,降Pß耗,降Pr本2 NVIDIA的A«算ę是Ðß到边缘的2à是每个ß中一ÿ用的架构2世界PñN所p的«算机制 商都ÿñ在本地使用它2它ÿ用于ë理系统1边缘系统1机器人自ú驾驶汽车等等2同时英伟达的Aę是完全开放的2à意味着您ñNÿñÐ世界P任何地方的任何«算ę2 ú态2ÿ生r式AIp望引发人工智能的转折点2伴着生r式AI的发展，s们经历了Ð世界感知到信息生r，生r式A引发了人工智能的转折点，并ëú了A在全球范围内采用的¸梯式增长2非常Þ要的是，人们部署在全球所pß和数据中心的ë理量的量_在大幅的增A2 ú态3ÿ数_化p望是人工智能的Q一ï浪潮2数_化的发展，p望将人工智能带入Q一¸段，即Q一波AI浪潮2在à一¸段中，AIO仅对数_信息ß行í作1生r文本和生r图像2AI将在运营工厂1实体工厂1自系统和机器人术2在à种特殊情况Q，数_化真kp机a使世界P一些最大的行业实现自ú化2 21lka°谈论到了四个要点，要î及生r式AI1硬þP^ú态1Aß1ß服á 要点1ÿ生r式AIëú对英伟达Aę的需求增长2 生r式AIk在ëú对NVIDIAę的需求A增长2Hopper¿«了一个transformer引î，该引î_~大型语言模型和人们现在所说的基础模型而¿«2着Hopper的ë出，Hopperþ经被ñN所p的ß服á提供商所采用2 要点2ÿ硬þP^ú态—新ë出DPUBlueField-3，GraceHopperþ投入生产2在AIë理领域新ë出四种产品2 数据中心并非是一个单纯的«算机，而是一个巨型系统精心编排和运行的«算机群2该«算集群中的í作系统ÿ包括容器化1虚拟化Ā1网þ1`储1Ü全性等指o均非常Þ要2à些à用程序的隔离和未来的机密«算是在软þ定O层中运行，该软þ层í耗大量CPU内2 新ë出DPUBlueField-32英伟达新ë出的BlueFieldÿ实现<卸载1A现ï软þ定O数据中心的í作系 统=等ß能，若~合作`伴和ß数据中心厂商k在采用BlueField产品2 GraceHopperþ投入生产，并ß行抽测试ffi段2该产品要用于要的ë理工作负载之一1矢量数据ß1数据处理1ë荐系统2人工智能ë理系统是世界P最pÿ值和最Þ要的à用程序之一，目前ë荐系统k在转U深度学`2GraceHopper是_门~l¿«的，它¬s们p机a在大型数据ß的ë荐系统中获得10倍的A ，目前Graceþ投入生产，并ß行抽测试ffi段2 Grace_~无法A的ß数据中心中的w余工作负载而¿«2一æ你A了一W，剩Q的就是真k想要拥p非常强大的单线程性能的软þ2而单线程性能k是Grace的¿«目o2s们ß将Grace¿«~O仅是快«算机的CPU，而`是非常非常节能的ß数据中心的CPU2当你把整个数据中心看r一ę电脑时，当数据中心就是电脑时，那N你在A数据中心1AI-first1cloud-first数据中心的背景Q¿ 新ë出4个ë理ęÿL41L401H100NVL和Grace-HopperĀ，针对各种快t起的生r式AIà用程序ß行 了_化2 «CPU的方式，那个CPU¿«就是完全O同2 数据中心对于AIë理的A诉求较强，但是该领域中的诉求是多模态的，AIë理的工作负载类型较多ÿp时，您想ß行ë理，将ë理和AI引入视频，然后使用生rAI对wß行增强2p时，它是图像，产生美丽的图像并ûr~共同] 者2p时，您k在生r文本，非常长的文本Ā2à些à用程序中的每一个，视频1图像1文本，当然ßp矢量数据ß，它们都pO同的特à，à给数据中心的建¿带来了挑战2因~Q游û户需要每一种模式或每一种O同的生rAI工作负载配备_门的A器2同时，数据中心的服á和租户_是在O断Ù化的2 针对P述挑战，英伟达采×了基于一个架构四个配置的策略ÿL41L401H100NVL和Grace-HopperĀ，能够最大力度A各种工作负载2 目前公司在l领域，k在A大P谷歌的合作2 要点3ÿAß—2023_化并发_100个ß1100个模型，cuLithoAß是今Þ要看点 如果你A工作负载，你必须Þ新¿«à用程序，必须完全Þ构算法，将算法编码到Aß中2在建立每一个Aß的过程中，s们都需要了解l领域中的ú态和ß展，并P产业链的合作`伴合作，]建Aß，并将他们链接到x体的à用程序生态系统，并ëú和A该领域的发展2对于英伟达来讲，û户购买了英伟达的系统，ÿñ在未来ñ内享ØA服á2在同一ęP，在您Ü装它之后，在w整个生命周期内将性能提高4到10倍2 2023，英伟达_化并发_了100个ß和100个模型2 在lk大aP，s们ë出了cuLithoAß，用于半导体Z刻工艺的图案和ì模的]建2过去4时间Ý，s们将cuLithoAß的度提高了þ50倍2依托该Aß，一方面ÿñ降P芯w¿«中的«算时间&流水线时间和吞T时间ÿ如果将开发周期减少10%，对世界的ÿ值很大Ā，ø一方面ÿñ大幅降P电力r本的ÿ未来p机a降P5-10倍Ā 要点4ÿß服á—历史P商业模式最大的一k扩张 ß服á使得í费者p机a通过WebpÉ器A或者及时的使用«算ę2在过去10时间Ý，ß服á的能力在O断ßm，Ð最开始只pCPU1运行Hadoop或者MapReduce或者做查询，到现在p高性能«算，ù学«算系统，ß中的AI超ÿ«算机2因l，s们将P世界P所p的ß服á提供商合作2ÐOrical开始，s们ßü _了PAzure和GCP的ß合作`伴s系2s们将P世界领Y的ß服á提供商合作，在ß端实施1Ü装和托管NVIDIAAI1NVIDIAOmniverse和NVIDIADGXCloud2à做，ÿñ使得í费者能够获得NVIDIAAI和NVIDIAOmniverse的完全_化的多ß堆p，而`p机a在ß端享Ø最_化的配置，ñ最佳形式获得NVIDIA软þ堆p的所p_势2 对于那些工作量非常大并`希望ÐA中Ø益的公司来说，最Yß的人工智能的好处s们现在p一个直接的服á，s们ÿñ在w中参P世界各行业2à是s们将NVIDIA带来的最好的东西和所pCSP的最好的东西结合起来的ÿ妙方式2他们~ßÜ全1`储Ü全ñ及他们提供的所pw他API服á提供了ð人难ñ置信的服á，而`他们很ÿ能þ经r~您选择的ß2 ü_了ę及服áÿNVIDIAAI，NVIDIAOmniverseĀ1术¿施及服áÿNVIDIADGXCloudĀ产品，拓展了 公司的商业模式2 如果一个企业的û户，如果一个行业想要À问基础模型，最明显和最容易获得的是P世界领Y的服á提供商合作，如OpenAI或微软和谷歌2à些都是旨在~许多行业提供高ÿ用性1高度灵活性和实用性的AI模型示例2 p些公司希望构建_门基于w数据的自定O模型，而NVIDIA拥p实现à一目o的所p能力2因l，对于希望基于w_p数据构建定制模型的û户，ñw特定方式ß行¯ÿ1开发和ë理Ā无论是他们想要放置1实施的护栏，ß是他们想要执行的指ð类型1调整2 DGXß在世界P所p要的CSP中运行2因l，如果您þ经p了自ý选择的CSP，英伟达能够在w中托管它2 0V析师Q&A1 Q1ÿ鉴于您所谈到的ë荐系统的Þ要性1LLM的增长ñ及您PGoogle的合作，^场似Nk在朝着您的方U发展2 s们à该如何考虑你在3到5后的ë理机a，s们à该如何看待Grace在未来ñ在那Ý扮演的角色？ 3到5后，s们今yk在建 的AI超ÿ«算机，毫无疑问是当今世界制 的最Yß的«算机2当然，它的规模是巨大的2它包括«算结构，如NVLink1«算——大型«算1大规模«算结构，如InfiniBand，ñ及将它们缝合在一起的非常复g的网þ2软þp，它的í作系统，V_式«算软þ，它只是«算机ù学的极限2ë理目前要是面UCPU的工作负载ÿë荐P购物1书籍或查询1视频处理等相s的内容Ā，à是因~当今世界P的大多数ë理都相当轻量ÿ2但是s们认~à一势k在被改Ù，要原因包括ñQ两个方面ÿ 使用CPU做ë理缺Oÿ持续性2您O能继续担à些视频工作负载并在CPUP处理它们2你O能拿à些深度学`模型，即使服á质量差一点或好一点，用CPU来做，它只aí耗z多电力2而`à种敏感性现在þ经渗透到ñN每一个ß服á提供商，因~他们拥p的需要A的工作量þ经增A了很多2所ñ他们对A的s注，他们对A的警Ê性提高了2wk，ñN每个人都处于他们的h力极限2因l，~了在未来实现增 长，您真的必须通过A来Þ新获得ú力，然后再将w恢复增长2 生r式人工智能þ经到来2s们将看到ñN每一个行业，Ð共同] 者1共同试点中Ø益，Ð共同] 者1共同试点中扩大，As们所做的一W，Ðs们]建的文本1s们P之交à的聊y机器人1s们使用的电子表格1PowerPoint和Photoshop等等依l类ë，它们都将r~——你将被共同] 者或副驾驶增强，你将被A，Ø到启发2 Q2ÿ过去，您要«论了结合使用Grace和Hopper的好处2今y，您_比s预期的更s注独立的Grace2您能 否谈谈您是否改Ù了对预期服á器CPU份额增长前景的看法？着时间的ë移，s们à该如何考虑潜在的收入贡 献，特别是当你考虑Grace独立1Grace超ÿ芯w，然后显然是Grace-HopperĀ合时？ s认~Grace对s们来说将是一项大业á，但它a——它àO及A«算的规模2s们看好Grace未来业á的增长， 要是看好A工作在«算机图形学1视频处理1生r式AI等领域中的未来发展势2 对于单线程ï码，阿姆达尔定律Ï然p效，w它的都þ到达瓶颈2由于单线程ï码要P数据处理1获×大量数据1移ú大量数据相s，s们¿«的CPU是同时擅长处理两个事情ÿxp极佳的单线程性能，移ú数据量非常大Ā2 s们¿«了整个系统，而O是只构建一个超快的CPU心——CPU，s们¿«了一个超快的CPU节点2通过à做，s们ÿñ增强ß率Ø限的数据中心能够使用尽ÿ能多的CPU的能力2s认~总的来说，A«算将r~未来«算的要形式，因~摩尔定律þ经走到尽头2但剩Q的将是繁Þ的数据处理1繁Þ的数据移ú和单线程ï码2因lCPUÏ将非常非常Þ要2只是¿«点aPñßO同2 Q3ÿ每k查询的r本kr~生r式AIû户的要s注点，他们k在谈论在未来ñ个季度和ñ内大幅减少2您能 谈谈à对NVIDIA意味着ĀN吗？Ð长à来看，àar~H100工作负载吗？你们如何Pû户合作ñ降Pr本？ 是的，您讲的ñ个东西是在同时发生的2 模型将Ù得更大2它们之所ñaÙ大，是因~s们希望它能来好地执行任á2p各种证据表明，模型的能力1质量和多ß能性P模型的大小ñ及
