AI算力专家交流纪要-20240322

AI算力专家交流纪要 问：AI算力市场预测有多大规模？推理场景在AI发展中的作用是什么？ 答：随着多模态模型的推出，预计AI加速器市场的赛道规模将在2027年达到4000亿美金以上。推理场景在AI发展中扮演着重要角色，尤其在科学发现自动化方面，通过AIforscience的应用，能够大幅提升基础科学能力，进而赋能工业界，推动生活应用实现二阶乘数的价值。 问：对于英W达公司的重新审视有哪些关键问题？ AI算力专家交流纪要 答：主要涉及英W达公司的核心问题，包括最近的重要信息点和遗留问题，核心需求问题的回顾，以及ASIC芯片讨论和市场占有率的考量。 问：AI算力市场预测有多大规模？推理场景在AI发展中的作用是什么？ 答：随着多模态模型的推出，预计AI加速器市场的赛道规模将在2027年达到4000亿美金以上。推理场景在AI发展中扮演着重要角色，尤其在科学发现自动化方面，通过AIforscience的应用，能够大幅提升基础科学能力，进而赋能工业界，推动生活应用实现二阶乘数的价值。 问：对于英W达公司的重新审视有哪些关键问题？ 答：主要涉及英W达公司的核心问题，包括最近的重要信息点和遗留问题，核心需求问题的回顾，以及ASIC芯片讨论和市场占有率的考量。问：下一代模型相较于上一代有何进步？ 答：下一代模型可能解决人类任务的比例从上一代的10%提高到15%到20%，能力实现接近翻倍。此外，随着模型迭代和推理场景增加，效果和算力需求有望出现指数型增长。 问：英W达公司的定位和战略是什么？ 答：英W达公司是一家致力于计算的公司，不断寻找新的应用场景并产生需求，如显卡、挖矿和AI等，以此为基础推动产品销售。 问：模型训练是否达到顶点及推理任务完成情况如何？ 答：目前看来，模型训练尚未达到顶点。虽然下一代模型可以解决任务中的15%到20%，但仍有80%到85%的任务未能通过现有的模型完成。这表明在推理侧和源头训练侧，仍有大量任务没有被充分覆盖，模型训练仍有待进一步提升。 问：推理场景的需求来源及发展趋势是什么？答：推理场景的需求主要来自生成式应用，包括C端和B端应用，以及推荐算法系统中大模型和推理芯片的应用。随着端侧AI设备的发展和云端结 合，推理需求将进一步放大。此外，近期黄仁勋提出一个脑洞，即未来内容消费可能全部采用生成式或即时生成，这将对计算端和应用端带来重 大变化，尤其是在推理场景和算力方面。问：算力贬值现象如何影响计算需求？ 答：算力贬值即计算成本大幅降低的现象，过去十年内计算成本下降了约100万倍，但需求却大幅增长了1万亿倍。随着算力越来越便宜，计算需求每年以十倍甚至更快的速度增长。这种趋势表明算力贬值促进了需求释放，未来计算需求将保持高速增长态势。 问：环境建模领域是否存在巨大的推理需求？ 答：在环境建模领域，除了目前机器人建模和车辆驾驶路线决策建模等应用场景外，未来更大的需求将体现在对环境进行建模的过程中。这一过程需要大量训练和推理，预计会带来数量级上的算力需求变化，远超当前多模态模型和大语言模型的需求。 问：基于大语言模型和多模态模型，计算单个模型所需算力时，结论是什么？ 答：一个大语言模型（如GPT4）的训练可能需要1万张1100算力的当量，推理则需要3万张同样单位的算力。而对于Sora多模态模型，训练需求可能是之前GPT4算力需求的两倍，而推理侧需求在一定访问量假设下（参照剪映APP海外版全球访问量）可能是GPT4的百倍甚至千倍。 问：对于整个算力需求市场的预测是多少？ 答：预测到2027年左右，整个市场如果以H100 算力为表征，需要1600万张以上H100算力当量。这可能转换成约4000亿美金到5000亿美金的赛道规模。 问：在供给侧，哪些竞争者将影响赛道市占率？ 答：虽然还未进入存量竞争阶段，但竞争者主要来自AMD以及几家核心自研ASIC芯片厂家，如GoogleTPU、微软的雅典娜芯片、Tesla的D1芯片等。 问：英W达在软硬件性能及商业生态方面有哪些优势？ 答：英W达在训练侧和推理侧具有耦合优势，尤其是在推理侧可能面临更难的任务。此外，在商 业生态上，英W达在上下游布局良好，投资了大量AI大模型公司，并且在CoWos产能掌控和采购承诺额管理上表现出色。 问：对于2027年整个赛道，AMD和其他IC芯片厂商的市场份额预估是多少？ 答：到2027年，若整个赛道达到4000亿美金规模，根据预估，AMD在芯片市场占比可能为35亿美金到200亿美金，而其他各家IC芯片厂商的具体市场份额则根据不同的假设和估算而定。 问：GoogleTPU芯片的年产量和价值如何计算？ASIC芯片市场规模和英W达数据中心芯片收入预测是多少？ 答：每张GoogleTPU芯片的价值约为3000美金，因此一年的总产量大概在一百多万张左右。 Google是当前新芯片市场的主导者，其他主要玩家包括Meta、Marvell、亚马逊以及少量其他芯片厂商。根据估算，今年总ASIC芯片出货量可能在300万张左右。假设所有芯片都有对外销售计划，并根据算力比例估算ASP，预计今年ASIC芯片的市场规模约为200亿美金到27年的市场规模约为800多亿美金。将ASIC芯片和AMD的MI系列GPU加在一起，总市场规模大约在1000亿美金。根据测算，英W达在2027年数据中心芯片的收入体量约为3000亿美金。 问：短期英W达芯片产能及利润预测是如何进行的？ 答：短期预测基于供给端，通过跟踪CoWos产能计算每月wafer数量，并估算英W达不同型号芯片的比例。在此基础上，可以对短期英W达芯片的产量和利润进行估算。长期预测则基于需求端，结果显示长期需求远高于短期供给预测。 问：英W达数据中心业务利润及合理市值预估是多少？ 答：按照赛道规模和留予英W达的市场份额，预计英W达数据中心业务利润为1500亿美金。假设净利润率为50%，该业务的合理市值约为3万亿美金以上。 问：近期英W达的重要催化剂有哪些？ 答：近期的重要催化剂包括下个星期的GCCE大会、公司2/3/4月的季报、H200芯片的推出（可能在Q2前后）以及B100芯片的推出（可能在Q3前后）。此外，大型云厂商的态度、训练侧和推理侧场景的扩展以及公司自身对于推理需求的表态也可能会对赛道规模预期产生显著影响。定量数据方面，公司采购承诺指标可以跟踪其产能锁定情况。