您的浏览器禁用了JavaScript(一种计算机语言,用以实现您与网页的交互),请解除该禁用,或者联系我们。[未知机构]:国际AI算力芯片电话会–20230628 - 发现报告
当前位置:首页/会议纪要/报告详情/

国际AI算力芯片电话会–20230628

2023-06-29未知机构别***
国际AI算力芯片电话会–20230628

摘要: 230628国际AI算力芯片电话会 1.英伟达通过NVLink和NVSwitch实现多卡互联来规避监管。2022年6-8月美国商务部第一次明确限制AI芯片出口,英伟达通过降低20%带宽的方式特供中国A800,实现大规模的小型显卡进行集成运算。美国出台第二次限 制法案的可能性较大,冲击范围取决于打击力度。 摘要: 230628国际AI算力芯片电话会 1.英伟达通过NVLink和NVSwitch实现多卡互联来规避监管。2022年6-8月美国商务部第一次明确限制AI芯片出口,英伟达通过降低20%带宽的方式特供中国A800,实现大规模的小型显卡进行集成运算。美国出台第二次限 制法案的可能性较大,冲击范围取决于打击力度。 2.国产算力厂商软件和硬件层面在2-3年内难以追赶英伟达。英伟达CUDA软件生态壁垒较高,NVLink、 NVSwitch和定制化芯片能较好解决网络带宽、多卡协同等硬件问题。 3.国产算力厂商中比较看好摩尔线程、希姆计算、壁仞科技。摩尔线程通用计算场景较多,翻译CUDA生态开发成本较低;希姆科技背靠字节,自身硬件支持比摩尔线程更好;壁仞科技产品亮眼。 4.国内大厂可通过多种方式规避监管。有全球业务的公司可以通过跨国代理公司绕过监管,或通过购买云服务获得算力。 5.初创公司发展前景取决于现有客户、领投公司、创始团队。专家比较看好有通用应用场景的公司,有无大型科技公司提供生态(如大量短视频计算需求等)。创始团队是否有较强的技术背景也较为重要。 提问: Q:如何看待2022年美国出台芯片法案?对中美有哪些影响? A;美国政府打压由来已久,最开始对中兴通讯进行限制,2019年华为第一次被列入实体清单,导致海思受到极大限制。最近OPPO哲库直接解散,而手机芯片无法完全从高通体系中分离。 2022年6-8月美国商务部第一次明确限制AI芯片出口,通信带宽必须在600GB内,超范围的芯片禁止销售到大陆。当时腾讯、阿里等大厂已经有A100订单,英伟达通过降低20%带宽的方式特供中国A800,避开监管。而美国打压中国AI发展决心较强,从2022年开始,美国政府聚焦在硬件方面(如超算芯片)进行限制。英伟达和AMD市场都受到影响,限制太死不利于市场竞争。 Q:2023年7月可能出台第二次限制,怎么看待冲击范围和可能的应对策略? A:分3种情况。英伟达在上一次制裁中订单损失不大,因为可以通过NVlink自研的总线通讯协议,采用多卡互联的方式连接显卡,集成算力,即使阉割了性能,也可以通过大规模的小型显卡进行集成运算。 1.性能限制程度较小。如果这次在A800的基础上进一步限制20%的带宽,仍能出口给国内字节、阿里、京东等科技大厂,符合出口管制,通过集成计算的方式提供算力。 2.性能限制程度较大。如果砍掉60%的性能,需要更多显卡,台积电订单堆积,产能可能跟不上。3.最差的情况是美国商务部直接禁掉NVLink 和NVSwitch。无法在统一数据中心计算,英伟达在大陆的业务将受到极大影响,营收下降非常多。 Q:有没有可能只是传闻,不会落实? A:不排除这种可能性,利益相关的公司放出假消息,利好国产GPU公司。 Q:意味着国产算力厂商未来有更多机会,逐步实现英伟达的替换,那我们目前无法企及的技术有哪 些? 但我认为这个消息是高概率事件,就算不是7月,也在不远的未来。因为美国政府限制中国AI发展决心强烈,让美国在AI发展中取得领先优势,扶持半导体,打压竞争对手。OpenAI在全球取得巨大成功,美国对于后来者的打击优先级很高。 A:软件层面壁垒较高。CUDA生态迭代了将近15年,英伟达在06-07年开始布局并行加速计算,主流深度学习框架TensorFlow和Pytorch几乎只兼容CUDA。谷歌OpenCL和AMDROM难以追赶,在2-3年内没法取得优势,需要大量科学家和工程师进行迭代。摩尔线程完全翻译CUDA硬件加速生态放到自己的产品上,遇到较多兼容性问题,会损失20%的算力。 硬件层面难点较多。网络带宽、多卡协同优化,是下一代数据中心最看重的点,如何将上万张显卡互联互通,NVLink、NVSwitch和定制化芯片能很好的解决此类问题。其他公司哪怕投入很多资源,2-3年较难追上。 Q:如何理解中国算力芯片厂商?A: 景嘉微: 1.军工背景,没有加入AI计算软件库,通用计算场景落后,偏底层,没有创新性。 2.42亿元的融资计划做通用GPU。 3.起步较晚,高管没有较好的技术出身,在硬件和软件方面和英伟达存在15-20年差距。 寒武纪: 1.团队不错,但思源370对主流算法加速能力较差,兼容性也较差。 2.营收依赖大客户,有江苏数据中心5亿元左右订单,在自由市场上竞争力较差。 3.脱离华为后,没有印象深刻的产品。 比较看好摩尔线程、希姆计算、壁仞科技。 摩尔线程: 1.办公类型显卡S50有电信、移动等订单,是比较稳定的营收。 2.应用场景较多,唯一一家普通人可能买到显卡尝试的公司。 3.买的Imagination的核心,比较有诚意。 4.最近融资15亿元,由腾讯领投,可以做轻量的边缘计算市场,如小模型推理、视频流加速等简单的算法。 5.转译CUDA可以快速兼容主流机器学习框架,开发成本较低,方案挺好的,损失20-30%的性能也没关系。 希姆计算: 1.背靠字节,为字节提供视频流转译能力。 2.研发周期更长,自身硬件支持比摩尔线程更好。 壁仞科技: 产品亮眼,引起美国注意,降低了带宽。 Q:昇腾和海光了解吗? A:在云服务方面有较好的进展,如果国内确实有较大的缺口,腾讯推出的大模型超市、字节火山云,企业可以选择购买服务型定制化模型。Q;会不会只限制A800,不限制H800,只有军工领域的芯片受影响,民用不受影响? A;不太相信。H800在算力上是A800的2-3倍,必然会受到影响。军工方面,超算中心有累积较多GPU库存。 Q:美国制裁以后还是得靠自主品牌,怎么看差距较大的情况下未来的机会窗口?A:即使在较差情况下,还是有办法规避。 1.跨国企业购买。比如字节、腾讯等全球都有业务的公司,可以通过跨国代理公司绕过监管。 2.转向购买云服务,提供算力。 3.购买国内芯片。但目前存在较多问题,不会有任何一家公司占大头,美国有不断的限制政策,从通用计算来看,壁仞科技和摩尔线程相对有优势,生态兼容较好,迭代较快,且最近融资资金充足。 Q:是否看好沐曦? A:对最近成立的初创公司了解不多。认为初创公司取决于现有客户和领投公司,比较看好有通用应用场景的公司,有无大型科技公司提供生态 (如大量短视频计算需求等)。创始团队是否有较强的技术背景也较为重要。 Q:无论军用民用都会限制吗? A:有威胁的都会限制。 Q:美国有能力追踪GPU流向? A:美国强制要求台积电提供详细清单,对中国获得多少超算芯片非常关注,能掌握芯片流向。 Q:国内互联网大厂受限吗? Q:目前对国内影响不大? A:取决于美国的打击力度和决心。字节10亿订单已经有库存了,之前商务部法令没那么严,可以通过跨国公司或跨国建立数据中心等方式规避,目前影响不大。 A:1-2月内影响不大,如果禁令比较长期,影响还是有的,不利于国内AI市场发展。