一半是海水，一半是火焰，国产AI芯片路在何方

一半是海水，一半是火焰，国产AI芯片路在何方 原创来觅研究院RimeData来觅数据撰稿李沛瑶2024-09-20 导读：2024年9月，国内AI芯片巨震。先是国产AI芯片独角兽象帝先宣布调整业务结构，解雇部分员工。其后，国产AI芯片初创企业壁仞科技宣布启动上市流程，加上此前宣布启动上市流程的燧原科技，这已经是最近第二起宣布启动上市流程的AI芯片公司。AI芯片市场广阔，缘何赛道内企业表现不一？AI芯片创业难点在哪？赛道投融资情况如何？本文尝试分析和探讨。 综述 AI芯片也被称为AI加速器或计算卡，按技术架构可以分为通用图形处理器（GPGPU），中央处理器（CPU），专用集成芯片（ASIC）以及现场可编程门阵列（FPGA）等。在人工智能的发展中，研发人员发现并行计算可以进行高效的模型训练，处理大规模复杂数据。而GPGPU相对其他芯片并行计算性能较高，适合计算密集型应用，因此成为了算力芯片的主流。 按功能分类，AI芯片可以分为训练卡和推理卡两个类型。训练卡也叫大卡，通常拥有更高的计算能力和内存带宽，以支持训练过程中的大量计算和数据处理；推理卡也称小卡，其参数较低，只需满足推理需求。一般情况下，训练卡可以作为推理卡使用，但推理卡不能作为训练卡使用。简单来说，大模型的训练需要大量的训练卡形成显卡集群，而在应用上，则需要推理卡运行AI模型进行计算。 本轮人工智能浪潮由ChatGPT掀起，并以语言大模型和生成式AI应用作为切入点。自谷歌在2017年发表至今，Transformer除了带来像ChatGPT这样的C端爆款产品外，其早已在自然语言处理、计算机 视觉、自动驾驶等领域里广泛应用。各中外科技企业持续加大对相关的投入，包括谷歌、Meta、微软、 字节跳动、百度等海内外一众科技巨头和初创企业均希望分一杯羹，其他非技术公司也不断在人才、技术和资源方面进行布局。根据BloombergIntelligence的预测数据，到2032年，生成式AI在总体信息技术硬件、软件、服务、广告和游戏等支出中的占比或将从目前不到1%的水平扩大至12%。 1,400 1,304 14.00% 1,200 1,000 800 600 1,079 12.00% 897 10.00% 728 8.00% 548 400 399 6.00% 200 0 217 304 14 23 4067 137 4.00% 2.00% 20202021 20222023E2024E2025E 生成式AI收入 2026E2027E2028E2029E2030E2031E2032E 生成式AI在总科技支出占比(%) 图表1：2020-2032E全球生成式AI收入及预测（单位：10亿美元） 资料来源：BloombergIntelligence，来觅数据整理 2018年，OpenAI推出第一代生成式预训练语言模型GPT-1，拥有1.17亿个参数，2023年发布的GPT- 4参数量约为1.8万亿个。5年时间超万倍参数量的提升带来的是大模型对于算力需求的指数级别增长。OpenAI测算，自2012年起，全球头部AI模型训练算力需求每3-4个月翻一番。尤其是在2023年后，AI发展如火如荼，海内外厂商纷纷都加大了生成式AI的投入，“百模大战”再起，这也使得算力需求将长期陷入紧缺。 1,400 1,200 1,000 1,271 923 800 641 600427 400 268 200 0 155 32 75 2019年2020年2021年2022年 2023E 2024E 2025E 2026E 图表2：2019-2026E中国智能算力规模及预测（单位：亿元） 资料来源：IDC，来觅数据整理 在算法攻关、以及部分模型开源的背景下，国内大模型进展迅速，不少国产AI大模型宣称其单项能力已追赶上GPT-4。就目前而言，国内AI能力与海外最大的差距主要在AI芯片上。由于众所周知的原因，国内的科技企业不但无法购买先进AI芯片，而且即使有了完整方案，自行制造AI芯片也变得十分困难。在这种背景下，国产AI芯片潜在成长空间巨大。 AI芯片是一个赢家通吃的游戏。Nvidia在AI芯片上的垄断性地位足以使大多数竞争对手望而生畏。来觅研究院认为，AI芯片的难度主要体现在三个方面，即单卡性能/集群性能、生态/灵活性、制造难度/性价比。综合这三个方面，Nvidia综合实力最为领先，因而其在AI芯片市场取得了超90%的市场份额。 国内企业产业进展如何？我们统计了国内外相关AI芯片公司的具体参数，可以看到目前国内AI芯片与海外AI芯片单卡性能上仍存在差距；但更大的差距来自训练侧的万卡互联与生态建设。总体而言，国产AI芯片长期来看任重而道远。 图表3：国内外AI芯片厂商、产品及技术特征情况 公司名称 产品 产品类型 算力 互联带宽 工艺制程 Nvidia GB200 训练、推理 18000TOPS 1800G/S 4NM 壁仞科技 训练侧BR100 训练 2000TOPS 1.64T/S 7NM AMD MI300X 训练、推理 163.4TFLOPS@FP64 896G/S 5NM 阿里巴巴 推理侧含光800 推理 820TOPS 30G/S 12NM 华为 昇腾910B 训练、推理 640TOPS 392G/S 7NM 登临科技 训练侧GoldwasserXL 推理、训练 512TOPS 128G/S 12NM 天数智芯 训练侧BI 训练、推理 295TOFS 64G/S 7NM 百度 训推一体昆仑芯2代 训练 256TOPS 512G/S 7NM 燧原科技 训练侧T21 训练、推理 256TOPS 300G/S 12NM 瀚博半导体 VA1L 视觉为主 200TOPS NA NA 沐曦 MXN100 训练、推理 160TOPS NA 7NM 摩尔线程 MTTS3000 图形为主 15.2TFLOPS@FP32 448G/S 7NM 景嘉微 JM9 图形为主 1.5TFLOPS@FP32 128G/S 14NM 寒武纪 训练侧MLU590 训练、推理 NA 300G/S 7NM 海光信息 深算二号 训练 NA NA 7NM 曲速科技 VPU821 视觉为主 NA NA NA 资料来源：公开资料，来觅数据整理 国内AI芯片主要集中于推理侧，这一方面是为了与英伟达展开错位竞争，另一方面，随着AI技术的发展与普及，行业对高性能、低功耗的AI芯片的需求正不断增加。不过，训练侧芯片也有厂商正在布局，在2024年全球AI芯片峰会上，壁仞科技首次公布自主原创的异构GPU协同训练方案HGCT，业界首次支持3种及以上异构GPU混合训练同一个大模型。摩尔线程公布了其基于MTTS4000的万卡智能集群夸娥（KUAE），发力训练测。华为、寒武纪、海光信息等厂商亦有类似动作。 AI芯片创业极为困难。来觅研究院认为，AI芯片创业难点一是要解决芯片设计、制造问题。由于海外制约，相关设计工具已被管制。然而制造问题是更现实的难题，Nvidia最新的AI芯片采用4NM制程，目前仅有台积电具备制造实力，而大陆芯片制造实力则稍显不足。 二是市场问题，英伟达仍是目前最有性价比的AI芯片方案，国内AI公司采购国产AI芯片一方面是由于国产替代的主观或客观原因，另一方面也希望能使用更贴合自己需求的产品（如字节跳动等厂商针对需求自行设计AI芯片）。大模型一方面加速了AI芯片的发展，另一方面也让芯片厂商之间的差距越来越大。国产AI芯片厂商必须考虑自己的产品能满足客户的什么特定需求，才能让客户甘愿花费高额溢价。 三是盈利能力。由于众所周知的原因，AI芯片研发周期长、强度大、成本高，而这些投入往往在短期内难以得到回报。因此，能获得造血能力极为重要。在目前一级市场动态下，完全指望创投市场输血可能性微乎其微，AI芯片公司的正现金流同样值得考验。 投融动态 AI芯片市场近年来呈现出强劲的增长势头。2024年全球AI芯片市场规模预计将达到712.52亿美元，同比增长33%，并有望在2025年进一步增长至919.55亿美元。在中国市场，2023年AI芯片市场规模达到1206亿元，同比增长41.9%，预计2024年将增长至1412亿元。据来觅数据显示，AI芯片亦是今年最为活跃的赛道之一，融资轮次仍偏向早期，但部分明星项目已得到市场认可，资本正不断加码。感兴趣的读者，可以登录RimePEVC平台获取AI芯片赛道全量融资案例、被投项目及深度数据分析。 图表4：2024年以来AI芯片主要投融事件 融资方 来觅赛道 融资时间 融资轮次 融资金额 投资方 中昊芯英 AI芯片 2024-09-14 战略融资 2.5亿人民币 艾布鲁 知合计算 AI芯片 2024-09-09 A1轮 数亿人民币 源码资本、临港科创投等 图影视讯 AI芯片 2024-09-07 A轮 数千万人民币 华西银峰 沐曦 AI芯片 2024-08-23 股权融资 未披露 浦东资本、启夏私募投资等 太初元碁 AI芯片 2024-08-09 A2轮 数亿人民币 霜叶创投、金蚂投资 寒序科技 AI芯片 2024-08-05 种子轮 未披露 零以创投 元启半导体 AI芯片 2024-07-15 A轮 数亿人民币 奥飞数据、闻名投资 昆仑芯 AI芯片 2024-06-12 C轮 未披露 北京国管、君联资本 紫光展锐 AI芯片 2024-06-03 E轮 超40亿人民币 中信建投资本、交银金融资本等 后摩智能 AI芯片 2024-05-21 A++轮 数亿人民币 中移资本 亿铸科技 AI芯片 2024-05-11 B轮 超1亿人民币 盛视科技、行至资本等 灵汐科技 AI芯片 2024-04-16 B+轮 未披露 国鼎资本 润芯微科技 AI芯片 2024-04-02 B轮 未披露 工商银行、核聚资本等 摩尔线程 AI芯片 2024-03-04 C轮 未披露 华通车业 太初元碁 AI芯片 2024-02-07 战略融资 数亿人民币 龙芯资本 知合计算 AI芯片 2024-01-10 Pre-A轮 数亿人民币 联新资本、临港科创投等 资料来源：来觅数据 展望 随着大模型革命席卷全球，算力需求达到新高，推动云、边、侧AI芯片迭代与进化。在数据爆炸式增长、工艺逼近物理极限、国际形势复杂多变三朵阴云下，许多AI芯片企业低调务实地承压前行，积极备战生成式AI浪潮带来的时代机遇。 正如ElonMusk所言：只有原材料是唯一的限制，制造的每一个环节都完全可以被重新发明。AI的巨大潜力必将催生出数万亿的市场规模，“卡脖子”只是暂时的，伴随着先进制程的突破与资本的投入，我们与海外AI的距离是在缩小而不是增大。而国产替代的空间是巨大，相关企业也会迎来高速增长机会。 终局思维需要锁定胜者。未来的世界需要无穷算力，但参考美国市场竞争格局，胜者可能只有寥寥数个。由于AI芯片赢家通吃的特点，我们认为国产AI芯片公司胜出必须同时具备技术实力、渠道能力、融资能力几项能力。这些能力对创业公司挑战巨大，但无形之中也构建了行业壁垒。 版权声明：未经来觅数据许可或授权，任何单位或人士不得转载、引用、刊登、发表、修改或翻译本报告内容。许可或授权下的引用、转载时须注明出处为来觅数据。否则，来觅数据将保留追究其相关法律责任的权利。 免责声明：本文基于来觅数据认为可信的公开资料或实地调研资料，我们力求上述内容的客观、公正，但对本文中所载的信息、观点及数据的准确性、可靠性、时效性及完整性不作任何明确或隐含的保证，亦不负相关法律责任。本文全部内容仅供参考之用，不构成对任何人的投资、商业决策、法律等操作建议。在任何情况下，对由于参考本报告造成的任何，来觅数据不承担任何责任。 关于我们：RimePEVC产品是专注于金融创投市场的SaaS服务平台，致力于打造一个开放性的全球私募投资生态平台。RimePEVC涵盖了创投市场项目企业、投资机构、私募股权基金、基金管理人、 GP、LP行业赛道等丰