风险与增长银行 - 见解 ： Lazard VGB AI Infra 40

目录 I.执行摘要3 II.LAZARDVGBAIINFRA40列表4 III.报告范围和方法6 IV.主要市场趋势6 V.AI基础设施的分割14 VI.附录一：公司简介21 VII.附录二：参考资料42 I.执行摘要 我们很高兴介绍拉扎德VGBAI基础设施40名单，该名单展示了我们通过与数百位CEO 和投资者的讨论中识别出的一些最令人兴奋的成长阶段AI基础设施公司。 通过我们的研究和公司访谈，出现了4个关键的市场趋势： 重新思考AI时代的堆栈 在AI时代和技术创新背景下，硬件、软件及其相关工具的最佳架构似乎正在发生显著变化。架构可能将日益受到特定AI应用场景（例如，针对边缘计算进行专门优化）和灵活性（对底层芯片及基础模型均保持中立）的驱动。 专注于AI可持续性 快速增长的人工智能训练和推理所需的能源需求正促使对架构能效的关注，并增加了优化能源和人工智能基础设施集成的需求。 隐现数据约束 高质量语言数据的有限供应导致了替代和合成数据源的机会。 自主AI代理人的黎明 副驾代理只是利用大型语言模型（LLMs）为代理提供动力的起点。我们预见在未来 12个月内，多代理和自主代理模型可能成为关键主题，展现出新兴的机会。 本报告将AI基础设施视为增长阶段潜在投资的空间。麦肯锡1估计，生成式人工智能（GenAI ）及其应用每年可为全球经济增加高达25.6万亿美元的价值。然而，实现这一潜力的关键在于构建必不可少的人工智能基础设施：“基础设施决定命运”，正如OpenAI的一位高管最近所说 。2 当前阶段的AI基础设施增长正受到一系列显著短缺的阻碍：硬件（GPU和其他AI芯片）、可持续能源来源、高质量训练数据以及人才。我们相信，包括我们的VGBAIInfra40名单在内的许多公司技术专家正致力于通过创新的方式重新思考硬件、软件、数据和工具堆栈，越来越多地以AI应用场景为引领，包括不断增长的边缘计算需求。 3 II.LazardVGBAIInfra40列表 我们很高兴介绍VGBAI基础设施40强名单，按照细分市场字母顺序排列。VGBAI 基础设施40强公司的详细资料可以在附录中找到。 #Companies分部子分部 募集至今($m) LastValuation($m) HǪ Location 1 硬件/硅 边缘/嵌入式AI $130 - 荷兰 3 硬件/硅 I/O/网络 $339 $1,175 US 2硬件/硅I/O/网络$219$500US 4硬件/硅专业化工作负载$124$244US 5 硬件/硅 I/O/网络 $127 $228 US 7 硬件/硅 I/O/网络 $175 $295 US 6硬件/硅推理加速器$161$385US 8Lightelligence硬件/硅光子计算$232-US 9 硬件/硅 光子计算 $421 $1,200 US 11 硬件/硅 边缘/嵌入式AI $270 $770 US 10硬件/硅HPC超级计算$300-US 12硬件/硅HPC超级计算$131-法国 13 硬件/硅 推理加速器 $154 - 加拿大 15 Hyperscalers&Compute 计算即服务 $13 $185 UK 14Hyperscalers&Compute计算即服务$892$1,520US 16Hyperscalers&Compute计算即服务$233$1,250US 19 模型服务与推理 优化/加速和托管 $133 $850 US 17 模型服务与推理 优化/加速和托管 $260 $1,014 US 18 模型服务和 优化/ $130 $600 US 推理加速和托管 LazardVGBAIInfra40列表 #Companies分部子分部 募集至今($m) LastValuation($m) HǪ Location 20 MLOps AI/ML平台 $90 $374 US 21MLOps监测和可观测性$106$360US 22 MLOps 模型开发工具 $77 - US 24 MLOps 模型开发工具 $54 $229 US 23MLOpsAI/ML平台$224$800US 25MLOps特征工程$30$51US 26 MLOps 监测和 可观察性 $45 - US 27 MLOps 合成数据 $68 $335 US 28 MLOps 模型安全性 $56 $200 US 29 MLOps 数据标签 $30 $125 US 30 MLOps 模型开发工具 $31 $52 US 31 MLOps AI/ML平台 $62 $290 US 32 MLOps 数据准备 - - US 33 MLOps 合成数据 $31 - 奥地利 34 MLOps 模型安全性 $49 $110 US 35 MLOps 数据准备 $122 $595 US 36 MLOps 模型开发工具 $157 - US 37 MLOps 数据标签 $138 $1,000 US 38 MLOps 监测和可观测性 $128 - US 39 非结构化AI MLOps 数据准备 $68 $223 US 40 MLOps 模型开发工具 $265 $1,250 US III.报告范围和方法 自2023年中期发布我们的关于AI商业化和市场进入策略的工作以来（参见此处的报告），拉扎德VGB洞察团队已与堆栈各层的100多家私人AI公司的CEO进行了交流。 本报告专注于我们选定的人工智能基础设施成长阶段公司，并附有一份针对企业级准备情况的补充报告。水平和垂直AI应用将在稍后的日期。 我们的筛选方法可以总结如下： 1 我们利用了广泛的公开信息、行业报告和数据库，如PitchBook，筛选出了北美和欧洲核心市场的2000多家公司，然后对这些公司进行了详细的研究和访谈。 2 我们仅考虑了被归类为“以AI为中心”的公司，这意味着人工智能功能被评估为核心，是公司本源架构或产品提供的核心部分。我们排除了仅使用单一功能或增强功能的公司 。 3 我们未将被视为既有或主导玩家的公司纳入考虑范围，同时也排除了诸如Anthropic或 OpenAI等我们认为市场细分正在成熟的基石模型构建者。 4 我们的选择仅限于已知估值低于15亿美元的公司。 IV.主要市场趋势 Introduction 自ChatGPT发布以来的18个月中，人工智能时代的巨大潜力以惊人的速度被催化。然而，对于观察者来说，在利用两者的同时区分信号与噪音可能颇具挑战性。 最高级和怀疑主义。事实上， 最近的一项调查3专家表示，对于与人工智能相 关的公共股票是否处于泡沫状态存在分歧： 40%的人说“是”，45%的人说“不是” 。 这可能同时是对的。投资者BillJaneway（最近在我们的伦敦VGBT500会议上发表了主旨演讲）认为，并非 所有泡沫都相似，在“生产性泡沫”中，投机附着于具有真正潜力创造新经济的变革性通用技术 。4 繁荣还是泡沫？ “人工智能和生成AI可能 是最重要的技术 任何一生”。 MarcBenioff，Salesforce首席执行官 "在一个泡泡内部再出现一个泡泡……这完全前所未见。最好的猜测是，这个[AI泡泡]至少暂时会消散。" JeremyGrantham,GMO 文本框源代码7 然而，潜在的机会大到不容忽视。生成式AI引发了根本性的变化，并代表了一个报告中提到的巨大机会。5至2032年，全球市场机会将达到1.3万亿美元，潜在地增加到总计全球科技支出的12%，可能达到4倍。麦肯锡估计，通用人工智能（GenAI）每年可为全球经济增加高达2.56万亿美元的经济价值，这包括新应用场景和生产力提升的影响。6 尽管仍存在明显的采纳挑战，但根据最近调查的71%的企业高管表示，我们正在看到主要来自于CEO/高管层或指导委员会的“企业主导拉动”对于应用场景的需求显著增加。8 预计到2026年，超过80%的企业将使用GenAI，而2023年不到5%。9 我们的AI基础设施40强名单中的几乎全部公司都拥有付费的旗舰企业客户，通常签订多年期的重复合同并在生产环境中部署。然而，我们通过例外情况包含了少数尚未产生收入的公司 。 如我们先前关于AI商业化报告中所概述的，我们注意到风险投资支持的AI公司持续追求通过盈利性的多年战略合作伙伴关系触及广大受众的趋势，这些合作伙伴关系通常伴随着股权投资的支持。 自我们上次报告以来，此类合作的一些近期案例包括亚马逊/Anthropic、 Snowflake/Mistral以及Google/HuggingFace的合作。10 然而，我们注意到，大型科技企业合作伙伴关系可能因反垄断担忧而面临有限的发展空间。据报道，美国司法部和联邦贸易委员会已同意对Nvidia、OpenAI和Microsoft（包括最近的InflectionAI交易）进行潜在调查的策略。.11 而美国在2023年获得了绝大多数的风投投资，占总投资的70％12，比欧洲多3倍13，我们注意到加拿大(多伦多和滑铁卢)、英国和法国新兴的充满活力的生态系统。 尽管超出了本报告的详细范围，但我们注意到朝着“主权AI”迈进。14为了文化与语言保护、经济发展、人才发展以及网络安全等利益，某些国家可能在未来几年实质性地影响资金环境。 有关AI地缘政治的更多信息，请参阅Lazard地缘政治咨询的2023年10月报告。15 “数据中心目前价值1万亿美元的设备将不得不被AI芯片取代。 广泛的人工智能基础设施领域，或 JENSENHOANG，NVIDIA 为了满足AI时代即将到来的不断增长的需求，正在构建能源和人工智能基础设施以满足潜在需求。尽管Nvidia已在AI时代的第一阶段（即生成式AI模型运行所需的专门芯片制造）占据了主导市场地位，但我们认为 称为“工具与铲子”（注：这里可能是指为AI应用提供基础 支持和服务的产业），可能代表一个重大投资机遇，预计到2031年其价值将达到3090亿美元。 16第二阶段的AI进化很可能涉及众多公司构建专门针对AI的相关基础设施，涵盖软件和硬件领域 、AIOps（利用机器学习和大数据自动化IT系统）、MLOps（标准化部署机器学习系统的流程 ）、数据基础设施等更多方面。 1.重新思考AI时代的堆栈 人工智能基础设施堆栈将与历史数据中心、云和软件基础设施有显著不同，这归因于AI工作负载的许多独特特性和需求。目前，训练占据了计算需求的主要部分，但随着市场需求规模扩大 ，高效实时推理和低延迟可能变得同样关键。 尽管从CPU转向AI芯片（包括GPU、ASIC和TPU）显著提高了AI工作负载的效率，但仍存在进一步优化、创新以及重新思考硬件/软件集成需求的空间。 在高峰时段，大部分GPU被闲置。提高有效GPU部署效率预计将成为2024年至2025年间的关键问题。17 “令人震惊的是，高达74%的公司对当前的工作排程工具感到不满，并且经常面临资源分配限制，而有限的按需和自助访问GPU计算资源阻碍了生产力的提升。”18 为了优化GPU使用，互连技术以及高带宽内存（HBM）等架构创新成为了AI堆栈的关键组成部分： AyarLabs'光学输入输出（I/O）解决方案旨在解决人工智能系统中的数据移动瓶颈，从而实现更高的带宽和更低的延迟，并提高能效。"随着光学I/O成为满足新兴技术如生成式AI等指数级增长、数据密集型需求的必备构建模块，我们正处于高性能计算新时代的门槛上。"19 同时天体AI的光子结构互连解决了“内存墙”20 通过旨在使带宽直接传递到芯片内的计算点。 CornelisNetworks提供了一站式高性能互连解决方案，采用专有的扩展架构，集成基于遥测的自适应路由、低延迟拥塞控制以及大规模超大规模提供商、云AI和本地AI/HPC环境中的消息模型、内存模型和AI优化的增强支持。 “许多公司增长的瓶颈很快不是客户需求，而是从Nvidia获得最新