网络人工智能的兴起（英）

五月2024 3作者的来信 4宏 9筹款和投资 12调查结果 15Exits 报告标题|2 在ChatGPT公开发布几乎一年半后，生成AI（GenAI）的新前沿已经吸引了公众的想象力。对于商业领导者来说，GeAI的日益普及带来了一系列独特的挑战和机遇，因为公司开始探索增强甚至替换企业现有工作流程的方法。虽然我们已经开始看到GeAI影响一切，从公司如何开发软件到他们如何与客户互动，但我们最终仍然只是在平台转变的开始。这种转变可能与过去二十年来移动或云计算的出现一样具有影响力。 然而，这种出现如何影响首席信息安全官（CISO）如何保护他们的组织？安全领导者如何看待这个新兴平台在不断变化的威胁环境中的转变？保护GeAI应用程序的能力在多大程度上阻碍了它们被更广泛地采用？这些是我们的客户和他们的客户继续努力解决的一些问题。我们不是只关注GeAI及其扩散，而是选择探索。GenAI和网络安全的交叉点，或者换句话说，“CyberAI”。 在这份报告中，近70%的CISO将GeAI的采用视为其组织的五大优先事项。与此同时，在接受调查的CISO中，几乎所有尚未改变其网络安全堆栈以应对GeAI激增的情况，他们预计将在未来三年内完成，这意味着新初创公司将有充足的机会帮助填补这一空白。这只是两个顺风，我们预计将推动更多关注CyberAI并加速初创企业的形成。我们相信，继续迫切需要使用GeAI解决方案将是未来几年的一个决定性趋势。CyberAI将对这一新景观的出现越来越重要。 安德鲁·麦卡蒂硅谷银行技术银行副总裁 EmmaEschweiler Director 投资者覆盖范围硅谷银行 娜塔莉·弗拉托董事总经理投资者覆盖硅谷银行 CyberAI 名词[萨希-berey-ahy] 利用GenAI解决AI基础设施、模型和应用程序中的漏洞或抵御外部、 GenAI驱动的威胁和攻击。 *WeexpectthatourconceptualizationofGenAIwillevoluateasthespacecontinuedtoemerger.Ifyouwouldliketofurthercontributetothisdefinition,pleasereachoutatamccarty@svb.com. 的崛起CYBERAI | 3 的崛起CYBERAI|4 支持CyberAI基础设施来自CHIPS和科学法案以及国防部网络安全预算计划的政府资金是CyberAI领域增长所需基础设施投资的主要驱动因素。 公司投资 在过去的十年中，大型企业已经发展了他们的研究部 门，以支持AI模型的增长。微软已经在OpenAI上投资了10亿美元，IBM自2020年以来已经收购了30多家公司，以增强AI能力。 ChatGPT的普遍性 ChatGPT于2022年发布，将GenAI带给大众。虽然 不是第一个大型语言模型（LLM），但它的广泛采用标志着企业和消费者与技术互动的长期结构转变。 网络犯罪的成本从2017年到2023年，网络犯罪损失增加了近9倍，在后COVID时代激增。这刺激 了网络安全需求和支出的增加，推动了对该领域的投资。 转移攻击表面 许多GenAI应用程序的构建没有考虑到安全性，增 加了潜在的漏洞。AI研究人员继续提高数据安全性 ，但支持有效LLM的许多因素仍然脆弱。 坏演员使用AI AI不仅提高了合法的效率 企业，但也是网络犯罪分子。如今，骗子可以大规模生成可信的网络钓鱼电子邮件。仅在2023年 ，网络钓鱼电子邮件就增加了13倍。1 CyberAI初创公司的形成 新公司正在形成一个新兴的CyberAI生态系统。在 2020年至2023年之间，成立的CyberAI公司数量是前四年的近2倍。 VC投资CyberAI公司资本正流向这些新的 CyberAI公司。风险资本（VC）投资者继续向网络 安全和AI初创公司注资，使他们能够保持高消耗并专注于增长。 投资者对CyberAI基金的兴趣认识到该行业的增长，投资者正在战略性地关注CyberAI。在2023年 筹集的美国VC基金中，那些提到AI作为专业的基金关闭基金的可能性几乎是那些没有的基金的两倍。 注：1）根据SlashNext的数据，从第22季度到第23季度，网络钓鱼增加了125%。 资料来源：《纽约时报》“微软将向OpenAI投资100亿美元”，IBM“IBM收购MantaSoftwareInc.”，联邦调查局 “2023年互联网犯罪报告”，SlashNext的“2023年网络钓鱼状况”，PitchBookData，Inc.和SVB分析。的崛起CYBERAI|5 $215B $188B $165B 2022 自动化 航空航天 健康生命科学高科技 Retail Banking 软件 34% 35% 33% 33% 19% 23% 19% 22% 23% 16% 16% 22% 12% 增强工业18% 目前使用AI12%在6个月内计划使用AI 最有可能使用AI的最大 +3.8 10% 公司 8% +3.0 +1.5 +2.1 +1.5 6% +1.1 +1.6 +1.7 4% 2% 0% 1-45-910-1920-4950-99100-249250+所有 公司规模（员工人数） %所有公司 投诉数量 22% 28% 总损失 847,000 792,000801,000 880,000 2023 2024 302,000 467,000 $6.9B $10.3B $12.5B 352,000 $1.4B $2.7B $3.5B $4.2B 2017201820192020202120222023 在21世纪初，随着智能手机变得无处不在，每个球场都必须向公司的移动战略致敬。今天，ChatGPT开启了AI的新时代。现在有超过7500家美国VC支持的公司将人工智能作为其商品和服务的一 部分，投资者越来越多地将注意力集中在这一领域。 虽然不是第一个LLM，但ChatGPT将GenAI带入了大众，标志着长期的构造转变 企业和消费者与技术互动。在这种背景下，公司急切地采用人工智能来实现潜在的自动化和人类工作时间的增加。 同时,部署新的AI技术在实施和安全性方面都是昂贵的。这可能就是为什么最大的公司在短期内最有可能使用或计划使用AI的原因。 网络安全是公司的主要关注点，因为仅在过去的六年中，网络犯罪造成的总损失就增加了近九倍。为了解决这一问题，公司正在增加对网络安全的投资，其中大部分用于安全服务。 虽然最近人工智能投资的激增可能反映了一些咆哮，但人工智能有可能成为一个横向平台，在所有行业创造效率收益。 其他19% Identity访问权限9% 网络安全11% 基础设施保护16%安全服务42% 注意：1）报告在过去两周内使用AI生产商品和服务的公司（目前使用AI）或计划在未来六个月内使用AI。样本包括商业趋势和展望调查的美国受访者。美国人口普查局定义的雇主规模桶。 2）通过埃森哲研究基于国家统计机构和O*NET的估计。3）对联邦调查局互联网犯罪投诉中心的投诉。来源：美国人口普查局，PitchBookData，Inc.，埃森哲“工作，劳动力，工人”，Gartner对全球安全和风险的预测 管理支出，联邦调查局“2023年互联网犯罪报告”和SVB分析。 的崛起CYBERAI|6 1996 1997 1998 $70B $60B $50B $40B $30B $20B 网络安全AI AI投资增长：163% 网络安全投资增长：36% 1995 1999 2000 2001 2002 2003 2004 2005 2006 2007 2008 2009 2010 2011 2012 2013 2014 2015 2016 2017 2018 2019 2020 2021 2022 2023 商业应用核心技术 投资者在投资人工智能时真正投资的是什么？人工智能领域的大多数公司都没有开发核心技术，而是在寻找应用它的方法。部分原因是，即使人工智能不是他们的核心产品，初创公司也迫切需要将 自己展示为人工智能。在参与AI的近700家美国公司中，筹集的资金超过 5000万美元，不到三分之一的人正在构建LLM或创建新的计算基础设施.1 尽管如此，利用人工智能——特别是在企业层面——是一项复杂的努力，而且网络安全正在阻碍更广泛的AI采用。这种风险的核心是数据安全。无论是在数据库中还是在AI应用程序底层的代码中，安 全性通常都很弱，使开发人员和最终用户都面临风险。事实上，在对281项关于这一主题的研究调查中，研究人员发现了LLM中的几个漏洞，从安全和隐私问题到固有的模型漏洞，如数据中毒和后门攻击。 人工智能研究人员继续在数据安全方面取得进步，以解决这些弱点 ，但许多支撑一个工作的LLM仍然脆弱。在过去的十年中，解决这些问题的网络安全公司吸引了更多的投资。 然而，在早期的网络安全公司中，扩展可能很困难，因为企业通常会在初创公司完全扩展和广泛部署其安全产品之前为其技术购买初创公司。 ChatGPT的到来为AI投资增压 。在ChatGPT之后，AI投资已经成为自己的野兽。 R平方: AIVC和所有VC Pre-ChatGPT 0.84 PosPost- Cht-GPT atGPT 0.47 网络投资一直保持稳定，因为 许多网络初创公司在规模扩大之前就被大型公司收购。 Mobile 点com电子商务 Cleantech1.0 Web3 AI 网络安全 25% 20% 15% 10% 5% 0% $20B $89B $116B $419B $67B $286B $8B $166B 机器人和AV 应用AI模型Computing $10B 2018 2019 2020 2021 2022 2023 $0B VC提升AI细分市场综合估价 注：1）自2021年1月以来最新交易筹集了超过5000万美元VC的美国公司的总VC投资和估值。基于PitchBookData，Inc.分类法的细分。2）使用 PitchBookData，Inc.的垂直分类法确定的技术细分。 资料来源：姚一凡等。“大型语言模型安全和隐私调查”(高可信度计算，2024)，PitchBook数据， 公司和SVB分析。的崛起CYBERAI|7 包括模型开发、垂直应用和计算基础设施。利用GenAI解决AI基础设施、模型和应用程序中的漏洞或抵御GenAI驱动的外部威胁和攻击的工具和平台。 包括安全操作，网络安全，身份和访问管理，端点安全，数据安全和应用程序安全。 插座 是一个数字身份验证平 台。 该公司的预测分析平台应用AI技术来验证身份和真实性。 CertiK 是旨在保护和监控区块链协议和智能合约的正式验证技术的开发人员 。 安全异常是云电子邮件安全平台的开发人员，该平台旨在使用基于AI的方法 防止网络犯罪。沙箱AQ是AI量 子的开发者 软件，包括企业密码管理解决方案。 黑豹 是一个基础设施安全和 =$10B =$2.3B =$3.7B 规模: 合规平台，使用AI来检测和响应漏洞。 注：1）适用于美国VC支持的人工智能/机器学习（AI/ML）和网络安全公司。只有估值超过2.5亿美元的公司才会显示AI/ML和网络安全公司。由PitchBooData，Ic.确定的AI/ML和网络安全垂直细分市场。分类法。圆圈代表每个类别（AI/ML，网络安全和CyberAI）的估值规模；每个类别都有自己的规模。 资料来源：PitchBookData，Inc.和SVB分析。的崛起CYBERAI|8 的崛起CYBERAI|9 仅筹集AI资金 AI/网络基金募集 网络安全仅筹集资金 占所有VC募集资金的百分比 45 40 400 300 基金计数 200 100 2018 2019 2020 2021