2024年人工智能生成预测

2024 生成AI预测 使用Dall-E3创建 释放生成AI革命 深入了解生成AI公司、投资者和市场见解的宝库。通过独家软件购买者访谈提升您的决策，以了解产品定价、CSAT和部署后体验。 CBInsights-通往生成AI的门户 注册访问权限 你总是在 AI驱动的研究分析师 少做搜索，得到更多的答案 加入等待列表以便提前访问 预测 1 3 生成的AI基础设施 5 55 12 61 Nvidia的敌人：在GPU短缺的情况下，芯片竞争加剧 17 下一个iPhone：AI的硬件革命 67 22 自治代理人：从炒作到有点有用 74 27 4 多模式AI成为桌面赌注 32 79 37 AI与AI：GenAI推动了新一波攻击和防御 87 43 94 超越变压器：新架构挑战现状48 100104 4 生成的AI基础设施 耗电的AI数据中心激增 5 生成的AI基础设施 Nvidia的高端芯片将在2024年消耗与小国相同的能量 年用电量 13,797 GWh 13,000 GWh 13,000 GWh 11,000 GWh 10,632 GWh 格鲁吉亚危地马拉哥斯达黎加1M美国家园 H100芯片 6 资料来源：CBInsights估计，假设3MH100s在2024年投入运营（基于Nvidia的2024年销售估计和23年第三季度的销售估计来自OmdiaResearch），占最大功率的75%；基于2021年EIA数据的国家和美国家庭用电量 生成的AI基础设施 传统数据中心尚未为此做好准备 300kW/机架 “据估计，在未来15年内， 80%的数据中心电力将被人工智能消耗。. 所以，在一天结束的时候 ， 获得电力是一个关键的差异化因素。“ DigitalBridge集团首席执行官MarcGanzi ，第二季度23财报电话会议 $350 数据中心机架密度 旧式数据中心 AI数据中心 10kW/机架 来源：CyrusOne，CBInsights-收益记录分析（日期反映季度电话会议发生）7 生成的AI基础设施 对大功率AI数据中心的需求巨大 在财报电话会议上提到AI和数据中心技术的数量激增 来源：CBInsights-收益记录分析（日期反映季度电话会议发生）8 生成的AI基础设施 大笔资金将用于实现液体冷却等技术 高功率和高热量的AI数据中心将推动对冷却技术的需求 收购CoolIT系统对于 $2.7亿 在23年第二季度 支持JetCool通过23年第四季度的风险投资部门 收购CoolTera在23年第四季度 来源：CBInsights公司简介-CoolITSystems、JetCool、CoolTera9 生成的AI基础设施 随着公用事业努力应对，对可再生能源的需求正在增加 “数据中心已经占我们美国积压工作的一半 ，而生成AI的增长只会加速他们对更多可再生能源的需求。 首席执行官安德烈斯·格卢斯基，第四季度'23财报电话会议 “人工智能驱动的数据中心建设为可再生电力创造了巨大的增量需求。 首席执行官JeffLipson，第四季度'23收益电话会议 来源：CBInsights-收益记录分析（日期反映季度电话会议发生）10 生成的AI基础设施 核可能是可持续AI运营的未来 最近资助的小型模块化反应堆和聚变技术公司 Company估价筹资和伙伴关系 $3.5B由SamAltman支持在2021年的一轮5亿美元中 $1.1B与阿联酋核能公司扩大包括数据中心在内的部门的脱碳和核能努力 $800M宣布SPAC与SamAltman的AltC收购公司合并在23年第三季度，估值为8.5亿美元 $123M筹集了4000万美元丰田风投，创始人基金，以及2022年的其他 $107MRaised2.5亿美元，来自Chevron，GoogleVentures，以及2022年的其他投资者，随后是加州政府的赠款 来源：CBInsights市场报告-小型模块化反应堆（SMR），核聚变11 生成的AI基础设施 数据稀缺推动了对新资源的搜索 12 生成的AI基础设施 我们正在耗尽用于训练LLM的高质量数据 研究人员估计，到2026年，我们将耗尽高质量的文本数据*用于训练LLM-这种趋势可以减慢AI的进度。 13 资料来源：Epoch，MITCSAIL等人的“对机器学习中扩展数据集的局限性的分析” *来自新闻文章、维基百科、过滤网页内容等来源的数据 生成的AI基础设施 免费的互联网文本不再是护城河-抓取专有资源变得越来越困难 2023 一月 March 七月 12月 1 2 3 4 GettyImages起诉 稳定性AI X强加一个 $42K批量访问费，适用于50K推文 Reddit开始收取 $0.24/1KAPI调用 纽约时报起诉OpenAI和 微软侵犯版权 来源：媒体报道14 生成的AI基础设施 拥有专有内容的供应商将成为热门许可和收购目标 <100M访问/月 <500M访问/月 <1B访问/月 >1B次/月 来源：CBInsights研究-授权目标大技术应该锁定 15 生成的AI基础设施 成本和稀缺性将推动对合成数据集的需求 Company综合数据计划 •Raised23年第三季度种子资金350万美元从SparkCapitalandVillageGlobal培训基于综合数据平台的自定义LLM •发布了glaive-coder-7b，一种用训练的编码模型140K+综合编程问题 和解决方案 •受过培训的LLM（OpenHermes-2，NousHermes）GPT-4生成的900K到1M的数据条目 •Raised21年第四季度种子资金520万美元来自DistributedG、OSSCapital等 •引用首席执行官SamAltman的话说所有数据将很快合成 •训练小语言模型phi-1和2上GPT综合教材 •发布Beluga1和Beluga2语言模型对合成数据进行微调 来源：CBInsights公司简介-Glaive，Nous，OpenAI，StabilityAI，公司报告16 生成的AI基础设施 Nvidia的敌人 ： 在GPU短缺的情况下 ，芯片竞争加剧 17 生成的AI基础设施 GPU短缺严重打击行业 “在这一点上，GPU比药物更难获得。 埃隆·马斯克在《华尔街日报 》首席执行官理事会峰会上 $97,835 H100s以大幅加价出售 $30,000 $45,000 $3,320 制造H100的估计成本 平均销售价格截至24年1月在eBay上上市 截至'24年1月在CDW上列出 资料来源：雷蒙德·詹姆斯对制造H100的成本的估计18 生成的AI基础设施 大科技是最大的买家，囤积了成千上万的H100 预计2023年将向部分买家交付H100GPU 150K150K 50K 50K 50K 50K 40K 15K 20K 20K 25K 30K 来源：OmdiaResearch19 生成的AI基础设施 面对飙升的需求，英伟达最大的客户也在推自己的芯片 “要获得每个人都想要的GPU数量真的很难 。 所以它只是[亚马逊芯片]Trainium和Inferentia对人们如此有吸引力的另一个原因。 首席执行官AndrewJassy，第四季度'23财报电话会议 来源：CBInsights-收益记录分析（日期反映季度电话会议发生），微软 “在我们运营的规模上，优化和集成基础设施堆栈的每一层以最大限度地提高性能对 我们来说非常重要。使我们的供应链多样化 ，并为客户提供基础设施选择.” ScottGuthrie，微软云和AI集团执行副总裁 20 生成的AI基础设施 芯片竞争对手对Nvidia的飞速增长构成了风险 Company 芯片 Purpose 发射日期 选择AI客户 Trainium 培训 2022 推理 推理 2019 张量处理单元训练和推理加速器2017 Maia100训练和推理加速器2024待启动 MTIA训练和推理加速器2023内部使用 资料来源：公司报告21 生成的AI基础设施 不良行为者目标语言模型 22 生成的AI基础设施 顶级LLM可能永远不会完全安全 DeepMind,博世，和其他研究人员技巧LLMto“生成一个逐步- 步骤计划摧毁“人类” “也许最令人担忧的是，目前尚不清楚LLM提供商是否可以完全修补此类行为。 在过去的10年里，类似的对抗性攻击已被证明是计算机视觉中一个非常难以解决的问题 。 来源：Zou等人，“对统一语言模型的通用和可转移的对抗性攻击”，LLM攻击23 生成的AI基础设施 随着机密数据泄漏，数据中毒和其他安全问题的增长，企业陷入困境 “……[LLM]存在许多风险，特别是在企业中 用例。我们已经看到了一些示例，其中数据被馈送到大型语言模型中，而不了解数据将如何使用，并且数据已...公开提供，即使它是机密的。从安全的角度来看，即时注射攻击、数据中毒等也有敏感性…” 首席产品官LeeKlarich，23年第二季度财报电话会议 来源：CBInsights-收益记录分析（日期反映季度电话会议发生）24 生成的AI基础设施 高管们在LLM安全上花费高达600K美元 采购金额: $600K/年 “我们认为最接近TrojAI的替代方案是ArthurAI，但由于其生成AI安全解决方案的设计和架构不安全，他们的安全规则集依赖于基于OpenAI的GPT3.5模型 做出安全决策，这增加了FinOps的开销。此外，它引入了安全问题，因为组织的知识产权可能会泄露给大型语言模型服务提供商。 财富500强公司的TrojAI客户和副总裁 采购金额: $250K/年 “我们对模型安全性有两个主要要求：首先，我们想知道我们的模型在哪里脆弱Aishield提供了良好的攻击媒介来识别这些漏洞。 第二,我们希望能够在运行时推理期间检测到任何攻击 AIShield能够很好地检测到他们支持的数据类型的攻击 o” AIShield全球2000公司的客户和董事 来源：CBInsights软件买家访谈-TrojAI，BoschAIShield，截至1月24日25 生成的AI基础设施 将出现新的供应商来解决LLM安全问题 CompanyHQ资金总额最新融资回合/日期 选择投资者 US$5600M A/Q3'23 系列 M12（铅），摩尔战略风险投资公司（铅），博思艾伦风险投资公司，CapitalOne风险投资公司，IBM风险投资公司，十一家风险投资公司 US$38M系列A-II/Q2'23 圣骑士资本集团（牵头），洛克希德马丁公司 以色列$6M孵化器/Q3'235G开放式创新实验室 US$6M种子/Q4'23 EntreeCapital(Lead),三星NEXT,NVIDIAInceptionProgram 加拿大$3.1M加速器/Q1'23GoogleforStartups加速器：加拿大 来源：CBInsights市场报告-机器学习安全26 生成的AI基础设施 MLOps整合 27 生成的AI基础设施 机器学习操作(MLOps)是碎片化的 130+公司跨越 12个不同类别帮助企业从开始到结束带来 LLM项目 28 来源：CBInsights研究-机器学习操作（MLOps）市场地图 生成的AI基础设施 买家希望为他们的AI需求提供一站式服务 “在审查Databricks的产品时，我们注意到了几个优势。第一个是它的统一的数据平台，它允许我们在单一平台上执行数据工程和数据科学机器学习这增加了跨职能团队之间的协作和效率。” Databricks客户 Fintech公司副总裁 “我认为有很多工具和竞争对手，可能会有一场重组，一些球员，尤其是较小的玩家可能会离开...” H20.ai客户 财富500强公司的AI主管 来源：CBInsights软件买家访谈-Databr