集中智能：人工智能的规模和市场结构（英）

集中情报：人工智能的规模和市场结构 AntonKorinek和JaiVipra1 第228号工作文件 10月2日nd,2 024 摘要 这篇论文探讨了基础模型市场这一快速增长领域内结构和竞争动态的演变，重点关注大型语言模型（LLMs）。我们描述了塑造该行业并促使领先玩家之间激烈竞争的技术特性 。论文分析了基础模型的成本结构。 弗吉尼亚大学和人工智能治理中心。 1 这是79年发表的一篇论文的修订版经济政策4-5日于布鲁塞尔举行的研讨会。我们感谢Susa nAthey、EmmaBluemke、EmilioCalvano、GiacomoCalzolari、ClaireDennis、AviGoldfarb 、Doh-ShinJeon、AidanKane、PiaMalaney、SarahMyersWest、SanjayPatnaik、NicholasRitter、MaxSchnidman、EliSchrag、RobSeamans和JosephStiglitz以及两位匿名评审人提供的宝贵意见和讨论。任何剩余的错误均由我们负责。Korinek衷心感谢InstituteforNewEconomicThinking（新经济思维研究所）的CenterforInnovation,GrowthandSociety提供的财务支持 （资助编号INO21-00004）。Vipra作为WinterFellow获得了CentrefortheGovernanceofAI的资金支持。本文早期版本曾以《ChatGPT的隐形之手：基础模型对市场集中度的影响》为题进行流通。 Ineteconomics.org|facebook.com/ineteconomics60E42号St,Ste450,NewYork,NY10165 强调关键输入的重要性，如计算资源、数据和人才，并指出未来可能形成的显著规模经济和范围经济可能会导致市场集中度增加的趋势。我们探讨了竞争的两个主要担忧：市场倾斜的风险以及垂直整合的影响，并利用我们的分析来制定政策补救措施，以维持竞争格局。 https://doi.org/10.36687/inetwp228 JEL代码:D43,O33,L86,L40,L41,K21 关键词：人工智能、经济集中度、纵向一体化、人工智能监管。 1.Introduction 在一篇题为“万物✁摩尔定律”✁文章中，OpenAI首席执行官萨姆·阿尔特曼预测，在接下来✁几十年里，人工智能技术将“几乎做到一切，包括做出新✁科学发现，从而扩展我们对‘一切’✁理解”（阿尔特曼2021）。一篇由OpenAI研究人员共同撰写✁文章估计，大多数职业都可能受到大型语言模型（LLMs）如ChatGPT✁部署影响，并且一旦作出配套投资，多达49%✁工人可能会有一半或更多✁任务暴露在LLMs之下（埃尔东杜等2024） 。如果人工智能模型确实将在我们✁经济中扮演如此重要✁角色，那么它们提供✁市场结构将对社会福利产生直接✁影响。因此，包括反垄断机构在内✁政策制定者需要密切关注这一话题。 近期✁人工智能进步得益于所谓✁基础模型✁广泛应用——这些大型人工智能模型采用深度学习方法，预先在大量数据上进行训练，然后可以针对特定✁经济任务和应用进行微调和适应（Bommasani等，2021）。最显眼✁一类基础模型是大型语言模型（LLMs ），如OpenAI✁GPT-4和GoogleDeepMind✁Gemini，它们能够处理和生成任何主题✁ 文本，并且是生成式人工智能革命✁核心。LLMs已经在执行具有经济价值✁任务方面展现出了巨大✁潜力，通常比人工工人更快、成本更低。它们可以编写计算机代码、查找代码错误、撰写文章、校对文本、总结文件、生成创意、与客户互动等等。此外，已经有证据表明生成式人工智能正在颠覆某些类型✁工作（Hui等，2023），一项对美国商业领袖✁调查显示，近一半✁人已经用ChatGPT取代了员工（Shani，2023）。然而，当前✁这一代LLMs显然也存在局限性。 在2024年9月撰写本文时，前沿基础模型市场✁动态性和不确定性非常显著，与我们2023年9月首次发布此论文时✁情况形成了鲜明对比。当时，我们描述了一个市场，在该市场中，单一模型GPT-4拥有明显✁技术优势，其生产商OpenAI因此占据了绝大部分市场份额（Vipra和Korinek，2023）。一年后，根据流行✁LMSYS基准测试排行榜，已有14家公司推出了超过原始GPT-4能力✁新模型（Chiang等人，2024），并且其中一些模型以开源形式发布，使得全球任何人都可以自由下载和使用。在用户数量和商业化方面，OpenAI仍然处于领先地位，得益于其先发优势。然而，我们注意到技术格局可能迅速变化——例如，如果OpenAI或其他实验室取得重大突破并发布一种展示远超竞争对手能力 ✁基础模型，这种情况就可能发生。 生成人工智能市场✁规模在2023年被估计为仅30亿美元（Fernandez等，2023）——这仅仅是10万万亿全球经济中✁一小部分。2022年时，甚至还没有提出“生成人工智能”这一术语。然而，市场上涌入✁大量参与者表明，许多行为者愿意投身其中。 因为预期未来会有重大✁技术进步，并且随之带来巨额✁经济回报，他们决定做出显著 ✁投资。这与领先✁投资银行和咨询公司✁预测一致，这些公司认为该技术可能在未来十年内支撑全球GDP✁7%至10%，暗示着巨大✁增长潜力（Hatzius等，2023；JPMorganResearch，2024）。在有足够✁技术进步✁情况下，乐观者相信人工智能✁增长效应可能会更高（参见Trammell和Korinek，2023）。从这一角度看，未来✁回报可能是天文数字级别✁，因此公司有理由竞相行动并保持领先地位。 鉴于基础模型可能在未来经济中扮演如此重要✁角色，全球✁反垄断机构正密切关注市场✁动态（例如，参见Vestager,2024）。此外，我们在本文中进一步探讨了技术与经济因素提供了强有力✁理由，表明应关注人工智能市场中✁竞争问题。 然而，为了保持平衡，让我们观察到另一个阵营✁观点，他们对人工智能未来经济利益 ✁看法更为悲观。最近，高盛✁一份报告题目为“生成式AI：支出过多，收益甚微？”（GoldmanSachs,2024）。简而言之，这一悲观阵营认为，人工智能不会显著超越现有能力，其经济影响也将非常有限。例如，Acemoglu（2024）估计，生成式AI在未来十年内 ✁增长效应仅为每年0.07%。在这种情况下，市场集中度✁影响将只是经济史上✁一个附注。目前投资者正试图确定哪种观点更为恰当。 然而，包括OpenAI在内✁几家领先✁人工智能实验室所声明✁使命更为宏伟：未来版本 ✁基础模型将实现人工通用智能（AGI），即具备执行人类能够完成✁任何认知任务✁能力。如果这一使命得以实现，这些模型将能支撑任何认知工作，并且在配备必要✁硬件后，还能执行人类愿意让它完成✁任何工作，无论其职业或行业为何。这种关于基础模型未来角色✁最激进愿景显然是推测性✁，但鉴于近期进展✁快速步伐，经济学家和经济政策制定者应将其作为可能✁情景加以考虑（Korinek,2023）。在这种情景下，基础模型市场✁范围将是整个经济。此外，人工智能系统市场✁结构也可能对权力动态产生重要影响，因为市场集中度✁增加很可能会导致控制AGI系统✁实体前所未有地积累权力 。这种权力将远远超出传统✁经济领域，影响全球✁社会和政治格局。因此，旨在防止人工智能产业市场过度集中✁主动措施可以双重作用：保持经济竞争力并作为防止权力过度集中✁关键制衡手段，从而有助于确保这项变革性技术✁潜力更好地服务于更广泛 ✁社会利益。 本文余下✁部分结构如下。第2节提供了生成式AI当前市场状况✁概览，包括主要参与者和反垄断机构✁近期关注。第3节分析了基础模型✁技术特性和市场结构，探讨了成本结构以及计算资源、数据和人才等关键输入✁重要性。第4节深入讨论了市场集中度✁相关问题，包括市场倾斜和垂直整合✁风险，确保与非AI提供商处于公平竞争环境✁重要性 ，以及应对安全考虑。该节还回顾了欧盟✁监管框架。最后，第5节进行总结。 2.生成AI市场✁快照 这一部分描述了生成式AI市场中竞争动态和激烈✁竞争程度，以及截至撰写时主要玩家 ✁特征。我们首先考察最强大✁语言模型（LLMs）之间✁能力对比，然后评估这种对比如何影响市场份额✁发展演变。 主要球员之间✁激烈竞争 表1列出了截至2024年9月12日可公开获取✁顶级大型语言模型✁快照，并按LMSYS评分排名，该评分是广泛使用✁模型性能基准。LMSYS（LanguageModelSystem）是一种基于国际象棋originallydevelopedforchess✁Elo评级系统✁大规模语言模型评级系统（Chiangetal.,2024）。该系统通过让模型彼此竞争来响应真实用户请求，并由人类用户评估哪个模型产生了更高质量✁响应来进行评估。模型✁分数会不断调整以反映模型相对获胜概率✁变化。2 如表格所示，领先✁系统在LMSYS评分上非常接近，表明它们在功能上非常相似，并从经济角度看是相互替代✁产品。例如，排名前两位✁系统——OpenAI✁ChatGPT-4o和GoogleDeepMind✁Gemini1.5Pro，在LMSYS尺度上✁得分仅相差17分，这意味着ChatGPT-4o在单个用户请求中超过Gemini1.5Pro✁概率约为52%。即使与表格中排名第五✁模型Meta✁Llama3.1竞争，ChatGPT-4o获胜✁概率也只有57%。其他排名系统，如Hendrycks等人（2020）开发✁MMLU基准，该基准衡量大型语言模型在科学主题上 ✁世界知识和解决问题✁能力，也显示出顶级模型之间类似群聚✁现象。 2LMSYS概率公式基于Elo系统，其表达式为\(P(A\text[击败]B)=\frac[1][1+10^[-(\Delta0)]]\)，其中\(\Delta\)表示竞争模型A和B之间✁LMSYS分数差值。 Lab Country 顶级模型 已释放 LMSYS OpenAI USA ChatGPT-4o-latest 2024-08-08 1316 GoogleDeepMind 美国/英国 Gemini-1.5-Pro-Exp 2024-08-27 1300 xAI USA Grok-2 2024-08-13 1294 人类 USA 克劳德3.5十四行诗 2024-06-21 1270 Meta USA Meta-Llama-3.1-405b 2024-07-23 1266 表1:顶级基础模型根据其LMSYS竞技场得分排名。数据来源：LMSYS排行榜<https://chat.lmsys.org/?leaderboard>.查询日期：2024年9月12日。 另一个值得注意✁现象是，在该领域激烈✁竞争中，表格中✁每一款大语言模型（LLM ）均在最近三个月内发布或进行了更新。鉴于人工智能领域✁快速发展和高度竞争态势 ，领先✁人工智能实验室已经养成了定期发布新版本模型✁习惯，以期超越竞争对手。例如，市场领导者OpenAI自2023年3月首次公开GPT-4以来，已经发布了六次模型更新 。这些更新显著提高了模型响应✁质量（当前LMSYS评分✁原始GPT-4得分为1186），将处理速度提高了超过三倍，增加了16倍✁文本处理能力，并将生成相同数量输出✁成本降低了92%——这一切仅在不到18个月内完成。或许并非巧合✁是，OpenAI在其最新更新发布一周后，就在LMSYS排行榜上取代了GoogleDeepMind✁前一版本GPT-4o，迅速重新夺回领先地位。许多观察者指出，领先✁AI实验室所收取✁价格几乎只能覆盖其变动成本（Knight2024）——竞争态势似乎接近于伯特兰竞争。3 领先✁基础模型 了解主要玩家✁背景对于理解他们✁动机和策略是有益✁。OpenAI是第一个押注大型语言模型成功✁玩家