通用人工智能（AGI）研报总结
概述
通用人工智能（AGI）研究旨在开发能够进行推理、解决问题并自主适应新挑战的软件，无需针对特定任务编程。与窄AI不同，AGI具备执行人类任何智力任务的能力，并可能自动化跨行业多数经济价值工作。
背景
AGI的起源可追溯至20世纪中叶，图灵测试和“人工智能”术语的提出标志着该领域的诞生。早期乐观预测曾认为AGI将在十年内实现，但研究挫折导致了20世纪70年代的AI寒冬。90年代IBM Deep Blue击败国际象棋大师，21世纪AlphaGo击败围棋冠军，以及2022年ChatGPT的发布，均标志着向AGI的逐步迈进。流行文化中的JARVIS角色也反映了人们对智能系统的追求。AGI可能通过领域突破逐步发展，而非一次性出现。
技术和流程
当前生成式AI（GenAI）虽代表重要进展，但仍不足以实现通用智能。François Chollet等学者对通过扩大LLMs规模实现AGI持怀疑态度，主要担忧包括：
- 泛化与规模化：仅扩大规模无法解决适应智能的核心问题。
- 因果与抽象推理：当前模型缺乏因果理解能力。
- 最小数据获取技能：人类智能可通过少量信息学习，而当前模型依赖大量数据。
Chollet认为未来AGI需整合认知架构、因果建模和自监督学习。其他学者如Yann LeCun、Jürgen Schmidhuber等也对LLM途径持怀疑态度。
应用
AI已广泛应用于各行业，GenAI在文本生成等领域补充人力。AGI可能在特定领域率先突破，创造意外应用。从窄AI到True AGI的过渡可能包括：
- 窄AI阶段：特定任务优化。
- GenAI阶段：多领域应用。
- True AGI阶段：全面通用智能。
局限性
开发AGI面临多重挑战：
- 技术和计算问题：
- 计算成本指数级增长（约每九个月翻一番），Gemini Ultra项目费用超1.9亿美元。
- 硬件限制：现有系统压力巨大，AGI需新硬件突破。
- 能耗巨大：规模扩大将进一步加剧电力负荷。
- 深度学习局限：依赖数据记忆而非推理。
- 概念和认知障碍：
- 智能定义不明确，训练数据缺乏。
- 知识表示困难，转移学习未完全实现。
- 常识推理和意识复制仍是主要挑战。
- 伦理担忧与社会影响：
- 人工超级智能（ASI）风险：AGI可能演变为超越人类控制的ASI。
- 劳动力置换：大规模自动化可能导致失业和经济动荡。
- 生存风险：“回形针最大化者”问题凸显单一目标优化可能带来灾难性后果。
- 伦理监管：需严格遵循道德框架确保安全。
额外考虑因素
- 实体问题：是否将AGI集成到机器人系统仍存争议。
- 基准测试挑战：AGI基准模糊，评估进展困难。
- 交叉学科性质：需计算机科学、神经科学等多领域协作。
最近交易活动和市场展望
2024年AGI领域投资激增：
- xAI B轮融资获60亿美元，用于构建AI超级集群。
- OpenAI计划筹集65亿美元，推动市值达1500亿美元。
- 中国Moonshot AI获3亿美元融资，显示全球兴趣。
- 人才竞争激烈，亚马逊、微软等从初创公司挖角。
- 竞争加剧，投资从VC转向债务资助的资本支出。
- 市场高度竞争，AGI发展被视为战略重点。
推荐阅读
- LLMs Are a Dead End to AGI, Says François Chollet
- 训练前沿AI模型的成本
- 为什么通用人工智能超越深度学习
- 人工智能的地缘政治
