AI与可持续发展展望（中文版）

AI与可持续发展展望 AIandSustainableDevelopmentOutlook 编委会 顾问 主编策划 司晓丨腾讯副总裁腾讯研究院院长杨健丨腾讯副总裁腾讯研究院总顾问 翟永平丨腾讯SSV碳中和实验室高级顾问张骁丨腾讯SSV数据与算法中心负责人刘玉龙丨腾讯青腾负责人 任颋丨北京大学汇丰商学院副院长郝亮丨南方科技大学教授 黄平丨香港中文大学（深圳）国际事务研究院研究副教授高级公共管理研修项目中心执行主任 赵俊华丨香港中文大学（深圳）李孜丨腾讯研究院 吴海峰丨深圳高等金融研究院刘国龙丨南洋理工大学 编写委员 王强 王鹏 柳文轩 王馨蕾 杨 超 廖焕新 平依鹭 研究支持 张书文 丁子岳 孟祥瑞 朱一凡 叶于诚 王家驹 谢丰泽 张鹏 刘欣语 联合出品 腾讯研究院香港中文大学（深圳）腾讯SSV数据与算法中心腾讯青腾 前言 FOREWORD AI与可持续发展： 人机共生的研究与分析框架 李孜 腾讯研究院资深专家 联合国《2030年可持续发展议程》强调“人类、地球、繁荣、和平与伙伴”，为全球提供了从传统发展模式向可持续发展模式转变的范式。2024年9月联合国未来峰会将进一步讨论人工智能、数字经济与可持续发展的关系。针对这样的背景，AI与全球可持续发展展望报告，将分析AI及大模型技术革新对对全球可持续发展的挑战与机遇。 在21世纪，气候变化、AI技术进步与地缘政治的交融，正在深刻地重塑世界新格局，这将给我们带来什么挑战与机遇？如何构建一个跨学科，跨界的综合框架来支持分析与战略规划？ —.AI与可持续发展研究与分析框架 AI与可持续发展展望旨在分析和探索“AI与可持续发展框架”关键层面，为新世纪格局的科技、社会、经济与政治叙事提供框架。从科技企业AI技术与产业领导的未来人机交互界面（海平面），从而提供产品抓手来影响世界的关键层面，衍生到“海平面”之下主导AI及机器世界的基础设施与基础协议层面，以及海平面之上影响人思考与行为模式的各个层面，共计8个层面从底层到顶层简要介绍： 伦理 1.意识形态2.民族 3.国家 人类 地缘政治 4.人机交互界面 5.隐私&分配 技术革新 AI 7.1CT 8.碳化&能源 气候变化 图1AI与可持续发展：人机共生的研究与分析框架 AI与气候变化及全球碳中和层面 “碳中和”能否通过社会、经济和政治结构成为一项关键原则？ 这个层面强调了东西方之间新的核心共识，强调了碳中和的愿景，并强调了技术和价值观之间的关键交汇点。这个概念强调将环境和气候风险整合到新数字科技经济体系中，以促进可持续发展，减少气候变化的影响，并确保环境、经济和社会的协调发展。AI及大模型支持碳交易、碳捕获和碳储存等新模式是实现这一目标的关键工具。 AI与信息和通信技术基础设施层面 信息通信技术如何涵盖技术设计和价值系统设计之间的跨学科研究，特别是在地缘政治中的新战略定位？ 前言 FOREWORD 信息通信技术构成了现代地理景观的基石。这个层面将技术堆栈分为技术基础设施、网络层、应用层和数据流。这些元素在信息传播、创新与社会变革中发挥着关键作用，但也在道德和隐私方面提出了挑战。 AI与世界数字ID系统和协议层面 前言 FOREWORD 人机共生世界的基本问题是，我们如何在人类和人工智能之间进行区分，并建立一个全球数字身份系统？ 在这个层面上，重点是“世界ID和基础协议”的概念，通过标识、识别和数据管理，以及可编程的金融技术，特别是与碳中和逻辑集成的可编程金融系统，将强调人工智能时代的新工作模式与分配制度。该框架强调了隐私保护的必要性，并可能通过人工智能产业收益实验全民基本收入（UBI）的可能性？ AI与数据管理和资源分配层面 技术协议设计如何深刻影响数据的定义与资源分配？ 定义和使用数据本身结构将在资源分配中做出决定作用？数据的定义、使用和共享或将决定数据产生的价值如何分配给不同的利益相关者，包括个人、企业和社会组织等。因此，数据管理不仅需要考虑个人隐私权，还需要考虑资源和公共管理，以确保公平性和可持续性。数据创造的商业和社会价值决定了其作为未来资源分配的关键因素的重要性。无论是在物质层面，如土地和自然资源，还是在虚拟层面，包括数据，它们都被认为是最重要的生产资料，需要高度重视数据和资源的重要性。 AI与人机界面层面，及“海平面” 作为一个强大的工具，人工智能如何在实现东西方之间新的全球共识方面发挥关键作用？ 该层面侧重于与“人工智能与人的需求”的技术设计与产品的相关的问题，是当下绝大多数数字科技企业的发展方向。因此，需要一种平衡的方法来充分利用人工智能的潜力来促进社会的整体利益，同时解决透明度、公平性、教育和监管等问题。这个场面需要深入探索关键领域，如技术设计、人工智能技术的应用、决策、道德、教育和监管。 AI与国家治理层面 AI及数字技术的兴起对传统边界和国家治理可能带来了哪些挑战? 在过去与现在，由于非政府组织、跨国公司等非国家实体能够推动超越国家范围的变革和治理。在这一背景下，全球治理由上述非国家实体共同参与，作为国家机构的补充。 同时AI及数字技术和网络，让个人和一些组织能够参与到构建、参与并支持其建立的虚拟机构或“云国家”中。这些虚拟机构不依赖于地理位置，而是基于在线通信和数字协议。个人和机构根据自己的价值观选择加入这些虚拟国家，并通过区块链等技术实现自治和治理。这种观点挑战了传统国家主权的概念，将治理下放至个人和社区层面。 这些现象反映了AI与数字技术如何重塑了内部结构和治理的复杂性。一方面，数字技术促进了全球范围内的合作与治理，打破了传统国家边界；另一方面，它也提供了个人和社区自我组织和治理的新途径，挑战了国家的传统角色。 AI与民族认同 我们应该如何看待民族在地缘政治中的作用，民族在地缘政治景观中发展新文明中的重要性？ 纵观历史，民族身份和文明之间的竞争与合作的相互作用塑造了不同国家和地区的发展轨迹。中国历史上“华夷之辨”和西方罗马帝国文明的向心力等例子提供了这方面的历史经验。而当下社会发展的多样性和复杂性，需要我们更深入地思考AI对未来从文明体系到人类族群的演进的影响。 前言 FOREWORD AI与价值观和道德伦理层面 人工智能时代将形成何种价值观和全球道德伦理体系？ 前言 FOREWORD 随着社会在应对气候变化和人工智能技术创新的同时，政治和经济系统正在经历根本性的转变。这包括政府决策对商业行为的影响、国际关系的演变以及全球新规范的建立。社会要求政府和企业采取更加负责任和可持续的行为，适应法律和法规的改革。 此外，国际社会正在努力构建一个全球性的未来议程框架，以解决气候变化、数字权利等跨领域问题。这种转变涉及到重新定义人类与AI及科技技术之间的道德关系，对治理结构和全球规范产生深远影响。它不仅要求我们重新思考技术发展与社会伦理之间的平衡，还涉及到如何在全球范围内协调行动，确保技术进步能够促进共同福祉，而非加剧不平等或环境破坏。这一过程需要跨学科的合作，包括法律、伦理学、政策制定、科技以及社会学跨界共同参与，以确保全球道德伦理体系的构建既符合人类共同利益，又能适应快速变化的技术环境。 总之，在“AI与可持续发展展望”框架试图结构性的理解和分析气候变化，大模型技术革新与地缘战略中的复杂问题。 在分析了“AI与可持续发展展望”的中长期框架后，未来几年的短期内AI及大模型技术突破是否可以支持AI与技术产业发展，社会与经济变革呢？ 二.AI及大模型技术革新 这部分可以通过分析的四个主要因素即投资、计算能力的提高、算法效率的提升和如强化学习等技术带来的收益，由于对大模型研发的一个重要区域是美国，对美国的AI与大模型发展规模和效应做出合理判断，也是对中国有借鉴意义： 1.投资 2024年2月10号，OpenAI首席执行官SamAltman提出计划筹资7万亿美元兴建包括GPU堆栈在内的AI方面的投资。事实上，大型科技公司一直AI研发上大幅增加资本支出。微软和谷歌的资本支出可能会超过500亿美元，AWS和Meta今年的资本支出超过400亿美元。由于人工智能的蓬勃发展，以OpenAI为代表的美国AI研发与应用的公司带动的相关资本支出总额将同比增长500至1000亿美元。同时，通过削减其他资本支出，这些企业将更多资金转移到人工智能上。此外，其他科技企业也在大力投入人工智能，例如特斯拉今年在人工智能上将花费100亿美元。更重要的是美国政府也将大力投资人工智能。 美国今年在人工智能总投资预计可能达到1千亿美元。未来几年年，美国平均每年的人工智能总投资预计可能达到1万亿美元1，这个数字听起来令人难以置信。 从1996年到2001年，美国在电信行业2在建设互联网基础设施上投资了近1万亿美元（按当时的美元购买力折算到今天）。 可见，在重大技术革新时期，特别是基础设施方面的巨大投资，美国存在先例与可行性。但是，如果美国的人工智能投资达到每年1万亿美元，将占美国2024年28.63万亿美元GDP的约3.5%，这也是巨大的。但是美国千亿级的投资已经开始，如OpenAI、AWS、XAI、Google与Meta等公司在规划的GPA集群投资计划加在一起今年总和接近千亿美元。 1[《SITUATIONALAWARENESS》的报告： https://situational-awareness.ai/https://sgp.fas.org/crs/misc/RL34645.pdf] 2[https://www.latimes.com/archives/la-xpm-2002-jun-30-fi-billions30-story.html] 前言 FOREWORD 2.AI的计算能力的提高 前言 FOREWORD 计算能力和投资额度的关系由两个趋势决定：1）单位计算投资成本的下降和2）总计算投资。如果未来1年内单位计算投资成本下降90%，而计算投资增长了10倍，计算能力会增长100倍。在阐述计算能力增长时需要讨论这两个点。使用EpochAI的公开估计来追踪从2019年到2023年的计算扩展，从GPT-2到GPT-3的扩展非常迅速，计算资源的使用也急剧增加，从较小的实验规模扩展到使用整个数据中心来训练大型语言模型。随着从GPT-3到GPT-4的扩展，需要为下一个模型构建全新的、更大规模的集群。然而，这种快速增长的趋势仍在继续。总体而言，EpochAI估计表明，GPT-4的训练使用的计算量比GPT-2多约3000到10000倍。 OOM（数量级，orderofmagnitude）：a个OOM指的是10^a图2EpochAI估计表 总体来看，这只是长期趋势的延续。由于投资的广泛增加以及专门用于AI工作负载的GPU和TPU等芯片的开发，未来几年里，通过价值数百亿美元的GPU堆栈集群，将实现现在计算量的100倍，似乎非常有可能实现。通过建设超过1000亿美元的GPU集群，实现现在计算量的1000倍的也显得可行。 3.算法效率提高与硬件技术改进 从在过去四年的公开数据分析，可以推断： ·从API成本分析，在明确区分训练成本或效率，和使用成本或效率（包括输入和输出），一般来说训练成本比使用成本大得多。从计算成本变化=算法效率变化*单位计算成本变化，可以推断出从GPT-3到GPT-4的单位计算成本下降或者效率提升是可能来 自于硬件设计的改进。 ·多种大模型正在通过算法改进，计算成本下降与硬件设计已数十倍降低计算成本，而且这个趋势还在继续强化。 ·甚至可能看到更多基础性、类似Transformer的突破，获得更大的收益。 未来3年到4年，相对于GPT-4，预期算法效率将提高到当前算法效率的10到1000倍。 4.其他技术与方法（Unhobbling） 通过人类反馈进行强化学习(RLHF)使模型变得真正有用和有商业价值。比如，RLHF让小型模型在用户偏好上等同于一个非RLHF的百倍大模型。 思维链(Chainof