自稳态觉醒：复杂科学与东方智慧下的AI奇点与未来

张江 北京师范大学系统科学学院教授 集智俱乐部创始人集智科学研究中心创始人 自稳态觉醒 复杂科学和东方智慧视角下的AI奇点与未来 AISingularityandPlanetaryIntelligence 自稳态觉醒——复杂科学和东方智慧视角下的AI奇点与未来 AISingularityandPlanetaryIntelligence 张江 北京师范大学系统科学学院 集智俱乐部、集智学园（北京）科技有限公司、集智科学研究中心 2017 区块链VS.人工智能 用有竞争力的方式重塑行业 更多“人工智能&复杂系统”的知识，请关注官网：campus.swarma.org HotChatGPT HotChatGPT 解数学题 Bubeck,Sébastienetal.“SparksofArtificialGeneralIntelligence:EarlyexperimentswithGPT-4.”ArXivabs/2303.12712(2023):n.pa HotChatGPT 写诗写Latex代码 写Python代码 创作音乐 解释笑话 ∞ Bubeck,Sébastienetal.“SparksofArtificialGeneralIntelligence:EarlyexperimentswithGPT-4.”ArXivabs/2303.12712(2023):n.pa 奇点临近？ ChatGPT(1mon) 互联网(3yrs) PC(6yrs) VCR(8yrs) 移动电话(11yrs) 传真(20yrs) 有线电视(25yrs) 电话(40+yrs) 达到1000万用户所用的时间（美国） 进化大事件 5,000,000,000地球诞生 5,000,000,00 脊椎动物 5,000,000,0 5,000,000 哺乳动物灵长类动物 5,000,00 5,000,0 现代人大冰河时代 5,000 5,00 人类历史 科学萌芽 5,0 5 人工智能 智能革命 人类像小孩子一样危险 https://www.technologyreview.com/2023/05/02/1072528/geoffrey-hinton-google-why-scared-ai 2020 全球高温不退 全球高温不退 全球高温不退 全球15个＂气候临界点＂已被激活9个 PNAS前沿：悲观预测50年后全球气候，35亿人生存受到威胁 极端天气间接导致国家冲突 模拟的2000年、2005年、2010年和2015年全球武装冲突发生风险图 TheGlobalRisksReport2020 Ge,Quansheng,etal."Modelingarmedconflictriskunderclimatechangewithmachinelearningandtime-seriesdata."Naturecommunications13.1(2022):2839. 南亚 东亚和太 平洋地区 撒哈拉以 南非洲 中东和北非 北美 拉美和加 勒比地区 欧洲和中亚 全球GDP如何演变 全球GDP预测 不同时间，各地区平均GDP年增长率（%） 全球年GDP超过 200万亿 中国 中国GDP超过美国 美国 全球年GDP超过 100万亿 1982-2021均值 高盛报告：人工智能对经济增长的影响 使用AI对生产率增长的影响 百分点 百分 可使用AI提供的自动化的全职等效人员比例 百分比比 百分点 百分比 受AI自动化影响的职业工作量比例 百分比 百分比 受AI自动化影响的行业就业比例 百分比 0-10%：无自动化10-49%：AI辅助50%+：很可能被替代 行政、法律职业将更容易被冲击 全球18%的工作将被AI自动化AI将导致10年内1.4%的经济增长2/3的工作岗位将受冲击 百分比百分比 ¼的工作任务可以被AI自动化（美国） GoldmanSachs:Thepotentiallylargeeffectsofartificialintelligenceoneconomicgrowth(Briggs/Kodnani),26March2023 人类百年未遇之大变局 新的问题需要跨学科思考 新的问题需要跨尺度思维 新的问题看似无关，实则相互交织在一起 新的问题需要新的理论 什么是复杂科学？ 大纲 l为什么是复杂科学 l奇幻五年背后的复杂 l复杂科学要直面的问题l复杂科学的关键概念 l复杂科学之奇点 l技术奇点l经济奇点l生态奇点l奇点融合 l东方智慧之阴阳 l阴阳与平衡，混沌边缘的复杂 l太极生阴阳，从熵增定律到观察者l阴阳返无极，自稳态觉醒 l解决之道之自稳态觉醒l人类文明与自稳态觉醒l人工智能与理性人假说l个体与组织的回归本心 确定性的终结 IT→BIT 什么是复杂科学？ 采用跨学科的手段，研究各类复杂系统背后普适规律的一门新兴学科。 什么是复杂科学？ 采用跨学科的手段，研究各类复杂系统背后普适规律的一门新兴学科。 什么是复杂科学？ 采用跨学科的手段，研究各类复杂系统背后普适规律的一门新兴学科。 复杂系统无处不在 遥远的相似性 涌现现象与规律 整体大于部分之和 ---亚里士多德 涌现现象与规律 整体大于部分之和 有生于无 ---亚里士多德 ---老子 什么是复杂（性）科学？ •采用跨学科的手段，研究各类复杂系统背后普适规律的一门新兴学科 •复杂科学尝试提炼： –普适的概念 –普适的规律 –普适的方法 大纲 l为什么是复杂科学 l奇幻五年背后的复杂 l复杂科学要直面的问题l复杂科学的关键概念 l复杂科学之奇点 l技术奇点l经济奇点l生态奇点l奇点融合 l东方智慧之阴阳 l阴阳与平衡，混沌边缘的复杂 l太极生阴阳，从熵增定律到观察者l阴阳返无极，自稳态觉醒 l解决之道之自稳态觉醒l人类文明与自稳态觉醒l人工智能与理性人假说l个体与组织的回归本心 奇点？ 引力奇点 奇点-1958 我们的对话集中讨论了科技的不断加速进步和对人类生活方式的改变，这给人感觉像是在接近人类历史中的某种本质奇点（singularity），超越了这个奇点，我们所熟知的人类的社会、艺术和生活模式，将不复存在。 JohnvonNeumann Ulam,S.,TributetoJohnvonNeumann,BulletinoftheAmericanMathematicalSociety,vol64,nr3,part2,May,1958,-49 I.J.Good 让我们将超级智能机器定义为一种能够远远超过任何人的所有智力活动的机器。 如果说设计机器是这些智力活动的一种，那么超级智能机器肯定能够设计出更加优良的机器。 毫无疑问，随后必将出现一场“智能爆炸”，人类的智能会被远远抛在后面。 因此，第一台超级智能机器是人类需要完成的最后一项发明，前提是这台机器足够听话，会告诉我们如何控制它。 智能爆炸-1965 技术奇点-1982 一旦达到奇点，库兹韦尔表示，机器智能将无比强大， 超过所有人类智能的总和。 奇点也是机器智能和人类智能融合的时刻。 他预测了这个日期：“我设定的奇点日期是2045年，这将是人类能力发生深远且颠覆性转变的时刻。” RaymondKurzweilVernorVinge 1982年在人工智能协会年会上首次提出技术奇点概念 晶体管数量 首次公开介绍时间 5,000,000,000地球诞生 5,000,000,00 5,000,000,0 脊椎动物 哺乳动物 5,000,000 5,000,00 5,000,0 灵长类动物现代人 大冰河时代 5,000 5,00 5,0 5 人类历史 科学萌芽人工智能 智能革命 加速回报定律 距下一个事件的时间间隔（年） 15个重大范式转移事件加速变迁图 对数图 美国自然历史博物馆 大英百科全书 亚利桑那大学的ERAPS 事件发生的时间（年） 信息压缩–数据组 生物起源 复制&聚合 细胞性 新陈代谢&细胞膜真核细胞 多 言 到2014年的时候地球全部的数字信息总量已经达到了5×1201字节，而全世界人类 经网络 神 细胞人类进化 语科学 大脑 硅半导体互联网 数码 生物数字融合 基因组中储存的信息量仅为1019字节 在110年内，人类的数字设备所存储的信息总量就将超过地球上所有DNA中包含的信息总量 生物化学 生物文化技术 进化基质 GillingsMR,HilbertM,KempDJ.InformationintheBiosphere:BiologicalandDigitalWorlds.TrendsEcolEvol.2016Mar;31(3):180-189.doi:10.1016/j.tree.2015.12.Jan8.PMID:26777788. AI三部曲 弱AI 通用AI(AGI) 超级AI （奇点） 奇点到来的时间—2050 人工智能专家对高水平智能AI到来时间的估计 （可能概率分别为10%、50%、90%） •550个人工智能学术界顶尖的学者 •到达2040-2050之间，人们实现高水平的人工智能的可能性将大于50%，而到达2075年，这一可能性将提高到90% Muller,V.C.,Bostrom,N.(2016).Futureprogressinartificialintel-ligence:Asurveyofexpertopinion.InFundamentalissuesofartificialintelligence,555–572.Springer,Cham. 大纲 l为什么是复杂科学 l奇幻五年背后的复杂 l复杂科学要直面的问题l复杂科学的关键概念 l复杂科学之奇点 l技术奇点l经济奇点l生态奇点l奇点融合 l东方智慧之阴阳 l阴阳与平衡，混沌边缘的复杂 l太极生阴阳，从熵增定律到观察者l阴阳返无极，自稳态觉醒 l解决之道之自稳态觉醒l人类文明与自稳态觉醒l人工智能与理性人假说l个体与组织的回归本心 技术奇点是一个根据技术发展史总结出的观点，认为未来将要发生一件不可避免的事件：技术发展将会在很短的时间内发生极大的接近于无限的进步。 Kuzweil,2005 经济奇点是一个关键的时间点，当我们超越这个时间点后经济将保持持续增长，并且增长速度会持续增加。 Norhaus,2015 技术奇点vs.经济奇点 技术奇点 供给侧 经济奇点 供给侧+需求侧 为AI时代的人类 提供普遍基本收入 让全球人能共享AI带来的丰厚利润 让人们有更多时间和精力投入到自 己真正热爱的事情中 SamAltman 2023年《时代》杂志“全球最具影响力100人” 鲍默尔效应由鲍默尔于1967年提出是指一个经济中，各部分劳动生产率的增长率是不一致的。当存在这种差 异化时，生产率增长较快的“进步部门”的工资上涨会同时带动那些生产 率增长较慢的“停滞部门”的工资上升，而这种效应会导致“停滞部门”吸引更多的劳动力、形成更大的产出。 久而久之，“停滞部门”在这个经济中所占的比例会越来越高，而整个经济的生产率增长会因此而降低。 WilliamJackBaumol 1922-2017 美国经济学家 普林斯顿大学经济学教授纽约大学经济学教授 鲍默尔(Baumol)效应 加剧的不平等性 引力奇点 经济奇点的三个约束 技术约束 政策约束 资源约束 大纲 l为什么是复杂科学 l奇幻五年背后的复杂 l复杂科学要直面的问题l复杂科学的关键概念 l复杂科学之奇点 l技术奇点l经济奇点l生态奇点l奇点融合 l东方智慧之阴阳 l阴阳与平衡，混沌边缘的复杂 l太极生阴阳，从熵增定律到观察者l阴阳返无极，自稳态觉醒 l解决之道之自稳态觉醒l人类文明与自稳态觉醒l人工智能与理性人假说l个体与组织的回归本心 经 济环 境 抑制因素 社会 AI的正面影响AI的负面影响 到2030年，可