2023 中国人工智能系列白皮书——人工智能原理

中国人工智能系列白皮书 -人工智能原理 中国人工智能学会二○二三年九月 《中国人工智能系列白皮书》编委会 主任：戴琼海执行主任：王国胤 副主任：陈杰何友刘成林刘宏孙富春王恩东 王文博赵春江周志华 委员：班晓娟曹鹏陈纯陈松灿邓伟文董振江杜军平付宜利古天龙桂卫华何清胡国平黄河燕季向阳贾英民焦李成李斌刘民刘庆峰刘增良鲁华祥马华东�夺谦潘纲朴松昊钱锋乔俊飞孙长银孙茂松陶建华王卫宁王熙照王轩王蕴红吾守尔·斯拉木吴晓蓓杨放春于剑岳东张小川张学工张毅章毅周国栋周鸿祎周建设周杰祝烈煌庄越挺 《中国人工智能系列白皮书人工智能原理》编写组 李昂生 杨博 彭攀 冯启龙 陈薇 金弟 祁琦 姚鹏晖 陈雪 王子贺 前言 人工智能技术的发展与成功应用已经成为21世纪科技领域最大的新现象。然而，科学地理解人工智能原理已经超出了现有科学体系的范畴。显然，人工智能是人类科学技术发展的必然结果，人工智能科学也将是人类科学进步与发展必然实现的目标。 破解人工智能的科学和技术障碍是人类科学技术发展绕不开也跨不过的重大前沿课题，并且已经凸显为人类21世纪首先需要突破的问题。 人工智能的科学与技术突破需要新的科学思想；人工智能本身是一个多学科交叉融合的科学现象，人工智能必然与若干主要的学科实质相关；人工智能技术开始于20世纪中叶，已经经历了几个重 要的发展阶段，推动人工智能作为一个重大挑战走到21世纪的科学前沿。 本白皮书顺应并体现人工智能的上述现状，由人工智能基础专委会负责组织。 具体编写组织如下： 北京航空航天大学、中关村国家实验室李昂生教授撰写了《人工智能总论》，分析了人工智能的重大科学问题，和其它学科的边界，论述了人工智能原理的总体框架和主要构成部分。 吉林大学杨博教授撰写了《符号主义人工智能》以总结基于逻辑推理的人工智能的成就、问题与未来展望。 中国科学技术大学彭攀教授和陈雪博士撰写了《大数据算法与可信计算理论》以总结基于计算的智能研究成果，分析计算与智能这两个概念的实质、关系与边界。 中南大学冯启龙教授撰写了《难解问题的智能算法》，以总结在困难问题智能算法求解方面的成就，分析困难问题的实质，展望智能算法在困难问题求解方向的前景。 中国科学院计算技术研究所陈薇研究员撰写了《神经网络的数学原理》以总结深度神经网络学习理论方向的成就、问题和未来展望。 天津大学金弟教授撰写了《神经网络的计算原理》以总结神经网络作为计算模型方向的成就、问题和未来展望。 中国人民大学祁琦教授和王子贺博士撰写《人工智能的博弈理论》以总结智能的博弈途径研究的成就、问题和未来展望。 南京大学姚鹏晖教授撰写了《量子人工智能》以总结基于量子物理的人工智能方向研究的成就、问题和未来展望。 李昂生教授撰写了白皮书的其余章节，包括《信息定律与信息模型》，《信息演算理论》，《（观察）学习的数学理论》，《自我意识的数学理论》，《博弈/谋算理论》，《人工智能信息模型》，这些内容是李昂生创建的《信息世界的数学原理》中的主要科学思想和基本科学原理的简单介绍；在《信息时代的科学双引擎和信息时代重大科学问题》一章，李昂生提出了信息时代的几个重大科学问题。 本白皮书的内容包括了： 智能作为一个科学概念的模型、原理与方法；智能与推理、计算、通信、博弈等科学概念的实质关系与边界界定；智能与数据、数学、物理、生物的实质关系与边界界定；智能技术的工程原理与方法等。 这些内容构成了本白皮书人工智能原理的五大部分：第一部分人工智能总论 由李昂生教授的《人工智能总论》构成。第二部分逻辑推理人工智能和计算智能 由杨博教授的《符号主义人工智能》，彭攀教授和陈雪博士的《大数据算法与可信计算理论》和冯启龙教授的《难解问题的智能算法》等三章构成。 第三部分神经网络人工智能和生物人工智能 由陈薇研究员的《神经网络的数学原理》和金弟教授的 《神经网络的计算原理》两章构成。第四部分数学人工智能和物理人工智能 由祁琦教授和王子贺博士的《人工智能的博弈理论》和姚鹏晖教授的《量子人工智能》两章构成。 第五部分信息主义人工智能：层谱抽象认知模型人工智能由李昂生教授的《信息定律与信息模型》，《信息演算理论》，《（观察）学习的数学理论》，《自我意识的数学理 论》，《博弈/谋算理论》，《人工智能信息模型》，和《信息时代的科学双引擎和信息时代重大科学问题》等章构成。 白皮书的第一部分分析了人工智能的根本科学问题，揭示了人工智能科学是人类科学技术发展的必然结果，分析了人工智能科学是现有科学体系所不足于支撑的重大科学问题；第二、第三和第四部分主要是基于分而治之这一物理世界分析方法科学体系的人工智能原理；第五部分是李昂生创建的层谱抽象认知模型这一信息世界科学范式的数学原理及基于这个新科学原理的人工智能原理。 本白皮书第五部分揭示了信息是建立智能科学的钥匙；揭示了层谱抽象是人认知世界、感知认知自我的模型与方法；揭示了信息世界的层谱抽象认知模型、原理与方法；揭示了层谱抽象认知模型与分而治之分析方法结合是建立人工智能科学的总方法，这一总方法恰好就是2500多年以前，孙子兵法的核心科学思想：谋算，谋就是层谱抽象，算就是分而治之；揭示并建立了人工智能的数学实质 与基本科学原理；提出人工智能的智能论断（Intelligence Thesis）：智能=信息；揭示了层谱抽象认知模型与分而治之分析方法构成了信息时代的科学双引擎。 目录 目录5 第一部分1 人工智能总论1 第1章人工智能总论2 1.1人工智能的科学思想起源2 1.2人工智能的数理逻辑原理5 1.3人工智能的计算原理7 1.4图灵对机器智能的研究9 1.5人工智能研究的兴起11 1.6符号主义人工智能11 1.7连接主义人工智能12 1.8行为主义人工智能14 1.9人工智能的数学、物理挑战15 1.10人工智能的重大科学挑战15 1.10.1数学、物理对象的可分性15 1.10.2信息世界对象的不可分性16 1.10.3信息世界对象的可定义性问题17 1.10.4人学习的基本问题17 1.10.5自我意识的基本问题18 1.10.6博弈/谋算的基本科学问题18 1.10.7本节小结19 1.11信息科学重大挑战性问题19 1.11.1经典信息论19 1.11.2生成策略21 1.11.3解码策略23 1.11.4信息的模型24 1.11.5信息基本定律25 1.11.6信息科学是什么？25 1.11.7信息的数学理论是什么？26 1.12信息科学原理26 1.13本章小结27 第二部分29 逻辑推理人工智能与计算人工智能29 第2章符号主义人工智能30 2.1命题知识表示与推理30 2.1.1命题逻辑31 2.1.2命题推理问题33 2.1.3命题可满足性求解方法34 2.1.4模型计数35 2.1.5知识编译37 2.2自动定理证明38 2.2.1自动定理证明的起源、发展与现状38 2.2.2Herbrand定理41 2.2.3合一与匹配43 2.2.4归结原理44 2.2.5归结原理的改进策略46 2.2.6等词推理48 2.2.7几何定理证明和数学机械化50 2.2.8定理证明器竞赛和著名定理证明器51 2.3约束可满足性求解52 2.4基于模型的诊断56 2.4.1MBD问题57 2.4.2国内外总体研究现状58 2.5神经符号系统59 2.5.1神经符号系统的背景59 2.5.2神经符号系统研究现状61 2.5.3神经符号系统的挑战及未来研究方向64 第3章大数据算法与可信计算理论67 3.1大数据算法计算模型67 3.1.1亚线性时间算法68 3.1.2亚线性空间算法69 3.1.3动态图算法70 3.1.4大规模并行计算70 3.1.5数据降维71 3.2满足可信需求的算法71 3.2.1鲁棒性71 3.2.2公平公正73 3.2.3隐私保护73 第4章难解问题的智能算法75 4.1难解问题图学习方法求解78 4.1.1路径规划问题81 4.1.2最大割问题84 4.1.3作业调度问题85 4.1.4其他难解问题86 4.2难解问题强化学习求解87 4.2.1基于无模型的强化学习方法88 4.2.2基于有模型的强化学习方法92 4.3总结与展望94 第三部分98 神经网络人工智能与生物人工智能98 第5章神经网络的数学原理99 5.1神经网络的背景及意义99 5.1.1神经网络的发展历史99 5.1.2神经网络对人工智能发展的作用100 5.1.3神经网络给人工智能带来的挑战101 5.2神经网络的数学原理的内涵102 5.2.1研究意义102 5.2.2分析视角103 5.2.3基本框架104 5.2.4研究趋势106 5.3神经网络的传统理论106 5.3.1表达能力107 5.3.2泛化能力107 5.3.3优化能力107 5.4前沿发展108 5.4.1对自适应优化器的分析108 5.4.2基于神经网络结构的优化分析108 5.4.3优化器的隐式正则分析108 5.4.4神经网络的精确泛化估计109 5.4.5表示所需参数量下界109 5.5未来展望109 5.5.1设计适用不同场景的安全性度量109 5.5.2构建以安全为中心的神经网络理论110 5.5.3发展可信可控的神经网络模型110 第6章神经网络的计算原理111 6.1经典神经网络的计算原理112 6.1.1表示学习112 6.1.2前馈神经网络116 6.1.3神经网络训练119 6.2面向序列数据的神经网络123 6.2.1循环神经网络RNN124 6.2.2转换器Transformer127 6.2.3时序卷积神经网络TCN132 6.3图神经网络134 6.3.1图表示学习135 6.3.2图神经网络的基础原理137 6.3.3图神经网络前沿139 第四部分158 数学人工智能与物理人工智能158 第7章人工智能的博弈理论159 7.1均衡计算160 7.1.1纳什均衡160 7.1.2纳什均衡的存在性162 7.1.3纳什均衡的计算165 7.1.4纳什均衡的计算复杂性170 7.2人工智能中的合作博弈174 7.2.1合作博弈175 7.2.2合作博弈的表示和算法180 7.2.3合作博弈在多智能体系统中的应用182 7.2.4结论184 7.3公平分配184 7.3.1引言185 7.3.2模型定义186 7.3.3公平性187 7.3.4可分割物品的公平分配191 7.3.5不可分物品的公平分配193 7.3.6其他研究195 7.4适当评分规则（ProperScoringRule）196 7.4.1适当评分规则的起源198 7.4.2适当评分规则种类198 7.4.3适当评分规则的应用204 7.4.4总结206 7.5社会选择与投票206 7.5.1经典投票规则207 7.5.2社会选择中的经典结论211 7.5.3总结214 7.6重复拍卖215 7.6.1动态定价问题215 7.6.2上下文动态定价问题218 7.6.3重复拍卖中的均衡分析问题221 7.6.4总结222 7.7小结222 第8章量子人工智能224 8.1概述224 8.2量子学习方法介绍224 8.2.1HHL算法224 8.2.2量子奇异值变换228 8.3量子吉布斯采样231 8.2.4变分量子电路234 8.3量子学习应用场景240 8.3.1传统机器学习问题的量子化240 8.3.2量子无监督学习247 8.3.3量子有监督学习253 8.3.4量子强化学习259 8.3.5量子层析266 8.3.6其它量子学习算法267 第五部分272 信息主义人工智能：272 层谱抽象认知模型人工智能272 第9章信息定律与信息模型273 9.1信息科学的研究对象273 9.2物理世界对象基本定律（FundamentalLawofPhysicalObjects） ............................................