2023 中国人工智能系列白皮书——数字社会的风险挑战与治理应对

中国人工智能学会发展报告系列 ——数字社会的风险挑战与治理应对 CAAI社会计算与社会智能主编二〇二三年九月 《中国人工智能系列白皮书》编委会 主任：戴琼海执行主任：王国胤 副主任：陈杰何友刘成林刘宏孙富春王恩东王文博赵春江周志华 委员：班晓娟曹鹏陈纯陈松灿邓伟文董振江杜军平付宜利古天龙桂卫华何清胡国平黄河燕季向阳贾英民焦李成李斌刘民刘庆峰刘增良鲁华祥马华东�夺谦潘纲朴松昊钱锋乔俊飞孙长银孙茂松陶建华王卫宁王熙照王轩王蕴红吾守尔·斯拉木吴晓蓓杨放春于剑岳东张小川张学工张毅章毅周国栋周鸿祎周建设周杰祝烈煌庄越挺 《中国人工智能系列白皮书——数字社会的风险挑 战与治理应对》编委组 主编：孟小峰齐佳音统稿：邓建高余艳 编写人员（按姓氏拼音排序）： 邓建高 傅湘玲 何潍涛 胡俏 黄匡时 李瑾颉 李三希 刘和盛 刘可欣 刘鲁宁 孟小峰 彭松涛 齐佳音 石慧 宋保振 宋美琦 王雪莹 吴超 吴联仁 夏园强 宣琦 余艳 张明圣 朱宏淼 目录 序言1 第1章社会数字化与数字社会2 1.1数字社会的发展演变与未来趋势2 1.2数字社会的基本结构5 1.2.1数字社会的虚实二元结构5 1.2.2数字社会的系统结构6 1.3数字社会的行动逻辑7 1.3.1行动者的二元属性7 1.3.2社会行动的数字化结构8 1.3.3社会行动的数字化9 1.4数字社会的主要风险9 1.5小结10 第2章数字社会世界观与数字社会风险治理的主、客体界定12 2.1数字社会世界观12 2.1.1数字社会的网络资源观13 2.1.2数字社会的数据要素观13 2.1.3数字社会的算法规则观13 2.1.4数字社会的软件设施观14 2.1.5数字社会的开放开源观14 2.2数字社会风险治理主体14 2.2.1数字社会风险治理的“核心”主体——政府组织15 2.2.2数字社会风险治理的“技术”主体——网络运营者16 2.2.3数字社会风险治理的“专业”主体——社会组织16 2.2.4数字社会风险治理的“不可或缺”主体——公民17 2.3数字社会风险治理客体18 2.4小结19 第3章数字社会的风险挑战20 3.1失真数字内容传播风险与耦合网络沟通机制20 3.1.1失真数字内容22 3.1.2失真数字内容传播动力学模型24 3.1.3多渠道融合治理25 3.1.4小结27 3.2数字货币发行中的风险、机遇和挑战29 1 3.2.1数字货币的主要风险29 3.2.2中国发行法定数字货币的机遇31 3.2.3中国发行法定数字货币的挑战35 3.2.4小结38 3.3数字社会算法裁决过度风险与公平计算39 3.3.1数字社会算法风险40 3.3.2算法公平与公平计算43 3.3.3算法治理45 3.3.4小结47 3.4数字社会基础设施风险与新兴安全技术发展47 3.4.1虚实空间融合导致攻击的跨界威胁48 3.4.2海量异构终端互联带来的安全短板51 3.4.3数据安全问题引发的AI信任危机53 3.4.4应用场景多元化伴随着风险多元化56 3.4.5小结59 3.5数字平台生态失控风险与新型反垄断制度设计59 3.5.1数字平台生态失控风险60 3.5.2新型反垄断制度设计67 3.5.3小结71 3.6数字社会数据隐私保护与隐私技术发展71 3.6.1分布式隐私计算与建模72 3.6.2基于现代产权理论的数据确权76 3.6.3数据定价和公平性77 3.6.4小结78 第4章数字社会风险的智能治理80 4.1数字时代的技术差异赋权及其风险治理80 4.1.1数字技术赋权及其差异化样态80 4.1.2数字技术差异赋权引发的现实风险82 4.1.3数字技术风险法律规控的具体展开85 4.1.4小结89 4.2数字社会风险治理的数智化逻辑89 4.2.1大数据驱动风险治理逻辑变革90 4.2.2数智化赋能风险治理体系91 4.2.3数字社会风险治理方法与机制创新94 4.2.4小结96 4.3面向企业风险智能分析的“人在回路”范式97 4.3.1相关工作98 4.3.2“人在回路”基本范式设计100 4.3.3“人在回路”范式中人类智慧和机器智能的能力101 4.3.4基于“人在回路”的企业风险智能分析框架设计103 4.3.5“人在回路”范式的人机协作模式104 4.3.6小结108 4.4“共建共治共享”的数字社会风险治理制度创新108 4.4.1“共建共治共享”的数字社会风险治理制度框架109 4.4.2共建：融合多源数据建设数字风险治理大数据平台111 4.4.3共治：引导多元主体共同参与数字社会风险治理113 4.4.4共享：统筹城乡数字风险治理协同发展116 4.4.5小结117 参考文献118 附录126 序言 关于数字社会风险应对与治理的探讨，从互联网出现至今就一直是学界和业界关注的焦点，但是随着云计算、物联网、大数据、人工智能、区块链和数字孪生等技术的不断发展，我们对于数字世界的认识从Web1.0，发展到Web2.0，发展Web3.0……对于数字社会的认识也从网络社会，发展到虚拟社会，发展到依托数字化、网络化和智能化实现人们各类活动的平台和通行路径的数智社会。进入数智社会，迎接人类的不仅仅是更为便捷、更为丰富、更具创意的新模式、新业态、新产品和新服务，同时也要未雨绸缪防范可能的新风险，需要提前布局与之配套的新规则、新管理、新监管和新治理，才能让数字社会在平衡发展与风险中实现高质量提升。本专辑源于中国人工智能学会社会计算与社会智能专业委员会《数字社会的风险挑战与治理应对》战略研究报告（2022年8月12日，杭州发布），但在单独成文时，又做了进一步的完善和扩充。 2022年伊始，国务院印发《“十四五”数字经济发展规划》，提出要健全完善数字经济治理体系，加强重大问题研判和风险治理，着力强化数字经济安全体系，切实有效防范各类风险。期望本专辑对促进我国数字经济高质量发展起到积极作用。 第1章社会数字化与数字社会 当前，新一轮科技革命和产业变革突飞猛进，科技革命与社会变革加速渗透融合。科学技术尤其是以互联网、大数据、云计算、人工智能和区块链等为代表的数字技术正与社会交往、社会服务、社区建设、社会治理等领域不断渗透融合，社会正在由人与环境构成的物理关系向“万物数字化”和万物互联的数字关系转变，社会关系和社会结构呈现出前所未有的新特征，社会运行的机理与方式正在发生深刻变革。人类社会正在经历一场由科学技术引发的社会数字化变革，并全面融入到一个迈向智能的数字社会。 “加快数字社会建设步伐”已经写入了《中华人民共和国国民经济和社会发展第十四个五年规划和2035年远景目标纲要》，包括提供智慧便捷的公共服务、建设智慧城市和数字乡村、构筑美好数字生活新图景等。数字社会的一幅幅美好生活图景正向我们扑面而来，但是学界对数字社会的发展演变、系统结构、行动逻辑和风险识别等理论研究明显滞后。为此，本研究将在系统梳理我国数字社会的发展演变的基础上，分析数字社会的基本结构，探究数字社会的行动逻辑，并对数字社会的主要风险进行识别。 1.1数字社会的发展演变与未来趋势 数字社会起源于数字和符号的诞生，发轫于计算机的应用，形成于互联网的普及。我国数字社会的形成主要得益于计算机和互联网技术的发展，于20世纪90年代随着信息互联网的诞生而兴起， 于21世纪初随着博客、QQ、微信等社交互联网的发展而得到快速 发展，到21世纪20年代随着5G和物联网的快速发展而逐渐形成。我国社会的数字化转型大致可以分为三个时期，即以信息数字化为主的数字社会早期、以社交数字化为主的数字社会中期、以万物数字化为主的数字社会晚期。 （1）信息数字化社会（1994-2004年） 从1994年中国实现了与国际互联网的全功能接入后，我国开启了信息资讯数字化进程，起初主要是科研单位主导互联网基础设施建设，后来随着雅虎（YAHOO）、新浪、搜狐、网易、腾讯、阿里巴巴、百度等门户网站、电子商务和搜索引擎等数字化企业的成立及快速发展，我国以信息资讯为主导的数字化社会得到了快速发展。有学者将这个时期定义为WEB1.0社会，或者定义为信息社会，还有人定义为网络社会，大致较好地描述了早期以信息为主导的数字化社会的早期特征。 （2）社交数字化社会（2005-2018年） 社会交往的数字化是数字社会形成的关键性标志。2005年我国互联网网民首次超过1亿人，意味着我国数字化进程进入了加速发展阶段，而且博客、校内网（2009年升级为人人网）的兴起，以及此后大量社交网站的兴起，比如博客中国、天涯社区、人人网、开心网、新浪微博和QQ空间，以及国外的Facebook、Twitter等，标志着我国网民不仅是一个信息资讯的接收者，而且是信息社会的创造者和传播者。更重要的是，网民已经开始通过互联网等数字化形式开展社会交往，通过数字化的社交软件和平台拓展自己的社会关系。 一旦社会交往数字化后，人类的数字化进程得以加速。2011年 腾讯推出了更具有社交功能的微信（Wechat）小程序。2012年我国手机网民首次超过PC端网民，预示着移动互联网的爆发。在移动手机的普及和腾讯庞大QQ用户的推动下，腾讯的微信注册用户呈现爆炸式增长，2013年年底注册用户超过6亿，如今微信用户已经超过12亿，覆盖了14亿人口大国的主要成年人口。而且微信小程序不断整合日常生活基本服务，日渐成为囊括了购物支付、出行打车、看病挂号、酒店住宿、餐饮快递和零售百货等传统衣食住行的全新的数字生活方式。有学者将这个时期定义为WEB2.0社会，大致较好地描述了以社交为主导覆盖生活和工作领域的数字化社会的中期特征。 （3）万物互联的数字化社会（2019年至今） 当我国社会的数字化转型进入到2019年时，数字社会建设进入了一个全新的发展阶段。首先，2019年三大运营商的5G牌照正式商用，为万物互联奠定了一个坚实的基础，意味着我国的远程会议、远程教育、远程医疗、无人驾驶、智慧安防和云游戏等场景应用进入了一个快速发展时期。其次，受到2019年年底爆发的新冠肺炎疫情的影响，我国社会的数字化进程明显加快并提速。最近三年，我国物联网载体的各个行业经历了快速的爆发期。到2022年7月，我 国蜂窝物联网终端用户已达到16.7亿，与移动蜂窝电话用户数持平；从网络连接看，2022年连接物的终端数目超过了连接人的终端数，我国物联网进入了里程碑意义上的加速发展期。此外，最近几年，我国的数字经济、数字政务、智慧城市和数字乡村得到了快速发展，不仅教育、医疗、养老、抚幼、就业、文体和助残等重点领域的基本公共服务数字化进程加快，而且购物消费、居家生活、旅游休闲 和交通出行等各类生活场景的数字化进程也不断加快，一幅智慧共享、和睦共治和全民畅享的新型数字生活的美好画面正迎面而来。 （4）数字社会的未来趋势：元宇宙智能社会 2021年最为火爆的元宇宙（Metaverse）概念掀起了人类对未来社会的广泛想象。元宇宙虽然没有一个标准概念，但大致指的是利用区块链、5G/6G、人工智能、3D、VR/AR/XR、脑机接❑等人类最尖端科学技术手段进行链接与创造的，与现实世界映射与交互的虚拟世界，具备新型社会体系的数字生活空间。有人认为，元宇宙是互联网技术的最新演化；也有人认为，元宇宙是人类存在状况的最新征候；还有人认为，元宇宙是人类数字化生存的高级形态。但是不管如何，基本可以认为，元宇宙本质上是对现实社会的虚拟化、数字化过程，同时也包含着基于数字化环境的新型社会生态的涌现。元宇宙为我们理解未来数字社会的形态提供了一种丰富的畅想。 尽管人类对元宇宙社会没有一个统一的定义，但是代表了数字社会的未来发展方向。元宇宙社会不仅是一个智能社会，而且是一个虚拟社会和现实社会相互交织、相互融合的超级智能社会，或许与日本提出的超级智能社会“社会5.0”一致，或许是“社会6.0”，或者是“Web3.0”。 1.2数字社会的基本结构 1.2.1数字社会的虚实二元结构 数字社会是一个由虚拟社会和现实社会共同构成的社会形态。在数字社