中国人工智能伦理风险白皮书

中国人工智能伦理风险白皮书中国人工智能伦理风险白皮书 版权声明 前言目录1 本报告版权属于中国联合网络通信有限公司研究院，并受法律保护。转载、摘编或利用其他方式使用本报告文字或者观点的，应注明“来源：中国联通研究院”。违反上述声明者，本院将追究其相关法律责任。 一、人工智能方兴未艾，风险防范未雨绸缪4 （一）数字经济发展孕育人工智能全面成长4 （二）人工智能高歌猛进，融入百业大显身手6 （三）中国AI快速应用，发展举世瞩目9 （四）伦理规范有利于人工智能长治久安13 二、他山之石可以攻玉，先进经验学习借鉴20 （一）国际AI伦理研究现状20 （二）国际AI伦理研究贡献及未来走向21 （三）全球主要国家AI政策23 （四）全球智者的观点26 （五）全球头部企业的选择和态势29 三、居安思危如履薄冰，杜绝风险伦理安全34 （一）伴随社会和技术进步，AI伦理安全理念与时俱进34 （二）加强监管，防范失控性风险35 （三）完善法规，杜绝侵权性风险39 （四）确保透明公正，规避歧视性风险42 （五）加强培训教育，缓解人类失业风险45 （六）促进政策公平和广泛合作，抹平数字鸿沟风险48 （七）构建指导原则，减少人类道德价值观受损风险52 （八）展望未来伦理演进，探索45°平衡律56 四、金砖国家扩展加盟，伦理安全展望新篇59 （一）金砖国家应正视AI伦理风险59 （二）金砖国家需合作应对共同挑战60 参考文献63 附录66 中国人工智能伦理风险白皮书 前言 2023年，我国经济社会发展遭遇国内外多重超预期因素冲击，风险挑战前所未有。中国的数字经济克服了重重困难，取得了长足的发展，人工智能更是如耀眼的明珠，在各行各业中广泛应用，凸显了新质生产力对经济的推动、带动了人类文明的发展。人工智能的突破性成就带动了人工智能应用的快速蔓延，数字经济的快速增长有了新的引擎，通信产业等数字基础设施有了长足的进步。同时，数字经济也给人工智能技术进步带来新的需求和宽广的市场。 人工智能已经成为我们生活中不可或缺的一部分。从智能手机、自动驾驶汽车到医疗诊断和金融交易，AI的应用已经深入到社会的各个角落。然而，人工智能技术的应用在给人们带来生活和工作便利的同时，也带来了一系列伦理风险与挑战。AI伦理研究，就是在这样的背景下应运而生，旨在探索和定义AI的道德边界。 人工智能伦理研究是一个跨学科的领域，它探讨AI带来的伦理问题及风险，研究解决AI伦理问题，以促进AI向善并引领其健康发展。这种研究领域涉及到哲学、计算机科学、法律、经济等众多学科的交汇碰撞。 中国新一代人工智能发展规划推进办公室于2019年专门成立了新一代人工智能治理专业委员会，全面负责开展人工智能治理方面的政策体系、法律法规和伦理规范研究和工作推进。这体现了我国对人工智能伦理及其治理的密切关注程度和积极推进决心，同时也突显了这一问题的重要性。 前瞻研究和制定人工智能伦理规范有助于更好地发挥其“头雁”效应，对产业健康发展、人民幸福生活具有重要意义。在智能时代，人与机器的关系将会被重新定义。因此，国务院关于印发新一代人工智能发展规划的 1 通知中专门强调要探索建立无人驾驶、在线医疗、金融科技、智能配送等监管框架，完善相关法律法规和伦理审查规则。 国家新一代人工智能治理专业委员会2021年09月25日发布了《新 编写组成员 牵头编制单位： 一代人工智能伦理规范》，旨在将伦理道德融入人工智能全生命周期，为从事人工智能相关活动的自然人、法人和其他相关机构等提供伦理指引。 本文首先描述了2023年人工智能的数字化环境，这既是人工智能发展推动的结果，也是人工智能发展的广阔需求，人工智能的伦理问题，也在其具体的应用中发生了警示和碰撞。接下来本文介绍了常见的人工智能应用，呈现了2023年中国人工智能欣欣向荣的社会画卷。本文还介绍了人工智能伦理的内涵、研究范围、国外人工智能的发展情况、各国政策、智者和头部企业等在人工智能伦理方面的观点，以资参考、借鉴。 本文随后具体描述了伴随人工智能的应用产生的潜在人工智能风险，在应用性能效益和风险的二维平面上，我们审慎地认为，兼顾二者的45度角发展方向可能会是未来人类的选择，并提出了预防和应对的建议以供读者参考。 最后，考虑到金砖国家人工智能方兴未艾，提出了几点简单的建议，我们相信，在这飞快变化的时代，金砖国家正不断壮大发展，在世界政治经济的地位日益突出，在人工智能这个科技高地上的共识和合作，将有效规避人工智能的伦理风险，极大地促进金砖国家的经济增长和社会进步。 中国联合网络通信有限公司研究院、中国联通国际有限公司 专家指导委员会： 唐永博中国联合网络通信有限公司副总裁 孟树森中国联通国际有限公司董事长兼总经理李红五中国联合网络通信有限公司研究院院长 陈辉金砖国家未来网络研究院（中国·深圳）院长魏进武中国联合网络通信有限公司研究院副院长 张立仁金砖国家未来网络研究院（中国·深圳）副院长 编写成员： 康旗、刘亚琪、金春花、吴钢、吕金宝、傅瑜瑜、余东海 参与编制单位： 金砖国家未来网络研究院中国分院 23 一、人工智能方兴未艾，风险防范未雨绸缪 2023年人工智能（下文简称AI）的快速发展，是人类生产力的一 次跳跃。一方面，AI给数字基础设施的建设带来直接的刺激和需求，数字经济的发展空间也得到大大提升，另一方面，数字经济的强大需求拉动了AI的研发，数字经济的广泛市场也给AI带来一望无垠的试验田，AI的伦理问题研究就是在这样的背景下展开的。 (一)数字经济发展孕育人工智能全面成长 2023年是数字中国战略深入实施的关键一年，数字中国建设的基 础更加稳固，赋能经济社会发展的效果显著。 1、数字基础设施扩容提速 网络基础设施进入提速升级新阶段。5G网络覆盖面更广、技术更先进，并加速向重点场所深度延伸。截至2023年底，5G基站数达 337.7万个，同比增长46.1%；平均每万人拥有5G基站24个，较上年 末提高7.6个百分点；5G移动电话用户数达8.05亿，在移动电话用户中占比46.6%；5G虚拟专网数量超3万个。基础电信企业IP骨干网、城域网、接入网IPv6改造全面完成，全国网络基础设施已全面支持IPv6。截至2023年底，IPv6活跃用户数达到7.78亿，移动网络IPv6流量占比达到60.88%，固定网络IPv6流量占比达到19.57%。 算力基础设施达到世界领先水平。截至2023年底，中国在用数据中心标准机架超过810万架，算力总规模达到230EFLOPS，居全球第二位。8个国家算力枢纽节点进入落地应用阶段。算力供给结构逐步优化， 包括数据中心、智算中心、超算中心等多种类型。截至2023年底，智能算力规模达到70EFLOPS，增速超过70%。全国累计建成国家级超算中心14个，全国在用超大型和大型数据中心达633个、智算中心达60个（AI卡500张以上），智能算力占比超30%。 图12019年—2023年数据中心发展情况数据来源：工业和信息化部 2、数字技术创新活力涌现 基础数字技术能力持续增强。数字技术领域保持较高的创新热度。先进计算、人工智能等关键核心技术不断取得突破。高性能计算持续处于全球第一梯队。智能芯片、通用大模型等创新成果加速涌现。人形机 器人进入提速发展阶段，专利申请数量增长较快。人工智能核心企业数 量超过了4500家。量子计算机、脑机接口等前沿技术的研发进度不断加快。 算力网络实现阶段性跃升。积极落实国家东数西算战略，持续完善全国性算力网络布局，截至2023年底，三家基础电信企业为公众提供 的数据中心机架数达97万架，比上年末净增15.2万架，净增量是上年的近两倍，可对外提供的公共基础算力规模超26EFlops(每秒万亿亿次浮点运算)。 构建人工智能（AI）基础设施体系。内部应用与外部赋能相结合探索AI应用新模式，推动“云网智”融合发展，全面向“AI+”战略转变。在网络规划-建设-维护-优化等网络运营各环节引入AI和大数据技术，提升网络智能化水平，减低网络故障率、节约基站能耗、优化信号覆盖。三家基础电信企业积极构建“1个通用+N个专用”的通专结合大模型体系，通用大模型达千亿级参数级别，行业大模型可面向政务、应急、文旅等多个领域。 (二)人工智能高歌猛进，融入百业大显身手 2023年，人工智能领域发生了许多重大事件，深刻地影响了我们 的生活和社会，2023年被誉为“AI时代开启元年”，人工智能技术的创新与应用突飞猛进。其中，生成式人工智能的出现是最具代表性的进展，例如OpenAI推出的ChatGPT订阅版、NVIDIA的BioNeMo平台，以及AWS的‘AIReady’培训计划。这些技术改变了人工智能技术与应用的发展轨迹，加速了人与AI的互动进程，是人工智能发展史上的新里程碑。特别是ChatGPT的火爆反应，让全球见证了人工智能技术的突破性发展和广泛应用。 以下是人工智能（AI）在全球范围内的应用取得的进展： 1、AI与各行各业的融合：AI技术在金融、医疗、教育、交通等领 域的应用日益广泛，为各行业带来了更高效、智能的解决方案。 2、大模型的发展：随着深度学习技术的不断进步，大型神经网络模型在各领域取得了显著成果，提高了AI的准确性和泛化能力。 3、跨领域融合与创新：AI技术与其他领域的融合进一步加深，如生物学、物理学、心理学等，推动了各行各业的创新发展。 4、强人工智能的发展：AI逐渐向强人工智能发展，使得AI能够理解、思考和感知，甚至在某些方面超越人类的能力。 5、AI与人类协作：AI技术正逐渐与人类形成协同作战的局面，如在医疗、法律、教育等领域，AI辅助专业人士进行工作，提高工作效率和质量。 总之，2023年以来，AI在全球范围内取得了重要进展，为人类带来了诸多便利和价值。 AI能力一览表 序号 应用领域 说明 1 ChatGPT 主提据供要问应题用解在答对和话信系息统查中询问，等为服用务户。14统6亿计次，，Ch占a总tG流PT量的的访60%量以高上达。 2 GAN 主逼真要的用人于脸图图像像生。成，可以创建出 3 语音识别 将用于人智的能语助音手转、化语为音文输字入，等广领泛域。应 4 自然语言处理 使被计广算泛机应能用理在解搜和索生引成擎人优类化语、言机，器翻译等场景中。 表1AI能力一览表 (三)中国AI快速应用，发展举世瞩目 5 推荐系统 通用户过推分荐析他用们户可的能行感为兴和趣偏的好，商为品或内容。 6 计算机视觉 让或视计频算中机的能内够容“。看”并理解图片 7 强化学习 让如何机做器出通最过优与决环策境。的交互来学习 8 语音合成 将器和文智字能转助化手为等语设音备，中常。用于阅读 9 机器翻译 实现不同语言之间的自动翻译。 10 人脸识别 通过分析人脸特征来识别身份。 11 自动驾驶 利用AI技术实现汽车的自动驾驶。 12 医疗诊断 利用AI对病症进行预测和诊断。 13 金融风控 使用AI进行风险评估和欺诈检测。 14 智能家居 利化控用制AI。技术实现家居设备的自动 15 游戏AI 在的游智戏能中化实。现NPC（非玩家角色） 16 教育AI 应教育用领于域个。性化教学和智能辅导等 17 情感分析 通解人过们分对析某文一本主中题的的情态感度倾和向观，点了。 18 图像分割 将域代图表像一划个分物为体多或个背区景域。，每个区 19 目标跟踪 在运动视轨频迹中。自动追踪目标的位置和 20 AI辅助设计 利和设用计AI。技术帮助设计师进行创作 2023年以来，中国在人工智能领域取得了显著的进展和成就，不 仅在技术研究上实现了重大突破，而且在产业发展和国际合作方面也展现出了强大的实力和影响力。 1、政策支持与战略规划 2023年02月26日中国政府发布了《数字中国建设整体布局规划》， 强调了人工智能在数字化转型中的重要性。 规划的主要目标：到2025年，基本形成横向打通、纵向贯通、协调有力的一体化推进格局，数字中国建设取得重要进