可信人工智能产业生态发展报告（2022年）

可信人工智能产业生态 发展报告 （2022年） 中国信息通信研究院华东分院 中国信息通信研究院云计算与大数据研究所2022年9月 版权声明 本报告版权属于中国信息通信研究院，并受法律保 护。转载、摘编或利用其它方式使用本报告文字或者观点的，应注明“来源：中国信息通信研究院”。违反上述声明者，编者将追究其相关法律责任。 前言 随着新一轮科技革命和产业变革的深入推进，人工智能呈现爆发式成长，广泛应用于日常生产、生活的方方面面，社会各界对可信品质的关注度也提升到了前所未有的高度。近年来，各界均在不断探索将更多的可信理念从基础能力、算法技术、应用场景和产品设备等不同层面进行融合实践，实现了人工智能在安全性、可靠性、可解释、可问责等一系列内在属性的可信赖程度逐步提升，为构建我国可信人工智能产业生态提供了有益参考。 为广泛吸纳产学研用各界的优秀经验，中国信息通信研究院联合京东探索研究院及政产学研多家单位共同编写《可信人工智能产业生态发展报告》，对人工智能产业融合可信要素的发展态势进行总体分析，研判发展趋势并提出措施建议，希望能为社会各界提供借鉴和参考。报告主要观点如下： 全球可信人工智能发展态势向好。人工智能监管向立法执法拓展，欧盟发布全球首部《人工智能法案》，美国推出《2022算法问责法案》，中国人工智能地方立法相继落地；稳定性、隐私保护成为热点，可解释性、公平性等研究正逐步开展；标准层面，行业组织、企业和研究机构共同推进，全力打造可信AI标准体系。 可信人工智能产业生态加快形成。可信人工智能伦理、法律研究进一步深入，在硬件、技术、应用及支撑体系等层面蓬勃发展，形成兼顾稳定性、可解释性、隐私保护和公平性，涵盖基础硬件、技术平台、产品设备、应用场景等多元化产业生态。 未来，可信人工智能向着形成产业共识、突出理念落地、优化技术布局、注重动态平衡、强化多元主体发展。凝聚强化产业共识，进一步向具体实践迈进，可信人工智能一体化研究和技术发展加速创新，能力之间的动态平衡引发更多关注，并形成了多元化主体参与的可信人工智能生态。 建议从加强要素协同、前瞻布局研究、健全标准体系、强化可信流程管理、推动产业交流合作等方面推动深入落地。协调制度、技术、人员整体推进；前瞻布局技术研究，将可信理念融入全流程管理；健全标准评估体系，系统性推进更多领域可信落地；强化产业交流合作，共同打造可信产业生态朋友圈。 可信人工智能正处于飞速发展阶段，我们的认识有待不断深化，报告存在不足之处，烦请不吝指正。 目录 一、可信人工智能发展背景1 （一）基本内涵1 （二）发展意义4 二、可信人工智能发展态势5 （一）总体发展5 （二）政策规划9 （三）技术进展10 （四）标准建设13 三、可信人工智能生态分析16 （一）基础能力16 （二）算法技术23 （三）应用场景29 （四）产品设备39 四、可信人工智能前景展望49 （一）未来发展趋势49 （二）产业发展建议52 图目录 图1全球主要国家及组织可信人工智能发展动向6 图2全球可信人工智能产业生态实践图7 图3可信人工智能相关政策发展历程10 图4可信人工智能领域论文数量（2017-2022.4）11 图5全球/中国可信人工智能领域专利申请量（2017-2022.4）12 图6可信人工智能领域专利申请量技术分布（2017-2022.4）13 图7平台系统领域的典型可信应用17 图8数据要素领域的典型可信应用20 图9计算能力领域的典型应用22 图10计算机视觉领域典型可信应用24 图11智能语音领域的典型可信应用27 图12自然语言处理领域的典型可信应用28 图13智慧金融领域的典型可信需求与实践30 图14智慧医疗领域的典型可信需求与实践32 图15智慧教育领域的典型可信需求与实践35 图16智能制造领域的典型可信需求与实践36 图17智慧政务领域的典型可信需求与实践39 图18医疗设备与器械领域的典型可信需求与实践40 图19智能终端领域的典型可信需求与实践42 图20智能驾驶领域的典型可信需求与实践45 图21智能机器人领域的典型可信需求与实践46 图22虚拟现实设备领域的典型可信需求与实践48 表目录 表1主流可信人工智能概念梳理1 表2主要国际组织可信人工智能标准进展14 一、可信人工智能发展背景 （一）基本内涵 可信人工智能并不是一个新名词，随着可信实践的深入，产业界对可信人工智能的认识也在不断深化。目前关于可信人工智能概念解释繁多，我们梳理了一些具有代表性的观点。业界除了关注透明度、隐私保护、责任、公平等方面，近年更强调“人类对可信人工智能认识及素养的提升”以及“对提升人工智能可信度的可持续性工具的提出”。 表1主流可信人工智能概念梳理 国家/组 织 时间 文件/项目 内涵 美国 2019.10 《人工智能原则：国防部应用人工智能伦理建议》 1）负责任；2）公平性；3）可追溯性；4）可靠性；5）可控性 2021.07 “可信及负责任人工智能”项目 1）准确性；2）可解释性；3）隐私；4）可靠性；5）稳健性；6）安全性；7）减少有害偏见 2021.11 《人工智能指南道德标准》 人工智能系统开发、测试和审查符合最高公平性、问责制和透明度标准 欧盟 2017.01 关于机器人民事法规则的欧洲委员会建议 1）自由；2）隐私；3）正值和尊严；4）自决和不歧视；5）个人数据保护 2019.04 《人工智能道德准则》 1）受人类监管；2）技术的稳健性和安全性；3）隐私和数据管理；4）透明度；5）多样性、非歧视性和公平性；6）社会和环境福祉；7）问责制 日本 2017.02 《人工智能学会伦理指针》 1）对人类的贡献；2）遵守法律规则；3）尊重他人隐私权；4）公正性；5）安全性；6）诚信行为；7）对社会的责任 2017.07 《AI发展纲领》 开发者参照技术的特性在可能的范围内，应努力排除包含AI系统学习数据在内，所形成的一切偏见和其他不当差别对待的措施；开发者应遵守国际人权法、国际人道法，随时注意AI系统是否有不符合人类价值的行为 2019.03 《以人为中心的人工智能社会原则》 1）以人为中心；2）教育应用；3）隐私保护；4）安全保障；5）公平竞争；6）公平；7）问责和透明；8）创新 加拿大 2018.12 《可靠的人工智能草案蒙特利尔宣言》 1）福祉；2）自主；3）正义；4）隐私；5）知识；6）民主；7）责任 澳大利亚 2019.11 《澳大利亚人工智能伦理框架》 1）人类、社会和环境福祉；2）以人为本的价值观；3）公平；4）隐私保护和安全；5）可靠性和安全性；6）透明度和可解释性；7）可争论性；8）问责性 新西兰 2020.03 《新西兰值得信赖的人工智能的指导原则》 1）公平和正义；2）可靠性、安全性和私密性；3）透明度；4）人类的监督和责任；5）福利 韩国 2020.12 《国家人工智能伦理标准》 1）人权保障；2）隐私保护；3）尊重多样性；4）禁止侵权；5）社会宣传；6）主体合作；7）数据管理；8）明确责任；9）确保安全；10）透明度 中国 2017.11 S36香山会议 中国科学院何积丰院士首次提出可信人工智能，包含人、信息、物理三大要素 2019.08 《人工智能行业自律公约》 1）安全可控；2）透明可释；3）；保护隐私；4）明确责任；5）多元包容 2019.09 《新一代人工智能伦理规范》 1）增进人类福祉；2）促进公平公正；3）保护隐私安全；4）确保可控可信；5）强化责任担当；6）提升伦理素养 2021.07 《可信人工智能白皮书》 可信人工智能是从技术和工程实践的角度，落实伦理治理要求，实现创新发展和风险治理的有效平衡。可信包含可靠可控、透明可释、数据保护、明确责任、多元包容5项可信要素 生命未来研究机构 2017.02 《阿西洛马AI原则》 安全性、故障透明性、司法透明性、责任、价值观的调和、人类价值观、个人隐私权、自由和隐私、共享利益、共享繁荣、人类控制、非破坏 IEEE 2017.03 旨在推进人工智能和自治系统的伦理设计的IEEE全球倡议书 1）人权；2）福祉；3）问责；4）透明；5）慎用 G20 2019.06 G20人工智能原则 1）包容性增长、可持续发展及人类福祉；2）以人为本的价值观和公平；3）透明度和可解释性；4）健壮性、信息安全性和物理安全性；5）问责制 世界卫生组织 2021.06 《健康领域人工智能伦理与治理指南》 1）保护自主权；2）促进人类安全和福祉；3）确保透明度；4）促进问责制；5）确保公平；6）促进具有响应性和可持续性的工具 联合国教科文组织 2021.11 《人工智能伦理问题建议书》 1）相称性和不损害；2）安全和安保；3）公平和非歧视；4）可持续性；5）隐私权和数据保护；6）透明度和可解释性；7）责任和问责；8）人类的监督和决定；9）认识和素养 资料来源：根据公开资料整理 针对人工智能产业现状，切实结合当前发展需求，我们认为 《可信人工智能白皮书》中对“可信人工智能”的表述更为贴切，因此本报告将沿用中国信通院所提出的内涵，即“‘可信’反映了人工智能系统、产品和服务在安全性、可靠性、可解释、可问责等一系列内在属性的可信赖程度。”基于这一内涵，企业、院校和各类机构等各类参与者，在人工智能产业各个环节中，秉持可信理念，将可信贯穿研发、生产、经营等内部全流程，落实于算力、算法、数据等产业核心要素中，打造出全面融合可信要素的人工智能产业，构建形成了可信的人工智能产业生态。 （二）发展意义 人工智能作为新一轮科技革命和产业变革的重要驱动力量，广泛应用于医疗、金融、交通等领域，带来了巨大的经济效益与社会效益。据IDC相关数据，2021年全球人工智能产业规模为3619亿美元，并预计在2022年同比增长19.6%，超过到4300亿美元。然而随着人工智能应用的深入，其自身的技术缺陷以及带来的决策偏见、使用安全等问题引发了信任危机，可信成为关注焦点。技术上，算法脆弱易受攻击带来的危险性；黑箱模型导致算法不透明，使得人们无法直观理解决策背后的原因。应用上，训练数据中存在的偏见歧视导致公平性缺失；以人脸识别技术为代表的生物识别信息的频繁使用增加了隐私泄露的可能。伦理上，人工智能系统决策复杂，难以界定责任主体，带来伦理安全问题。构建可信人工智能成为缓解和消除这些担忧的必然选择。 学术界率先推开了可信人工智能的大门，在可信人工智能概念提出后，逐步推广可信共识。2020年起，可信人工智能领域研究论文数量飞速增长，围绕鲁棒性、可解释性、隐私保护等方面的技术研究持续升温。随着产业界开始落地实践，针对人工智能产业化过程中的可信探索与实践不断成熟，融合可信要素的人工智能产业生态开始兴起。 可信已经成为人工智能产业发展必备要素，驱动人工智能规范发展。人工智能只有可信可靠，才能获得可持续性发展。对用户而言，可信要素将推动人工智能技术黑箱趋于透明，增强用户对人工 智能的信任感。对开发者而言，可解释的人工智能有助于全生命周期的企业管理，有助于履行内部报告和外部监管合规义务，确保应用和服务在最大程度上减少偏见。 可信作为传统领域数字化转型赋能因子，培育数字经济新兴增长点。随着人工智能产业对可信的探索与实践不断成熟，其代表的透明度高、可解释性强、确定性高的特性将与国防、法律、医疗等领域深度结合，缓解当前应用人工智能时所遇到的隐私保护、系统稳定等问题，以可信赋能数字化转型，甚至衍生出新的细分领域赛道，促进传统产业生态健康高质量发展，成为数字经济新的可持续增长点。 二、可信人工智能发展态势 （一）总体发展 可信人工智能处于快速发展中。2017年可信人工智能的概念正式提出后，各国积极开展研究，随后可信理念深入到人工智能全生命周期，各项人工智能监管指南相继推出，2021年后融合可信要素的人工智能产业生态开始构建。目前，企业已成为实践可信人工智能的主要力量，各大高校与行业组织也在积极同步推进打造人工智能可信生态环境。 资料来源：中国信息