中美欧人工智能治理的典型法律政策比较与通用风险治理框架适用（2024年度观察）

1 隐私与个人信息保护法律工作组的官网地址是： https://c-csa.cn/mobile/research/union-detail/i-1610.html @2023云安全联盟大中华区－保留所有权利。你可以在你的电脑上下载、储存、展示、查看及打印，或者访问云安全联盟大中华区官网（https://www.c-csa.cn）。须遵守以下：（a）本文只可作个人、信息获取、非商业用途；（b）本文内容不得篡改；（c）本文不得转发； （d）该商标、版权或其他声明不得删除。在遵循中华人民共和国著作权法相关条款情况下合理使用本文内容，使用时请注明引用于云安全联盟大中华区。 2 3 目录 致谢5一、摘要6二、中国人工智能法律政策7三、美国人工智能法律政策12四、欧盟人工智能法律政策16五、主要比较维度与框架映射19六、结论和展望28 4 致谢 《中美欧人工智能治理的典型法律政策比较与通用风险治理框架适用》由隐私与个人信息保护法律工作组专家编写。感谢以下专家和单位的贡献： 组长：原浩 参编专家： 江翔宇史宇航邢海韬审校人员及其他贡献者： 方婷张元恺赵晨曦贺志生 研究协调员：高健凯 感谢以下单位的支持与贡献： 北京天融信网络安全技术有限公司华为技术有限公司 （以上排名不分先后）关于研究工作组的更多介绍，请在CSA大中华区官网（https://c- csa.cn/research/）上查看。 在此感谢以上专家及单位。如报告有不妥当之处，敬请读者联系CSAGCR 秘书处给予雅正！联系邮箱research@c-csa.cn；国际云安全联盟CSA公众号。 5 序言 在数字化浪潮席卷全球的今天，人工智能（AI）作为推动社会进步和经济发展的关键技术，正以前所未有的速度和规模渗透到我们生活的方方面面。从智能制造到智慧医疗，从金融科技到教育革新，AI的应用正逐步重塑着我们的世界。 对当前的人工智能热潮是否和采取何种监管，各主要国家和地区的政策法律有共性之处，也有各自的地缘、文化、哲学伦理等因素相互作用而产生的差异。互有参照、借鉴的原则、方法和进路比较，对消除智能鸿沟、提升全球人工智能的治理水平基准无疑具有重要意义，这也是CSA作为中立的国际组织，在跨国跨区域的法治、技术对比中寻求治理共识和实现技术普惠的初衷。 本报告《中美欧人工智能治理的典型法律政策比较与通用风险治理框架适用》应运而生，旨在深入分析和比较中国、美国和欧盟在人工智能治理领域的典型法律政策，探讨其在不同文化、经济和政治背景下的异同，并尝试构建一个通用的风险治理框架。报告不仅聚焦于当前的立法成果，更着眼于未来发展趋势，以期为全球人工智能的健康发展提供参考和启示。 报告跟踪对比了中美欧的年度主要政策法律进展，从风险管理的思路出发通过设定“可比较项”进行了纵向比较，同时通过风险提示和控制措施映射，“回归”到中国新近出台的合规框架，使得对人工智能的安全治理可以实现一条从政策法律要求，到风险控制措施规制的可行路径。 随着技术的不断演进，人工智能治理的法律政策也将随之更新。我们期待本报告能够激发更多的讨论和思考，共同推动构建一个更加公正、透明、可持续的人工智能治理体系。让我们携手前行，在确保安全和伦理的前提下，充分利用人工智能的潜力，为全人类的福祉贡献力量。 李雨航YaleLiCSA大中华区主席兼研究院院长 6 一、摘要 如以1956年达特茅斯学院研究会议为标志，人工智能至今大致有过三次快速发展的热潮。在正处于第三次热潮的当下，审视既有的人工智能“历史遗留问题”，应对硬件架构、算力和模型算法的深刻变革带来的“新问题”，需要从不同国家、地区的阶段性、区域性和行业性的立法、政策和规则中吸取智慧。 本报告聚焦中美欧截至2024年以来对人工智能进行阶段性立法、政策的成果，通过设定不同的风险域进行细致比对，力图呈现典型国家对人工智能治理的典型做法，可以作为了解全球人工智能监管态势的起点。同时也需要注意，一方面随着技术迭代，对人工智能的法律、伦理治理仍处于快速变化的进程中，对风险的认识和控制随时可能会发生较大程度的更新；另外，目前已经有近百国家、地区开始至少围绕人工智能的某些方面进行不同程度的监管（或治理），但联合国最新《为人类治理人工智能》文件又显示在193个会员国中，只有7个国家参与了近期提出的重要人工智能治理举措，118个会员国完全缺席1。这说明即使对人工智能的治理本身，认识上也存在极大分歧。因此读者在本报告基础上，亦应进一步了解其他国家、地区，以及包括联合国在内的国际组织在人工智能治理方面的努力和成果，以形成对人工智能国际治理全貌的自行判断和整体认识。 本报告主要涉及两方面内容，一是对中美欧典型国家、地区的人工智能立法政策进行阶段性汇总与比较分析，力图呈现不同监管关注和其形成背景；二是结合全国网络安全标准化技术委员会2024年9月发布的《人工智能安全治理框架》 ——该框架可视为是对目前我国人工智能技术、模型发展中的风险控制观念的集大成，将各国主要法律政策监管的要求与之进行框架层面的关联，并寻求建立两者之间的一种映射，以便于人工智能的从业者可以快速实现对监管规则的整体判断和匹配，为相关活动的开展提供符合合规要求的依据参考。 二、中国人工智能法律政策 2017年7月8日，国务院印发《新一代人工智能发展规划》（以下简称“《规划》”），系我国首次以顶层规划的形式布局人工智能发展战略，明确了中国人 1https://news.un.org/zh/story/2024/09/1131551 7 工智能技术发展的战略目标与重点任务，标志着人工智能正式成为国家战略层面的重点。《规划》提出了“三步走”的战略目标，明确了2020年、2025年和2030年三个时间节点及分步战略，包括人工智能理论技术创新、产业经济发展、科技人才培养以及法律伦理规范等方面，旨在实现人工智能行业的持续健康发展，保证我国在人工智能领域的国际竞争力。 在《规划》的布局与指导下，我国对人工智能的发展高度重视，从人工智能发展的法律及伦理规范、重点政策支持、技术标准化和知识产权保护以及安全监管和评估等层面颁布了一系列法律政策，已然构建了较为全面的人工智能领域发展与监管框架。此外，人工智能技术的发展也离不开海量数据的投入。自2017年《网络安全法》、2021年《个人信息保护法》和《数据安全法》先后出台以来，我国逐渐形成了以“数据三法”2为核心的数据流通利用监管体系，为人工智能发展的数据底座安全提供了法律保障。 目前，我国人工智能领域立法呈现出“从特殊到一般”的特点。一方面，随着人工智能技术的发展与应用，我国近年来针对性地出台了包括《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》等在内的一系列专门性规范，其中，2023年国家网信办联合七部门共同发布的《生成式人工智能服务管理暂行办法》（“《暂行办法》”）更是全球范围内领先的对生成式人工智能进行规制的立法实践。《暂行办法》对生成式人工智能服务提供者的行为进行规范，并在责任设置方面进行了一定程度的限缩，是我国现阶段关注和促进人工智能技术健康发展和规范应用的集中体现。此外，2024年以来针对生成式人工智能训练数据合法合规性、典型行业应用等问题进行了研究，后续亦可能纳入出台的顶层设计。 另一方面，我国已将人工智能领域的立法纳入立法工作计划。根据国务院发布的年度立法工作计划，2023年、2024年人工智能法草案连续两年列入国务院预备提请全国人大常委会审议项目。全国人大常委会于2023年9月发布的“十四届全国人大常委会立法规划”中，将“推进科技创新和人工智能健康发展”的立法工作列入“第一类立法项目”，即“条件比较成熟、任期内拟提请审议”。在全国人大常委会公布的2024年度立法工作计划中，亦重申“网络治理和人工 2指《网络安全法》《数据安全法》和《个人信息保护法》。 8 智能健康发展等方面的立法项目，由有关方面抓紧开展调研和起草工作，视情安排审议”。 2024年7月，中国人大常委会法制工作委员会进一步阐述了人工智能立法的思路3：一是优先考虑灵活适用现有法律规则，通过法律解释或司法解释，解决人工智能发展过程中面临的突出法律问题，比如涉及大模型训练数据的合法合规、知识产权合理使用规则针对人工智能的适用等方面。二是对于某些人工智能应用的具体场景，可以通过授权立法的方式，让地方在立法权限范围内先行先试，或者参考目前智能网联汽车领域的试点做法，由国家有关部门组织示范应用，开展试点。三是针对影响产业发展的痛点难点问题，在迫切需要法律予以规范的领域，坚持“小快灵”立法原则，通过修改现行法律的方式解决。此外，人工智能立法也受到了中国法学界的高度重视，2024年以来有学者发布《人工智能法（学者建议稿）》、《人工智能法示范法》等，为我国今后的人工智能正式立法提供了一定参考。 以下基于《规划》的思路和近年来我国在人工智能领域出台的主要法律政策，从四个方面简要分析归纳： （一）法律及伦理规范 人工智能，伦理先行。2018年10月30日，习近平总书记在主持中共中央政治局第九次集体学习时，指出要“加强人工智能相关法律、伦理、社会问题研究，建立健全保障人工智能健康发展的法律法规、制度体系、伦理道德”。2024年7月4日世界人工智能大会暨人工智能全球治理高级别会议上发表的《人工智能全球治理上海宣言》亦明确，我们要“推动制定和采纳具有广泛国际共识的人工智能的伦理指南与规范，引导人工智能技术的健康发展，防止其被误用、滥用或恶用”。目前，我国在人工智能技术伦理领域出台的相关政策及规范主要包括以下内容（见表格），其中2023年颁布的《科技伦理审查办法（试行）》是我国科技伦理规制的最新实践，对从事人工智能等科技活动的单位提出了具体的伦理审查要求。 3《中国人工智能立法怎么走？》，https://new.qq.com/rain/a/20240711A09I9000 9 表1我国在人工智能技术伦理领域出台的相关政策及规范 名称 发布机构 发布时间 《新一代人工智能治理原则——发 展负责任的人工智能》 国家新一代人工智能治理专业委员会 2019年6月17日 《网络安全标准实践指南—人工智 能伦理安全风险防范指引》 全国信息安全标准化技术委 员会 2021年1月5日 《新一代人工智能伦理规范》 国家新一代人工智能治理专业委员会 2021年9月25日 《关于加强科技伦理治理的意见》 中共中央办公厅、国务院办公 厅 2022年3月20日 《科技伦理审查办法（试行）》 科技部等十部门 2023年9月7日 （二）重点政策支持 《规划》指出，要完善支持人工智能发展的重点政策。具体包括财税优惠、数据开放等一系列适应人工智能行业发展的政策体系，这些政策一方面能够为人工智能技术的发展提供有力保障，另一方面对人工智能发展所可能带来的社会问题能够实现有效应对。随着人工智能技术的不断发展。目前，我国出台的对人工智能发展的支持政策涉及税收、教育等方面，主要包括如下内容。 表2我国出台的对人工智能发展的支持政策 名称 发布机构 发布时间 《促进新一代人工智能产业发展三年行动计 划（2018-2020年）》 工信部 2017年12月13日 《高等学校人工智能创新行动计划》 教育部 2018年4月2日 《新一代人工智能产业创新重点任务揭榜工 作方案》 工信部 2018年11月8日 《国家新一代人工智能创新发展试验区建设 工作指引》 科技部 2019年8月29日 《关于“双一流”建设高校促进学科融合加快人工智能领域研究生培养的若干意见》 教育部、发改委、财 政部 2020年1月21日 《关于加快场景创新以人工智能高水平应用促进经济高质量发展的指导意见》 科技部等六部门 2022年7月29日 《关于支持建设新一代人工智能示范应用场 景的通知》 科技部 2022年8月12日 《人形机器人创新发展指导意见》 工信部 2023年10月20日 《关于加快传统制造业转型升级的指导 意见》 工