中国的 AI 法规以及它们是如何制造的

工作纸 2023年7月|逆向工程中国人工智能治理 中国的AI法规和他们是如何制造的 马特·希恩 中国的AI法规和他们是如何制造的 马特·希恩 为方便起见，本文档包含由蓝绿色文本指示的超链接源注释。 ©2023卡内基国际和平基金会。保留所有权利。 卡内基在公共政策问题上不采取机构立场；本文所代表的观点是那些作者(S)的观点，不一定要反映卡内基、其sta或其受托人的观点。 不得以任何形式或任何方式复制或传播本出版物的任何部分卡内基国际和平基金会的书面许可。请直接询问： 卡内基国际和平基金会出版部 1779马萨诸塞州大道西北 Washington,DC20036 P:+12024837600 F:+12024831840 CarnegieEndowment.org 可在CarnegieEndowment.org上免费下载。 Contents 缩写列表1 Summary3 Introduction7 迄今为止的中国AI治理9 中国人工智能法规的基础结构14 推动中国AI治理的核心动机16 中国如何制定AI治理政策18 关于作者24 Notes25 卡内基国际和平基金会27 缩写列表 CAC:中国网络空间管理局 文化:文化和旅游部教育程度:教育部 MIIT:工业和信息化部MOST:科学技术部MPS:公安部 NRTA:国家广播电视管理局宣传:中共中央宣传部SAMR:国家市场监管总局 11 Summary 中国正在推出一些世界上最早和最详细的法规治理人工智能(AI)。这些包括治理推荐的措施 算法-部署在互联网上的最无所不在的AI形式-以及新的ChatGPT模具中合成生成的图像和聊天机器人的规则。中国的新兴的AI治理框架将重塑技术的构建和部署方式 在中国和国际范围内，影响中国技术出口和全球 AI研究网络。 但是在西方，中国的法规经常被视为无关紧要或纯粹被视为 为人工智能制定规则的地缘政治竞争的镜头。相反，这些规定值得仔细研究他们将如何影响中国的AI轨迹以及他们可以教什么世界各地的政策制定者都在监管这项技术。即使国家资助- 精神上不同意一项法规的特定fic内容，他们仍然可以从每个法规中学习当涉及到不同的基础结构和技术可行性时，其他 监管方法。 在这一系列的三篇论文中，我将尝试对中国的AI治理进行逆向工程。将法规分解为其组成部分-术语，关键概念， 和特定的fic需求-然后将这些组件追溯到它们的根源，揭示 3 图1.中国AI治理的“政策漏斗” 主要的治理举措通常从左到右通过这个漏斗推进，尽管往往并非线性进行。 真实世界根 习近平 中共意识形态 “世界” 的想法” 派对和政府 官僚主义 影响在中国实施AI的技术轨迹 影响 影响 对 FINAL Regulation 开发Advanced研究和 国家/地区国家/地区Development 全球 中国学者、官僚和记者塑造了这些规定。在这样做的过程中，我们有建立了中国如何制定人工智能治理政策的概念模型，该模型可用于预测中国人工智能治理的未来轨迹(见fiGURE1)。 中国关于算法和人工智能的三项最具体和最有影响力的法规是2021年关于推荐算法的规定，2022年深度综合规则(综合 生成的内容)，以及2023年生成AI规则草案。信息控制是一个 这三个措施的中心目标，但它们也包含许多其他值得注意的规定。推荐算法规则禁止过度的价格歧视并保护 受算法调度约束的工人的权利。 significantlabelsbeplacedonconsyntheticgeneratedcontent.Andthedraftgenerative 人工智能监管要求训练数据和模型输出都是“真实和准确的”。 AI聊天机器人可能无法克服的障碍。所有三项法规都要求 开发人员将在中国的算法注册表中创建一个fi，这是一个新建的政府文件- 收集有关算法如何训练的信息，以及要求它们通过安全自我评估。 从结构上讲，这些法规为国外的政策制定者提供了教训。通过推出一系列更有针对性的人工智能法规，中国监管机构正在稳步建立官僚主义 专有技术和监管能力。可重用的监管工具，如算法注册表可以充当监管机构，可以简化每个连续监管的构建，a 特别有用的一步，因为中国准备在未来几年起草国家人工智能法。 4中国的AI法规以及它们是如何制造的 检查这些法规的根源还可以深入了解关键的知识分子和塑造中国人工智能治理的官僚参与者。 迄今为止，中国(CAC)是治理中明显的官僚领导者，但这一立场可能随着监管重点超出CAC的核心能力，变得更加脆弱 在线内容控制。科技部是另一个关键角色，一个由于最近的政府重组和对 规范潜在的人工智能研究。这种官僚规则制定有几个智库和学者，特别是中国信息通信研究院 技术与清华大学AI国际治理研究所。 在未来几年，中国将继续推出有针对性的人工智能法规，并制定国家人工智能法律的基础。任何希望的国家、公司或机构 要与中国的人工智能生态系统竞争、合作或简单地了解中国的人工智能生态系统，必须考试- 在这些动作中紧密相连。本系列中的后续论文将深入研究这些细节法规及其产生的方式，加深对中国AI治理的理解 到目前为止，并预览一下弯道可能会发生什么。 马特·希恩| Introduction 在过去的两年里，中国推出了一些世界上第一个有约束力的国家关于人工智能(AI)的法规。这些法规的目标推荐算法- 用于传播内容、合成生成的图像和视频以及生成 像OpenAI的ChatGPT这样的AI系统。e规则为算法如何创建新的要求构建和部署，以及AI开发人员必须向 政府和公众。Ose措施正在为知识分子和官僚奠定基础 为中国可能在未来几年发布的全面的国家人工智能法奠定基础未来，全球人工智能治理在 欧盟即将出台的人工智能法案。这些举措加在一起，正在把中国变成一个实验室- 进行管理这个时代也许最有影响力的技术的实验。 但是关于中国AI治理的国际讨论往往没有采取这些规定认真地，参与他们的内容或决策过程。国际 评论经常落入两个陷阱之一：将中国的法规视为无关紧要的或将它们用作政治支柱。其他国家的分析师和政策制定者经常将他们是毫无意义的纸。习近平主席和中国共产党 政党（CCP）拥有不受控制的权力，无视自己的规则，因此，法规并不重要。其他美国政策参与者使用的幽灵 中国AI治理推进议程。当参议院多数党领袖查克 舒默宣布了今年早些时候开始监管人工智能的计划，他描述了中国的作为“给国家的警钟”，警告美国不能 让它的地缘政治对手为人工智能“书写道路规则”。 7 这些立场植根于现实的一个方面，但它们也造成了一个盲点：法规本身。他们对中国人工智能的要求和限制 产品很重要。ey将重塑该技术在该国的构建和部署方式，他们的影响不会止步于其边界。作为默认 中国技术出口的设置。ey将从内容开始影响一切印度尼西亚语言模型对自动驾驶汽车安全功能的控制 欧洲。中国是世界上最大的AI研究生产国，其法规将 随着公司寻求满足监管要求的技术，推动新的研究。作为美国-中国设计的人工智能系统在fi金融市场上越来越多地发挥作用。和国际空域，了解监管限制和故障安全机制- 塑造其行为的nisms将对全球稳定至关重要。 尽管中国的政治体制截然不同，但美国的政策制定者 在其他地方可以从其法规中学习。中国的法规创造了新的官僚和技术工具：披露要求、模型审计机制和技术人- 绩效标准。这些工具可以在不同的国家用于不同的用途，范围包括从对言论的专制控制到对自动化决策的民主监督。 绘制中国人工智能法规的成功、失败和技术可行性图表可以提供 其他地方的政策制定者预览什么是可能的，什么可能是毫无意义的来治理AI。 那么中国的人工智能法规包含什么？其庞大的党和国家官员是如何- Cies制定它们？有可能预测中国人工智能治理的方向吗？ is是一系列三篇论文中的第一篇，将使用一本小说来解决这些问题方法：逆向工程。 e方法从fi设计的产品开始：关于AI和算法的规定中国已经采用了e文件将把法规分解为他们的组合-nent部分-嵌入其中的术语、概念和要求-然后 向后追踪这些组成部分。ey将通过中国的“政策”来追踪他们的进步漏斗“(见fiGure1)通过考察思想的政治和社会根源；它们是如何 受中共意识形态的塑造，受国际人工智能话语的影响，受中国人的辩论学者和公司；以及由官僚实体形式化的fi。 澄清中国人工智能法规的特定fic目标和可能影响，并帮助建立一个中国制定人工智能政策的概念模型。 是fi的第一篇论文，概述了迄今为止中国的主要AI法规并进行了介绍对于政策过程中的关键参与者和在fi中的使用。本系列中的以下论文将将逆向工程方法应用于三个特殊的fic法规，深入挖掘它们的 思想、知识和技术根源。 是建立在国际学者社区的工作基础上的方法，这些学者在 过去十年，通过移动中国技术政策，大大改善了对中国技术政策的分析进一步关注政策供应链。十年前，中国的技术政策 在主流国际话语中，很大程度上未经审查。今天，分析师、学者和媒体更密切地关注北京的政策文件，经常翻译 并在发布后几天分析了它们的影响。 is项目旨在通过寻求继续将分析重点转移到供应链上 outtheearlysignalsofwhatpoliciesarelikelytocome.Itidentifiesactorsfromacross 中国学术界、媒体、政策智库、企业和党和国家局-- 发出信号并塑造即将到来的人工智能治理。最终，这种方法旨在深入了解中国现有的人工智能法规，并帮助预测新的 可能会采取措施。 迄今为止的中国AI治理 “AI”和“治理”是模糊的概念。试图剖析所有政府政策这一篮子技术的影响将使中国本已模糊的政治更加泥泞- cymakingprocess.ispaperthusfocusedonaspecificficsubsetofChinameasures:national- 明确且主要针对AI或监管算法的al级政策文件或治理。 子集不包括影响人工智能发展的若干法律法规，例如2021年个人信息保护法。它还排除了地方政府法规，例如涵盖自动驾驶汽车的国家政策文件，以及侧重于 刺激人工智能行业，而不是对其进行监管。e研究包括一些法规专注于算法而不是AI本身。它还涵盖政府文件 为人工智能的道德和治理提供了高级指导。在该范围内，表 1概述了十个特别重要的fi不能AI治理文件。 表1.中国AI治理政策文件 文件下面的发布日期) 官僚主义身体(关键 注意事项和关键条款 新一代AI 发展计划 原创中文英语翻译 2017年7月20日国务院虽然该计划主要侧重于鼓励人工智能 发展，它还为 到2030年制定人工智能治理法规。 治理原则2019年6月17日国家新由与MOST有关的专家委员会发布， 对于新一代 AI:开发 责任方fi社会 生成AIGovernance专家 文件提供了人工智能治理的八项原则， 包括“尊重隐私”、“安全/安全和可控” 和“敏捷治理”。 Intelligence委员会 原创中文英语翻译 概述12月7日, CCP中央 这个党的文件提供了一长串的社会和法律 建立一个规则- 基于法律的社会 (2020–2025) 原创中文 部分英语翻译 2020 委员会 2025年之前要解决的问题。这是firstCCP政策文件说明fi呼吁采取措施解决 推荐算法和deepfakes。 指导意见9月17日，CAC，宣传，由CAC开发，并由许多机构共同签署，这 关于加强全面治理互联网信息服务算法 2021 教育,最多，MIIT，MPS,文化,SAMR,NRTA 文件为监管提供了一般指导到2024年的在线算法。 原创中文英语翻译新九月的伦理规范生成AI 25,2021 国家新生成AI 由与MOST相关的专家委员会发布，文件对道德规范的高级指导 原创中文 Governance 专家 应该嵌入到AI治理中。这些规范包括人类应该保持对AI和熊的控制 英语翻译委员会 系统的最终责任。 文件下面的发布日期) 官僚主义身体(关键 注意事项和关键条款 关于12月31日