追踪中国人工智能法规的根源

追踪中国人工智能法规的根源 马特·希恩 2024年2月 追踪中国人工智能法规的根源 马特·希恩 为方便起见，本文档包含由蓝色文本指示的超链接源注释。 ©2024卡内基国际和平基金会。保留所有权利。 卡内基在公共政策问题上不采取机构立场;本文所代表的观点是作者的观点，不一定反映卡内基，其工作人员或受托人的观点。 未经卡内基国际和平基金会的书面许可，不得以任何形式或任何方式复制或传播本出版物的任何部分。请直接查询 ： 卡内基国际和平基金会出版物部 1779马萨诸塞州大道西北华盛顿,DC20036 P:+12024837600 F:+12024831840 CarnegieEndowment.org 本出版物可在CarnegieEndowment.org上免费下载。 Contents 编写规则19 缩写 AIIA:人工智能产业联盟CAC:中国网络空间管理局CAICT:中国信息通信研究院MIIT:工业和信息化部MOST:科学技术部 MPS:公安部 NPC:全国人民代表大会NRTA:国家广播电视管理局 SAMR:国家市场监督管理总局 Summary 在2021年和2022年，中国成为第一个对人工智能（AI）的一些最常见应用实施详细的、具有约束力的法规的国家。这些规则构成了中国新兴的人工智能治理制度的基础，这是一种不断发展的政策档案结构，将影响从前沿人工智能研究到世界第二大经济体的运作，从非洲的大型语言模型到自动驾驶汽车的一切。 在欧洲。 U.S.政治领导人经常警告不要让中国在人工智能治理中“书写道路规则”。但是，如果美国真的想在人工智能治理中争夺全球领导地位，那么它需要真正了解自己正在与什么竞争。这需要检查中国人工智能法规的细节和塑造它们的政策过程。本文是系列文章中的第二篇，它打破了中国的人工智能法规，拉开了塑造这些法规的政策制定过程的帷幕。 中国共产党（CCP）和中国政府从2021年的推荐算法规则开始了这一过程，这是一种无处不在的技术，在国际AI治理话语中经常被忽视。这些规则规定了公司干预内容推荐的新义务，授予了被推荐内容的用户新的权利，并为受算法调度的零工提供了保护。中国党国迅速跟进了一项关于“深度合成”的新规定，即使用人工智能来生成深度假货等合成媒体。这些规则要求AI提供商对AI生成的内容进行水印，并确保内容不会侵犯人们的“相似权”或损害“国家形象” 。这两项法规共同创建并修改了中国的算法注册表，这是一种监管工具，将发展成为中国人工智能治理体系的基石。 与世界其他地区的流行观念相反，中国的人工智能治理制度并不是由中共领导层自上而下的法令建立的。习近平主席和 中共其他高层领导人有时会就政策优先事项给予高层指导，但在制定中国人工智能法规方面，他们并不是关键人物。相反，这些法规是由来自中国党国内外的参与者共同推动的动态和迭代决策过程的产物。这些参与者包括平台科技公司的中层官僚、学者、技术专家、记者和政策研究人员。通过公共宣传、智力辩论、技术工作和官僚争论，这些参与者为中国目前和未来的人工智能法规奠定了基础。 本文通过中国AI治理的“政策漏斗”（见图1）追溯了这些法规的进展。对于推荐算法和深度综合规则，监管的最初火花来自CCP长期以来对在线内容创建和传播的担忧。对于前者来说，算法驱动的新闻应用程序《今日头条》的兴起威胁到中共设定统一叙事并选择将哪些故事推送给读者的能力。在深度合成的情况下，在线人脸交换视频引起了中国公众的注意，并导致政府监管机构考虑了深度假货的威胁。在2017-2020年期间，这些担忧贯穿了中国的官僚机构。监管机构在具体应用中采取了一系列权宜之计，同时还责成政策分析师和与政府相邻的技术组织探索不同的监管干预措施 。 与此同时，来自中国党国以外的参与者也参与了政策辩论，将对人工智能的其他社会和经济影响的担忧带到了桌面上。2020年，一篇病毒杂志的文章详细介绍了食品配送工人是如何被决定他们的路线和配送时间的算法剥削和置于危险之中的。这件作品是建立在中国劳动社会学家的学术基础上的，它引起了公众对负责任的公司和技术的强烈抗议。在一年之内，这种强烈抗议转化为关于推荐算法在员工调度中的作用的规定。中国科技公司也在积极尝试制定即将出台的规则，成功地推动监管机构不再使用听起来更不祥的术语“深度假货”，而是转向更温和的版本“深度合成” 。." 在整个过程中，中国学者、记者、公司甚至国有媒体都在积极消化国际人工智能辩论。他们将分析 、采纳和调整来自美国和其他地方的想法，涵盖从纽约市的算法透明度要求到BzzfeedNews创建的深度虚假视频的所有内容。这种吸收国际思想的意愿为美国的参与甚至影响力提供了渠道。S.actors.对于愿意学习和适应国外想法的中国监管机构来说，这也是一个真正的优势，无论这些想法来自地缘政治的朋友还是敌人。 追踪中国人工智能法规的起源为我们提供了一个窗口，以了解当今最危险和最重要的政策领域之一 。了解中国国内的人工智能政府可以澄清党国对技术的态度以及治理技术固有的权衡。确定关键参与者、机构和机制也使得开始构建中国如何制定人工智能法规的工作模型成为可能，该模型可以帮助预测接下来会发生什么。 图1.探索中国AI治理的“政策漏斗” 习近平与中共意 识形态 “思想世 界” 中共与 政府官僚主 义 MOST CAC 国务院中央委员会 国际AI辩论公司 媒体 学者，智库，顾问 习近平 CCP意识形态 国际环境舆论 国内政治环境经济与劳动 AI能力和商业模式 真实世界的根源 智库、学者和政府顾问 关于AI治理的许多公开辩论都发生在出版物和研讨会上，这些出版物和研讨会以专家，研究人员和政府顾问为特色。以下是塑造这些辩论的精选组织和个人。 智库：CAICT；CASTED；清华I-AIIG 院士:张凌翰(张凌寒)；梁征(梁正)；薛澜(薛澜)；曾毅(曾毅）顾问：国家新一代AI治理专家委员会 其他组织 例 草案 要使用此交互式功能，请访问CarnegieEndowment.org。 简介和概述 中国AI治理的基础 中国正在监管人工智能，世界其他国家应该注意。自2021年以来，中国政府推出了一系列有针对性的、有约束力的法规，这些法规是人工智能强国治理我们这个时代最具变革性的技术之一的首批重大举措。这些法规针对推荐算法，深度合成，生成AI和最近的面部识别。中国现在正在辩论是否制定一项可以编写和推广的总体国家人工智能法。 未来的岁月。 本文是三篇分析中国人工智能法规及其塑造力量的系列文章中的第二篇。人工智能是一种扩散技术 ，中国已经开始出台政策，以解决其在自动驾驶汽车和医疗等多个领域的应用。本系列论文分析了AI相关法规的一个特定子集：由中国网络空间管理局（CAC）起草的法规，以处理面向公众的在线算法和生成AI。该系列的第一篇论文概述了迄今为止的这些法规，并分析了它们的核心动机和结构特征。本文重点介绍了中国前两条重要法规：2021年推荐算法相关规定和2022年关于“深度综合。本系列的第三篇也是最后一篇论文将探讨中国2023年生成人工智能法规的丰富辩论，以及它们对中国人工智能治理的未来道路的信号。 推荐算法是AI的无所不在的应用，为从社交媒体提要到电子商务平台和导航应用程序的一切提供支持。但对于一个国家第一个以人工智能为重点的监管来说，它们也是一个奇怪的目标。推荐算法在国际人工智能治理辩论中并不突出，因为该技术的大多数应用都被视为相对温和的。对“深度合成”的规定引起了争议。 类似的头抓，因为这个词在中国境外是未知的，在国内很少使用。 规则本身中的一些规定也让局外人感到困惑。除了对推荐算法的一些简单的要求，例如授予用户关闭算法的权利，推荐算法法规还包含一个看似未连接的要求。它禁止过度的价格歧视，禁止合成的假新闻，并要求算法提供商保护零工工人的权利。这两项法规共同建立并完善了一个新的算法注册表，这是一个已经发展成为中国人工智能治理框架基石的监管工具。 为什么中国选择目标推荐算法和深度综合？这些看似无关的需求是如何被包括在内的？这个过程揭示了什么 关于中国人工智能治理的动机和轨迹？本文通过采取“逆向工程”方法来解决这些问题（见方框1 ）。 方框1.逆向工程中国AI治理 本文是试图通过对法规本身进行逆向工程来更好地了解中国AI治理的系列文章之一。分析从成品开始：中国已经采用的AI和算法法规的文本。然后将法规分解为其组成部分-术语，概念和嵌入其中的要求-并通过中国的四层“政策漏斗”向后追溯（见图1）。通过政策漏斗追踪中国人工智能法规的演变，这种方法旨在深入了解中国现有的人工智能法规，并帮助预测可能会出现哪些新条款。 政策漏斗的这四层是现实世界的根源，中国国家主席习近平和中共意识形态，“思想世界”以及党和国家的官僚机构。现实世界的根源包括中国的宏观层面的经济、政治、社会和技术环境。在这一层中捕获的力量和现实世界的事件产生了对新政策的需求，但它们也限制了监管机构的选择。第二层的元素——习近平的世界观和中共的意识形态——充当着政治和知识的过滤器，政策制定者通过这些过滤器来理解这些问题。迄今为止，习近平似乎并没有积极参与中国制定具体的人工智能法规；相反，他为政策参与者设定了行进方向，并为决策提供了最终支持。 “思想世界”层是最复杂的，通常也是最重要的。它由产生新政策建议的政策和学术辩论以及试图引导或淡化这些建议的公司游说组成。尽管这些公开辩论并不能完全决定政策，但它们为官僚工厂提供了知识基础。政策漏斗的最后一层，即CCP和政府官僚机构，包含起草和完成法规的主要部委和CCP机构。尽管迄今为止，中国网络空间管理局（CAC）一直是推动监管的关键参与者，但随着AI治理的发展和扩展，其他机构可能会发挥领导作用，包括科学技术部或中国国务院和全国人民代表大会。 这里描述和下面描述的政策漏斗（见图2）旨在说明理解中国人工智能政策制定的概念框架。实际上，导致每个新法规的特定事件都是独特的，并且过程通常是临时性的。这里描述的层是多孔的,并且调节不是以纯线性方式通过它们。相反，他们经常通过这些层向前和向后弹球，通过学术，官僚，公众舆论和中共意识形态的不同组合来塑造和重塑。但这一过程往往有一个模式，本文试图对潜在的力量和关键参与者提供一个接地和细粒度的研究。 这种模式。 有关这四个层以及每个层中的主要角色的更详细检查，请参阅本系列的第一篇论文。 图2.中国AI治理政策制定的四个层面 真实世界的根源 中国的宏观经济、政 治、社会和技术环境 习近平优先事项与中共意识 形态 “思想世界” 中共与政府 官僚主义 政策制定者通过其看待问题 的政治和智力过滤器 政策和学术辩论， 商业游说 主要部委和CCP机构制定AI法规 以下部分重点介绍了这些法规中的关键条款和术语。然后，本文追溯了这些思想在过去七年中的历史和演变，揭示了一个动态的决策过程。这些法规的最初推动力来自中共和中国政府对在线内容的长期担忧。关于在线内容如何创建和传播的担忧代表了中国所有早期算法和人工智能法规的贯穿线 。 但是，随着这些监管建议的兴起，来自中国社会的一系列其他参与者-学者，记者，科技公司和中国公民-重塑了法规。这些团体的公众强烈抗议和智力发酵导致法规的范围和要求发生了变化，并增加了新的规定来解决其 这些政策参与者中的许多人正在吸收并参与美国和其他国家正在发展的关于人工智能治理的想法，构成了影响和辩论的非正式渠道。 跟踪这些法规的发展揭示了一个动态的政策制定过程，该过程将CCP关注，官僚政治，公共话语，公司游说，学术分析和国际AI治理辩论交织在一起。无论人们是想与中国的人工智能治理计划竞争 、参与，还是仅仅理解中国的人工智能治理计划，也必须审视这一更广泛的决策过程。 推荐算法的规定是什么？ 中国关于推荐算法的规则与人工智能一样涉及互联网监管。它们最初的构想不是针对AI技术本身，而是针对特定的技术应用-在线推荐算法-恰好由AI和机器学习提供支持。在这样做的过程中，他们纳入了中国早期在线内容法