2024人工智能治理专题：CIDEG 研究通讯第20期-清华大学产业发展与环境治理研究中心

CIDEG研究通讯 第20期 （人工智能治理专题） 清华大学产业发展与环境治理研究中心编2024年06月 【专题研究】3 《人工智能算法影响评价体系构建与应用实践》3 【相关研究】6 GIHI2023系列解读6|人工智能专利爆炸式增长！北京、粤港澳大湾区等中国城市成为全球人工智能技术发展主要力量6 【专家观点】9 薛澜：人工智能发展的治理挑战9 季卫东：人工智能治理国际合作的重要性12 贾开：ChatGPT是更接近人脑的智能技术吗？13 薛澜教授对话AshleyLlorens：推动人工智能正向发展，跨领域与国际合作至关重要14 【学术活动】19 CIDEG产业经济系列研讨：算法影响评价体系构建与生成式人工智能安全治理19 【出版发表】20 《信息技术与管理应用》贾开：ChatGPT作为“浅层革命”的进步与局限——兼论通用智能与“人-机关系”20 《中国行政管理》薛澜、贾开、赵静：人工智能敏捷治理实践——分类监管思路与政策工具箱构建21 《国际论坛》贾开、俞晗之、薛澜：人工智能全球治理新阶段的特征、赤字与改革方向22 《数字法治》季卫东、赵泽睿：人工智能伦理的程序保障25 【学者动态】28 薛澜教授出席2024中国发展高层论坛：人工智能面临治理挑战28 薛澜出席2024中关村论坛：人工智能安全上路，首先装好“刹车”29 【编者按】 人工智能（AI）的应用范围日益广泛，涵盖医疗健康、自动驾驶、金融、教育等多个领域，充分展现了其巨大的潜力和价值。随着AI技术的迅猛发展，我们也面临着诸多挑战，诸如伦理道德、数据隐私保护、算法偏见、安全风险以及对劳动市场的潜在影响等。AI发展的治理问题，已成为当前科技与社会进步的核心议题，创新算法治理理念和机制成为当前亟待解决的重要课题。 为此，清华大学产业发展与环境治理研究中心（CIDEG）针对算法治理问题，于2022年设立了《人工智能算法影响评价体系构建与应用实践》专项研究。由上海交通大学国际与公共事务学院长聘副教授、CIDEG兼职研究人员贾开主持。该研究旨在构建适应不同算法治理目标的影响评价体系，明确算法治理风险的类型内涵及其指标测度，为算法治理实践改革提供坚实的理论基础和实践指导。 除此之外，CIDEG与自然科研（NatureResearch）团队联合开发的《国际科技创新中心指数》（GIHI）2023报告中，也对人工智能领域的相关研究进行了专项评估。特别是关于人工智能专利的爆炸式增长，以及中国城市如北京、粤港澳大湾区在全球人工智能技术发展中的重要地位等分析，为我们提供了丰富的数据和深入的见解。 近期，CIDEG的多位学者在人工智能领域发表了相关研究成果，在《信息技术与管理应用》、《中国行政管理》、《国际论坛》和《数字法治》等学术期刊上正式发表。作为人工智能治理领域的权威专家，薛澜教授在2024中国发展高层论坛与中关村论坛上，深入阐述了人工智能治理的重要性及挑战。 在学术活动方面，CIDEG产业经济系列研讨会围绕算法影响评价体系的构建与生成式人工智能的安全治理等议题展开了深入的讨论和交流。与会专家学者就相关问题分享了各自的观点和研究成果，为推动算法治理理论和实践的发展贡献了智慧和力量。 本期CIDEG研究通讯特别聚焦人工智能（AI）发展的治理挑战及其在中国和全球的应用和发展趋势，汇集了多位学者的专家观点、研究专题、学术活动及相关出版发表的成果，以期为读者提供深入的了解和参考。 【专题研究】 《人工智能算法影响评价体系构建与应用实践》课题负责人：贾开 人工智能算法影响评价（algorithmimpactassessment,AIA）作为一种治理机制已经被普遍性地纳入各国算法治理的框架体系之下，但其本身的制度定位与制度逻辑却尚未得到充分讨论。较为典型的反思性问题例如：人工智能算法治理的何种关键特征，使得我们需要纳入人工智能算法影响评价（即人工智能算法影响评价的必要性问题）？与往往被视为其前身的环境影响评估、数据隐私影响评估相比，人工智能算法影响评价体现了更多的继承和连续性，还是差异性（即人工智能算法影响评价的特殊性问题）？人工智能算法影响评价治理绩效的发挥，受到何种因素的影响（即人工智能算法影响评价的局限性问题）？ 对于这些问题的探索性回答，构成了本报告的主要内容。 本报告第一部分的论述指出，就制度缘起而言，人工智能算法影响评价的必要性和重要性在于其将治理重心从结果转向了过程，在淡化追溯直接责任因果链条的同时，强调治理信息的记录、共享、监督，以此积累治理经验并为算法设计者、应用者的及时调整提供参考。具体而言，这又可以总结为三点。 第一，算法不能被视为独立的产品或服务而被引入人类生产生活的各个场景，其功能效用的发挥及其治理影响的释放都根植于所处环境，正是在与环境中其他要素的相互关联、相互影响过程中算法才体现其价值。这一技术应用逻辑带来了两方面的治理后果：一方面，算法在其应用过程中需要简化现实复杂性，以单一变量代替现实中多重因素的综合影响，而这便会导致算法模型与现实世界的不一致；另一方面，基于海量数据训练的算法模型也可能体现出现实复杂性，将原本隐藏在表面现象背后的社会分化结构外化出来，从而暴露出不得不作出回应的治理风险。算法与环境的这两种关系都导致建立在“过错原则”基础上的现有侵权法或责任法框架可能失效，因试图追溯因果链条的基本原则在算法与环境的相互混杂中难以被充分满足。 第二，算法技术方案难以被解释、难以被穷尽的基本逻辑使得算法治理将始终处于 动态演化过程之中，而不能被静态的绝对原则所束缚或框定。一方面，人工智能算法模型在技术层面的“黑箱性”，以及算法应用过程中与环境要素相互影响的复杂性，都决定了试图追溯从结果倒推责任因果链条的可解释努力面临重重挑战；另一方面，试图实现相同功能的算法技术方案存在多重可能性，以及算法优化标准可能具有多重内涵的模糊性，都使得试图追求“最优算法”的技术努力幻化为“乌托邦”。这两方面因素都要求算法治理呈现出敏捷性与实验性，即任何试图提前界定而不做调适的治理思路都难以真正回应算法治理需求，治理与技术开发、应用伴随而生、伴随而变需要成为新的主导性理念。 第三，算法应用风险往往以统计意义而非具体个案形式出现的基本规律，使得算法治理不得不陷入集体效用改善与个体权益侵害同时发生的公平性“悖论”之中，而这一治理风险并非传统治理框架的关注重点。以概率计算为基本科学基础的人工智能算法，其效用提升主要体现为统计意义上的指标优化，但算法本身将始终存在“漏洞”的技术特点又决定了个体权益侵害现象必然发生，而前述算法难解释、难穷尽的基本逻辑又使得此种个体权益侵害不能再明确的责任因果链条下得到救济。如何破解这一公平性“悖论”便成为隐藏在算法治理不同案例下的共性要求。 正是基于上述三方面的新特征、新要求，算法影响评价制度的引入才不仅是必要的，也是重要的，其价值主要体现在两个方面：对算法治理的过程进行记录以累积治理经验与知识（由此回应实验性的治理要求），在风险评价的基础上要求算法设计与应用者及时修改生产流程以作出敏捷回应（由此回应动态性的治理要求）。接下来本报告的第二部分将基于对人工智能算法影响评价的制度实践进行梳理，并在此基础上对其制度内涵作出界定，以具体回答“算法影响评价是什么”这一基本问题。报告的第三部分和第四部分各讨论了人工智能算法影响评价的治理逻辑和人工智能算法影响评价的未来改革。 作为一种已经受到普遍认可和共识的算法治理机制，算法影响评价制度正陆续在各国逐步展开。2023年8月15日，《生成式人工智能服务管理暂行办法》正式施行，提出了要求对生成式人工智能进行算法影响评价的制度要求。为进一步落实该文件，2024年2月，全国信息安全标准委员会发布了全国网络安全标准化技术委员会技术文件《生成式人工智能服务安全基本要求》（以下简称《安全基本要求》），从语料安全、模型安全、安全措施等方面提出了安全评估要求，为生成式人工智能服务提供者的安全评估工作、相关主管部门评判生成式人工智能服务安全水平提供了重要参考。更为重要的是， 《安全基本要求》第一次对我国算法影响评价的对象、范畴等实质性内容做出了明确规定。尽管其是以技术文件的形式发布，不具有强制性，监管部门究竟将如何利用该文件尚存在不确定性，但如果不考虑短期的合规性问题，而是从算法影响评价制度体系的建构与执行角度来讲，《安全基本要求》往前迈出了实质性的一步，其可能极大加速算法影响评价制度的完善进程。 在此背景下，本项研究围绕算法影响评价制度逻辑的梳理与分析，将具有重要意义。一方面，当我们意识到算法影响评价的制度形式可能存在多种选择的前提下，明确其制度目标、厘清其制度逻辑将有助于决策者清楚辨析不同模式的优劣，并在此基础上选择、建构适合本国需要的算法影响评价制度；另一方面，算法作为一种新兴技术现象，以及算法应用作为一种新型“技术-社会”系统而体现出的特殊规律，使得传统的影响评价理论可能并不适用于此，本报告在第三、四章展开的理论探索，将同样有助于未来改革的进一步推进。当然，更具体的算法影响评价制度内涵、要求的分析已经超出了本报告的内容，而这也是未来进一步需要完善之处。当理论与实践形成相互促进的良性循环之后，算法影响评价才可能实现其制度初衷、提升其制度绩效。 ...... ▼请扫码查看完整报告 【相关研究】 GIHI2023系列解读6|人工智能专利爆炸式增长！北京、粤港澳大湾区等中国城市成为全球人工智能技术发展主要力量 为进一步比较国际科技创新中心城市在人工智能技术领域的技术创新能力，GIHI2023依托人工智能专利公开数据，从技术创新的数量、质量、技术优势三个维度，分别采取有效发明专利量、高质量专利量、国际专利分类IPC（InternationalPatentClassification）分布三个指标进行测度。 2020年后人工智能专利呈现爆炸式增长，北京、粤港澳大湾区专利数量上超越东京，成为全球人工智能技术发展的主要力量。 一、北京、上海、粤港澳大湾区表现概述 1.1北京 北京在人工智能技术有效发明专利存量上排名第1名，拥有26638件，人工智能专利年均增长率达到77%。在高质量专利总量上，北京排名第5名，其中PCT专利量上排名第3名，拥有1608件，在人工智能技术领域三方专利量排名中位居第3名。近五年，北京在高质量专利上保持高速增长态势。 北京的高质量专利主体较为分散，主要基于其企业和高校的双重聚集优势助力其人工智能产业发展，如百度（380件）、京东方（228件）、小米（157件）、京东 （136件）等高技术企业，华为（121件）、西门子（71件）等跨地区跨国企业合作，以及清华大学（168件）、北京大学（61件）等国际知名高校合力成为其发展的助推剂。相对而言，北京的高质量专利主体则比较分散，表明其处于市场早期阶段。 1.2粤港澳大湾区 粤港澳大湾区在人工智能技术有效发明专利存量上排名第2名，拥有20207件， 人工智能专利年均增长率达到92.4%。在高质量专利总量上，粤港澳大湾区排名第2 名，拥有2769件，在人工智能技术领域三方专利量排名中位居第5名。 粤港澳大湾区凭借其强大的产业集聚优势，汇集了华为（2267件）、平安集团（2145件）、腾讯（985件）、中兴（369件）、OPPO（368件）等高科技企业，使得其人工智能产业位居世界前列。 1.3上海 上海在人工智能技术有效发明专利存量上排名第9名，拥有6506件。在高质量专 利总量上，上海排名第15名，其中，在PCT专利量上排名第9名，拥有475件。二、其他中国城市表现概述 中国城市人工智能专利总量领先全球，人工智能技术有效发明专利存量前20城市 （都市圈）中，中国城市占14席。三、专利热点领域 本报告选取PCT专利和三方专利均进入前20的城市（都市圈），分析这些城市的人工智能技术的热点领域分布。 在人工智能算法算力方面，粤港澳大湾区和北京则高度重视神经网络与遗传算法、机器学习、自然语言处理的技术研发和布