人工智能治理：历史经验的启示

2024年10月14日第33期总第659期 人工智能治理：历史经验的启示 【译者按】今年8月，兰德公司发布首篇“人工智能特征”系列报告 《人工智能治理：历史经验的启示》。报告通过回顾核技术、互联网、加密产品和基因工程四项技术的治理案例，认为人工智能治理应关注三个方面：制定技术规范时达成共识的重要性，治理有形资产与无形资产所面临的不同挑战，以及公私伙伴关系在治理中的作用。报告指出，尽管没有任何历史治理模式能完全类比人工智能治理，但由于人工智能可能以不同方式开发和应用，这些历史案例仍能为人工智能治理提供重要启示。赛迪智库电子信息研究所对该报告进行了编译，期望对我国有关部门有所帮助。 【关键词】人工智能治理历史类比经验启示 一、概述 人工智能的不断进化引发了一个问题：如何既能充分发挥人工智能优势，又能把风险降到最低？二战后，核技术、互联网、加密产品和基因工程成为新兴技术，但这些技术也曾面临类似的治理问题。这主要体现在三个方面：达成技术规范共识的必要性、治理有形资产和无形资产的重要区别、公私合作伙伴关系在治理中发挥的作用。上述四种新兴技术的区别体现在：开发所需的竞争资源、主要服务对象是公共部门还是私营部门、技术带来的安全风险、就风险达成的共识、可控的有形资产、能否就治理建立利益共同体、风险最小化且利益最大化的最优治理方式是公共治理还是私营治理。 人工智能早期治理模式的适用性取决于人工智能未来的发展。如果人工智能存在严重的广泛致害风险，在获取和使用过程会消耗大量资源，同时拥有可监控的有形资产，那么此类人工智能与核技术类似，适用于普遍的国际治理架构。而极小风险一类人工智能的适用模式与互联网治理模式类似。如果人工智能在获取时伴随巨大风险，那么此类人工智能适用于类似基因工程的治理模式，但各相关方应谨慎采用类似加密技术的治理模式。决策者应在关注人工智能的发展，追求共同治理标准、关注技术和环境变 化的同时，也应该借鉴历史教训。 二、人工智能治理的紧迫性 近年来，人工智能的发展使大众重新关注人工智能带来的风险，这些风险既有直接的、具体的，也有未来的、推测的。研究人员警告称，人工智能可能会对社会产生负面影响，例如因其自动化程度不断提高造成工作岗位减少、重大决策发生偏差、放大虚假信息和操纵社交媒体。此外，人工智能技术对国家经济竞争力和军事优势至关重要，人工智能发展落后会威胁国家安全。还有记录表明，通用人工智能，特别是生成式人工智能和大型语言模型对人类生命和福祉构成了威胁。 上述担忧使大众更加关注对人工智能的监管和治理。过去对治理新技术也存在类似担忧。�文探讨了核技术、互联网、加密产品和基因工程四种技术的治理。�文通过探讨这些技术，总结了这些技术的发展历程、与人工智能的治理区别，并阐述了技术治理的三大主题： 就技术规范达成长久共识； 有形资产和无形资产的治理； 治理方面的公私伙伴关系。 第一，大量实例证明：技术治理的成功关键在于规范一致、 认知相同。选定的每个例子都表明，技术治理的核心在于指导技术开发与使用规范达成共识。 第二，治理有形资产和无形资产会面临的挑战存在不同，但治理无形资产相对更难。这不代表无形资产的治理不重要：政府对信息分类和知识产权的保护（如经营模式）就属于主要的无形资产治理方法。无形资产治理需要方法和流程，但♘有这些还不够完善，而有形资产的监控制度往往是有效治理模式的主要焦点。 第三，公私互动对大多数技术治理都十分重要。公私互动可根据技术性质和治理重点，采取不同形式，但对于最前沿技术，最终都需要公私互动。如果技术治理框架有这样的远见，积极主动地为公私部门创造良好的互动条件，将会更好地实现治理。 最后，�文研究的人工智能等技术确切来说是研究一系列或各类相关的设备、系统和技术。�文用“技术”一词指代这一宽泛的概念，而非指这些技术中的某项特定技术。�文的人工智能仅限于“生成式人工智能”系列技术。 三、历史经验对人工智能治理的启示 二战结束以来，各种技术都需要新型治理方式。�文探讨了四种技术：核技术、互联网、加密产品和基因工程，在开发和应用过程中，所涉及的新型治理方式为人工智能治理提供了不同的 借鉴。�章将探讨这些治理方式的经验教训。图1展示了示例技术的发展时间轴。 注：黄条为核技术发展时间轴，蓝条为互联网发展时间轴，红条为加密产品发展时间轴，绿条为基因工程发展时间轴。 图1：示例技术的发展时间轴 （一）核技术 1、治理历程 在美国研发并首次使用核武器后，部分决策者认为美国将无限期保持核武器垄断，且信心十足。然而，1949年苏联试爆了首枚核武器，打破了美国的垄断意图。到20世纪60年代，美国政府态度悲观，预测核武器会因其威力引发全球快速扩散。核扩散问题促使美国多次通过防扩散工作治理核技术（参见图2：核技术治理时间轴）。 防扩散包括了一系列活动和战略，分别取得了不同程度的成效。1968年的《不扩散核武器条约》被视为防扩散努力的最终基石，此外其他防扩散举措还包括： 成立国际原子能机构（1957年），达成“原子能和平利用倡议”（1953年），该倡议旨在建立一个超国家组织，该组织可拥有核材料，并传播和平利用核技术的材料和技术。 设立无核武器区（限制核武器部署的区域）。 成立国际原子能机构 签署《不扩散核武器条约》 朝鲜进行首次核试验 建立“导弹及其技术控制制度” 二战期间使用核武器 图2：核技术治理时间轴 推动签署禁止核武器试验的国际条约，包括1963年《部分禁止核试验条约》和1996年《全面禁止核试验条约》 （已签署，但未执行）。 监控和限制核裂变材料转让，包括1974年成立了伦敦核供应国集团，1991年制定了“合作减少核威胁计划”。 限制核武器运载系统贩运，包括1987年的《导弹及其技术控制制度》。 2、治理效果 核技术治理取得了明显成效。第一，自二战结束以来，近八十年核武器没有在战争中再次使用。第二，尽管有数十个国家声称具备制造、获取核武器的能力，但♘有10个国家真正具备核力量,其中南非已自愿拆除了其核武库。第三，各国能够传播和平利用核能的技术和能力，同时避免了核战争，并减缓了核武器技术扩散。虽然“原子能和平利用倡议”加速了核扩散，但在促成《不扩散核武器条约》方面做出重要贡献。 （二）互联网 1、治理历程 1995年，“互联网”一词被定义为一种全球信息系统，系统使用“网际协议”进行连接，支持使用传输控制协议/网际协议 （TCP/IP）进行通信，并在相关通信基础设施上分层提供高级服务。互联网开发和治理工作可以追溯到70多年前（参见图3：互联网治理时间轴）。1961年至1967年间，研究人员提出了传输控制协议/网际协议的初步构想。1974年发布的传输控制协议/网际协议细则被视为互联网起源的里程碑。后来，由美国能源部 （DOE）、美国国家航空航天局（NASA）和美国国家科学基金 会（NSF）资助、计算机科学学术界主办的多个公有及私有传输控制协议/网际协议网络（包括其他网络）发展成为互联网。 NSFNET 网络私有化 传输控制协议/ 网际协议开发初期 图3：互联网治理时间轴 美国国家科学基金会管理的主干网络被称为“NSFNET网络”，在20世纪80年代互联网技术的发展过程中发挥了关键作用。1995年，停止了对NSFNET网络的资助，其基础设施也被私有化。此后，互联网工程任务组（IETF）、互联网研究任务组（IERF）和万维网联盟（WWWC）等机构以及其他私营实体实现开放与协作，互联网技术由此得以发展。 2、治理效果 早期互联网的发展和治理模式是私营部门主导、公私部门合作的形式。在互联网发展过程中，政府充当推手，不插手技术研发和推广进展等决定，而私营部门可进行自由创新、实验和技术研发。美国政府有意将互联网技术标准和技术开发的管控权移交 给私营机构，是由于其对互联网的设计和治理的不可替代性。然而，私营部门的治理偶尔会限制政府维护自身利益。例如互联网工程任务组曾拒绝美国政府修改协议，以便合法获取通信内容的请求，该任务组称该请求将“损害网络安全，导致更多非法活动，更易侵犯用户隐私，通信开发商也会承受巨大成🎧”。 （三）加密产品 1、治理历程 20世纪70年代前，加密产品的开发使用完全由政府负责， 无任何商业用途。约50年前，三方面的发展改变了这种状况。第一，国防部发现有必要发展加密技术。第二，计算和通信技术不断进步，信息安全密码学开始应用于商业。第三，美国国家科学基金会资助的学者发明了公钥加密技术（与加密产品治理相关事件的时间轴见图4）。 结束出口管制 《密码学在确保信息社会安全方面的作用》报告 发明公钥加密技术 图4：加密产品治理的时间轴 密码学的使用可能引发全球性传播，并妨碍信号情报收集能力，因此美国国家安全局（NSA）部分人员感到担忧。1979年，国家安全局与国家科学基金会和美国教育委员会合作，就国家安全局关注的问题与学术界进行接触。在随后的二十年，加密产品被归类为军需品，促进强加密的产品一律受国家安全审查和出口管制。但随着银行和金融、电子商务、医疗保健和其他行业开始发起互联网安全交互诉求，网络流量开始使用更安全的超文�传输协议（HTTP），加密产品的商业用途也大幅增长。曾经存在的一点共识基�消失殆尽。 密码学在美国越来越重要，限制密码学损害了美国信息技术产业的主导地位和竞争力。美国的企业利益和个人利益与美国政府的利益在密码学的既得利益开始产生冲突。1996年，美国国家科学院发布了《密码学在确保信息社会安全方面的作用》，标志着加密产品治理制度的终结。修正案法院案件削弱了政府的出口管制能力，在几年内基�取消了对加密产品的出口限制。虽然取消了出口管制，但加密产品的公共利益和私人利益之间的冲突仍在持续。美国政府继续试图通过其他措施保护国家安全利益，但这些措施往往会引起公众的反感，丧失了公信力。 2、治理效果 国家安全部门最初在治理加密产品方面取得了成功，原因是 -10- 努力争取学术界和私营部门达成共识。但随着私营和公共部门在开发和治理方面的优先事项和规范出现分歧，近年来共识逐渐减弱。加密产品治理的结果归纳为以下几点： 强加密技术在全球的传播很可能受限，但有动机的用户 （国家安全机构最担心的用户）仍然能够获得加密技术。这说明治理无形资产面临诸多挑战。 有证据表明，该政策对美国软件业造成了重大经济损失，因为美国软件企业的市场份额被国外不受政策限制的企业占据。 在规范问题上缺乏共识，规范的冲突和推进工作导致了对政府（尤其是美国国家安全局）严重、持续的敌意和公信力降低。 出口管制限制了美国国内对加密产品的使用和供应，削弱了网络安全。管制还导致在制定标准时可以选择使用较弱的“出口级”加密技术，这导致了严重、长期的网络安全漏洞。 （四）基因工程 1、治理历程 对人工智能治理带来启示的最后一个案例是“暂停”基因工程技术。最适用人工智能研究的是科学界的自愿暂停，包括重组 DNA研究、人类基因编辑提议暂停结束等各方面（图5：有关基因工程治理的时间轴）。 召开阿西洛马会议 发现CRISPR- Cas9基因治疗法 首个基因编辑人类胚胎 20世纪70年代初，科学家群体发现了促进DNA重组技术的方法，科学家群体承认该技术潜藏着巨大的利益，但同时担心该技术带来严重的风险。此后，美国生命科学院成立了小型科学家委员会以审议DNA重组技术的未来风险。该小型委员会建议全球自愿暂停某些DNA重组试验。虽然这种暂停被批谨慎过度，但“学术界和工业研究中心都加以遵守”。 图5：基因工程治理时间轴 1975年，加利福尼亚州太平洋格罗夫（PacificGrove）举行了“DNA重组问题阿西洛马会议”，与会者在会上达成共识，认为应继续进行基因研究，但要有具体限制。 CRISPR-Cas9基因治疗法也曾有类似的治理模式，该治疗法是2013年开发的一种更精确、更强大的基因编辑工具。这项技 术可提高人类各种疾病的治疗能力，此外还具备基因编辑能力。科