《全球人工智能治理行动计划》以来的观察

第一部分：人工智能的全球治理格局

• 全球人工智能治理体系的新发展：
  • 国家层面：促进发展成为人工智能政策制定的中心主题，各国纷纷出台鼓励技术发展的政策。
  • 国际层面：联合国持续加强其治理机制，并日益成为全球人工智能治理的主要渠道，形成了联合国体系与区域机制协调的治理模式。
  • 治理方式：越来越重视应用导向治理、上游治理和循证治理。
• 主要大国人工智能竞争：
  • 竞争战略定位持续提升，人工智能日益融入国家安全考量以及更广泛的战略主导权争夺之中。
  • 竞争关键领域：数据、算力、模型、应用、治理标准等。
  • 竞争特征：大规模计算扩展、能力建设、联盟体系、标准分歧、基础设施和关键矿产竞争。
• 现有挑战与治理悖论：
  • 治理协调与监管碎片化之间的张力。
  • 技术进步与风险可控性之间的张力。
  • 围绕算法歧视与价值观分化的张力。
• 全球人工智能治理的未来方向：
  • 治理预期向下重新校准，识别“最大公约数”。
  • 治理创新应从微观层面入手，重点在于可扩展和可复制的监管模式。
  • 治理架构应朝着多利益相关方、多中心化的方向发展。
  • 治理重点应从抽象的伦理原则转向工程导向的实施。

第二部分：人工智能安全风险与政策应对

• 人工智能技术安全风险：
  • AGI过渡阶段失控风险：通用人工智能（AGI）发展阶段存在争议，技术进步可能超出预期，引发不可预测的风险。
  • 人工智能发展中的潜在“黑天鹅”事件：技术失控、人工智能欺骗、人工智能代理。
• 人工智能应用相关的风险：
  • 人工智能武器化：自主致命武器系统（LAWS）的部署引发国家间军事竞争。
  • 人工智能武器控制：致命性自主武器系统（LAWS）的治理面临多重挑战，国际军控讨论进展缓慢。
  • 与生物技术及其他军民两用技术的融合：人工智能赋能的生物技术研究加剧了生物安全和生物安保风险。
  • 与前沿领域融合：人工智能在空间、网络空间和数据基础设施领域的应用，扩大了全球安全竞争的战略舞台。
• 人工智能的社会溢出风险：
  • 就业影响：人工智能将取代制造业和服务业等众多低技能和重复性工作岗位，加剧劳动力市场的竞争和社会阶层分化。
  • 深伪技术与社会认知及公众信任的危机：深度伪造技术被用于信息操纵和认知战，侵蚀公众信任。
• 政策响应：
  • 强化内在安全与建立全生命周期保护：安全设计原则、可解释人工智能、安全目标融入模型优化、应用层面建立多层AI安全护栏。
  • 多方利益相关者合作：动员政府、产业、学术界和社会，制定特定行业的治理框架。
  • 加强国际协调：缓解安全困境，减少战略误判。
  • 促进协同行动：大学和研究机构、科技公司、政府、社会参与协同治理。

第三部分：全球人工智能治理与南北合作

• 全球人工智能鸿沟加剧：
  • 计算鸿沟：全球超级计算资源集中在美国、欧洲和亚洲。
  • 数据鸿沟：全球数据价值链中，价值的分布仍然高度不均。
  • 算法鸿沟：顶尖AI研究人员高度集中于少数国家，尤其是美国。
  • 代币鸿沟：全球南方国家在访问前沿人工智能模型时，实际上被要求支付显著更高的溢价。
  • 应用鸿沟：大多数南方国家的产业基础相对薄弱，其数字化转型面临多重结构性制约。
  • 生态系统鸿沟：数字基础设施不足、人才外流、技术依赖。
• 人工智能南北合作的重要性及实践限制：
  • 南北合作对人工智能的重要性：避免发展断层、提升治理能力、促进协同行动、维护主权平等。
  • 全球南北合作面临的实际制约：地缘政治竞争、治理机制碎片化、权力结构失衡、治理体系和制度基础薄弱、非国家行为体的数字力量增长。
• 推进全球南北人工智能合作的可行途径：
  • 充分发挥联合国的核心作用。
  • “小多边”和区域机制应作为灵活的补充，服务于联合国框架。
  • 建立协同治理框架，以规范不同利益相关方的参与。
  • 加强国际协调，缓解安全困境，减少战略误判。
  • 更加重视全球南方国家在全球人工智能治理中的实质性参与。
• 南北人工智能合作优先领域与实施路径：
  • 计算能力和基础设施合作：共同发展模式、计算能力公共产品模式。
  • 能力建设合作：人才培养、技术援助、联合研究。
  • 数据与应用合作：发展导向、数据互惠、模式多样化。
  • 安全合作：构建包容性安全合作机制。

第四部分：中国在人工智能全球南北合作中的作用

• 中国推进南北合作的实践路径：
  • 通过基础设施合作建设发展共同体：支持非洲、东盟和拉丁美洲国家建设本地化数据中心、超级计算平台，并支持绿色能源设施。
  • 通过多边合作塑造包容性治理机制：利用金砖国家、上海合作组织、二十国集团等多边平台，促进更加南南合作。
  • 通过同等重视安全与发展，推进全球治理合作：积极参与促进人工智能安全合作，建设性地参与联合国关于致命性自主武器系统的讨论。
• 中国推动人工智能作为国际公共产品的最新实践：
  • 以建设开源生态为核心路径，打造中国人工智能国际公共产品：开源模型的供应、开源社区发展、本地化部署。
  • 中国人工智能国际公共产品建设的首要任务是公私能力建设：智能基础设施建设、人才培养和技能建设、行业应用和智能设备。
  • 深化行业应用，彰显中国人工智能国际公共产品的价值：气象预警、智慧农业、公共治理、行业应用。