全球人工智能治理格局复杂且快速演变，生成式人工智能的出现带来了新的挑战。研报分析了各国对人工智能的治理方式，并提出了以下核心观点：
全球人工智能治理发展
- 各国采取了不同的治理方式，包括基于风险、规则、原则和结果的方法，以及是否制定了国家人工智能战略。
- 欧盟人工智能法案是首个全面且具有约束力的AI法规，其他国家如加拿大、巴西、智利和菲律宾也在制定AI-specific法规。
- 中国针对生成式AI基础模型的使用制定了法规，欧盟人工智能法案也包含了针对支撑通用人工智能（GPAI）系统的基础模型的特定义务。
- 除了政府监管努力，行业负责任的AI治理实践也越来越受到重视。
人工智能治理中的紧张关系
- 生成式AI的规模、权力和设计引发了一系列新的挑战，例如对就业、教育、环境的影响，以及在线危害的放大。
- 其他新兴的紧张关系包括生成式AI对就业的影响、与版权保护的交叉、数据透明度要求、生成式AI生命周期中参与者之间的责任分配，以及解决由生成式AI放大的虚假信息和错误信息问题。
- 数据治理问题也是这些新兴紧张关系的一个根源，例如隐私问题、数据保护、嵌入的偏见、使用数据训练生成式AI系统所带来的身份和安全挑战，以及生成式AI系统创建的数据。
国际合作和管辖权互操作性
- 国际合作对于促进管辖权互操作性至关重要，以确保全球团结和对AI的信任。
- 国际协调、兼容的标准和灵活的监管机制对于促进管辖权互操作性是必要的。
- 国际标准化计划正在由ISO/IEC JTC1/SC42和IEEE SA制定。
- 美国和欧盟已经表示将努力与国际公认的标准化工作保持一致。
兼容的人工智能标准
- 创建参与AI标准制定过程的能力和空间是必要的。
- 各国政府机构正在转向标准作为治理AI的一种方法。
- 国际标准化计划正在由ISO/IEC JTC1/SC42和IEEE SA制定。
- 尽管存在关于将监管权力从政府转移到私营行为者的工具化的批评，但它们越来越多地被认为是国际贸易、投资和竞争中的重要工具。
灵活的监管机制
- 生成式AI快速发展的能力要求对创新和治理框架的投资要敏捷和适应性强。
- 灵活的监管机制，除了法定文件之外，还需要考虑社会影响和监管挑战，这些挑战将在生成式AI技术继续发展和被各种文化和行业采用时出现。
- 例如，新加坡已经开创了“监管沙盒”，允许组织在一个安全和控制的环境中测试AI。
促进公平的获取和包容性的全球人工智能治理
- 全球对具有多样性和更公平部署的生成式AI系统的需求引起了广泛关注。
- 包容性治理可以咨询包括发展中国家在内的各种利益相关者，这有助于揭示挑战、优先事项和机会，使生成式AI技术更好地服务于所有人，并解决与现有数字鸿沟相关的日益扩大的不平等问题。
- 通过确保在人工智能的开发、部署和治理的各个阶段都包含来自撒哈拉以南非洲、加勒比海和拉丁美洲的代表性不足的国家（统称为“全球南方”），可以实现更具多样性和更公平的生成式AI系统部署和治理制度的兼容性。
结论
- 全球人工智能治理格局复杂、分散且快速演变，生成式人工智能的出现带来了新的挑战。
- 国际合作和管辖权互操作性对于有效利用生成式AI的全球机遇并解决其相关风险至关重要。
- 政府机构、民间社会、学术界、工业和受影响社区的多利益相关方合作对于确保持久有效的治理方案至关重要。
- 确保全球南方在人工智能的开发和治理中的公平获取和包容性对于创新以及实现该技术的经济社会效益和减轻全球危害至关重要。
