2024人工智能治理专题：CIDEG 研究通讯第20期-清华大学产业发展与环境治理研究中心

核心观点

• 人工智能（AI）的应用日益广泛，但也面临着伦理道德、数据隐私、算法偏见、安全风险和劳动力市场冲击等治理挑战。
• 人工智能算法影响评价（AIA）作为一种治理机制被纳入各国AI治理框架，其必要性在于将治理重心从结果转向过程，强调信息记录、共享和监督，积累治理经验，并为算法设计者和应用者提供调整参考。
• AIA的价值在于记录治理过程以累积经验，并在风险评价基础上要求算法设计与应用者及时调整生产流程。
• 中国AI发展面临挑战，包括形成公平竞争的市场环境、建立产业生态、构建可预期、包容审慎、敏捷有效的治理框架以及聚集全球顶尖AI人才。
• ChatGPT的出现推动了AI技术创新加速，但也引发了关于其创新性和颠覆性的争议。
• 人工智能治理国际合作至关重要，通过技术-程序的进路形成测试、评估和监控的工具箱，可以为AI治理赋能，推动监管与发展不再是零和游戏。
• 跨学科合作是解决AI领域核心问题的关键，需要技术专家、哲学家、政策制定者和管理人员的共同参与。
• 人工智能治理需要敏捷治理，通过分类监管思路和政策工具箱构建，实现监管的敏捷性和有效性。

关键数据

• 2020年后人工智能专利呈现爆炸式增长。
• 北京、粤港澳大湾区人工智能专利数量超越东京，成为全球AI技术发展的主要力量。
• 中国城市人工智能专利总量领先全球，人工智能技术有效发明专利存量前20城市（都市圈）中，中国城市占14席。

研究结论

• 人工智能治理需要平衡创新发展与风险防范，构建合理、公正、有效的全球治理体系。
• “竞争性合作”理念可以作为未来AI全球治理改革的指导方向，推动国际合作，实现价值共享与风险共担。
• 人工智能伦理的程序保障是实现AI风险治理多元价值共存与敏捷治理目标的关键。