技术未来全球未来理事会 技术政策:为繁荣的世界负责任的设计 白皮书10月2024 GettyImages图片: Contents 执行摘要3 1技术政策指南5 2设计:安全和安保9 3设计:弹性公民13 4设计:市场和基础设施17 5设计:环境和社区21 6启用:政府的动态功能25 7启用:扩展的多利益相关者主义29 8三个结论和一个开始32 贡献者33 尾注35 免责声明 这份文件由世界经济论坛发布,作为对某个项目、洞察领域或互动的贡献。文中所表达的研究发现、解释和结论是世界经济论坛协助并认可的合作过程的结果,但其结果未必反映世界经济论坛的观点,也不一定代表其全部成员、合作伙伴或其他相关方的意见。 ©2024世界经委会.保留所有权利。本出版物的任何部分均不得以任何形式或通过任何手段进行复制或传输,包括复印和录音,或通过任何信息存储和检索系统。 执行摘要 技术带来了机遇与风险——这些风险有可能抵消潜在的积极成果。需要有相关政策推动负责任的技术设计。 什么是繁荣的世界?如何阅读此报告 它是一个可持续经济发展不忽视自然、个人利益与集体社会进步相互强化、自由和平等及人权是不可争议的原则、以及政府促进、召集并赋能其他利益相关方共同塑造未来的世界。 全球技术政策未来理事会倡导制定能够为技术贡献繁荣世界奠定基础的政策设计。本报告提供了关于改进技术政策设计的非详尽概述和行动清单 。基于该理事会的经验和专业知识,报告调查了一系列技术政策应力求影响的结果,并探讨了可以改善技术政策开发过程的各种促进因素。 技术为这个繁荣的世界做出了贡献。它可以: -提高安全,福祉和生活质量 -提高经济机会和生产力 -增加连通性和近地理距离 报告的结构如下: –第一节,“技术政策指导原则”,介绍了推荐用于管理技术潜在风险和危害以实现积极成果的基本考虑因素。 -赋予自由和可访问性 -实现创造性表达并扩大创新 -第2至第5部分专注于针对与安全与安保目标、公民的韧性、公共市场的质量和基础设施质量、以及社区和自然环境相关的政策提出改进建议。 When 技术政策若有效且包容性强,不仅能为社会带来积极成果,还能建立和维护公众信任。 但是技术本身充满了矛盾——机遇与风险并存。这些风险包括对隐私、安全、民主和信任的威胁 。 负责任的设计需由预见性治理引导,以确保技术进步与伦理原则、可持续发展目标和社会价值相一致,而不仅仅是经济或个人利益。在这种模式下,有效的治理将使技术更具可信度。如果没有负责任的设计,技术很容易(有意或无意地)被用来限制、削弱并威胁上述设想的美好世界。 政策是确保技术负责任设计的关键机制。技术政策确立了适当的工作系统和边界,影响技术的开发和采用方式。当技术政策既有效又包容时,它不仅为社会带来积极成果,还建立了并维护了公众对民主价值观、过程和机构的信任。 –第6至第7部分分享了能够更好地使政府及相关利益相关方落实负责任的技术政策设计的提案,通过具体构建政府所需的能力以及有效的多利益相关方合作结构。 每一部分都基于政策制定中不断发展的最佳实践,提供了每个重点领域的主要挑战和空白的背景信息,并对能够提高政策能力以推动负责任技术设计的具体解决方案或行动进行了高层次的概述。这些解决方案有意跨越多利益相关者生态系统,提出了公共部门、私营部门和民间社会角色的建议。每一部分还包含来自不同司法管辖区的案例研究,并为利益相关方提供了建议,以便更好地了解如何在不同的地理区域、文化和政策环境中实施提议的解决方案。 本报告提供的理念和建议并不构成确保所有政策方面实现负责任技术设计所需的主题领域或行动的完整列表。它们旨在鼓励采纳新的实践措施,逐步提升政策的有效性;整体而言,这些措施可以促进显著的进步。此外,报告通常不会为特定技术提供具体的政策建议,而是侧重于改进更广泛的政策制定过程的项目。 许多建议嵌入了敏捷治理的原则中,定义为适应性、以人为中心、包容性和可持续性的政策制定 ,这一原则承认政策开发不再仅限于政府,而是越来越多地成为多利益相关方的合作努力。1必须保持学习和开放的态度,准备好根据新的见解调整策略。 新兴挑战。这一方法将使政府和企业的政策制定者不仅能够应对当前的形势,还能积极主动地塑造一个具有韧性和公平性的未来,随着技术的发展而演变。此前该委员会的若干版本还提供了有关灵活治理的进一步指导,以探讨这一方法:敏 捷治理:重新构想第四次工业革命中的政策制定;第四次工业革命的敏捷监管:监管者的工具包;and21世纪的监管技术. 全球技术政策未来委员会旨在通过线上线下更深入的讨论来推进本报告中选定的建议。这将为详细examination这些建议的机会,并提供有关技术政策执行的见解,以进一步推动负责任设计以促进繁荣世界的目标的实现。 图1案例研究、国家和主题 安全和安保 市场和基础设施 动态功能对于政府 东南亚国家联盟(东盟)和欧盟在数据保护和标准方面的协调 标准/政策:(数据)|东盟/欧盟 协调推进跨大西洋网络事件报告 合作伙伴关系:(网络安全)|美国/欧盟 通过道德守则推进职业责任教育和培训:(一般)|全球 欧盟数字公共基础设施(DPI)立法框架标准/政策:(DPI)|EU 在乌克兰发展自我维持的新闻部资金启用技术:(一般)|乌克兰 “印度堆栈”-协调发展和增长激励措施 启用技术:(DPI)|印度 阿拉伯联合酋长国的创新动态能力建设之旅 教育和培训:(一般)|阿联酋 尼日利亚的政府项目 教育和培训:(一般)|尼日利亚 建设能力和连接,以实现塞尔维亚的GovTech解决方案 教育和培训:(govtech)|塞尔维亚 有弹性的公民 环境与社区 扩展的多利益相关者主义 通过数字素养赋予妇女权力:来自印度的案例研究 教育和培训:(一般)|印度 全球倡议与合作:为数据保护开创隐私增强技术 启用技术:(数据)|全球 为未来的劳动力赋权:跨行业的创新提升技能和重新技能计划 教育和培训:(一般)|私营部门(主要是美国) 美国国家人工智能研究资源试点启用技术(AI)|美国 印度数字个人数据保护法2和新的电子废物管理规则 标准/政策:(数据)|印度 布鲁金斯学会的新AI公平实验室合作伙伴关系:(AI)|美国 制定政策,促进多方利益相关者采取行动,以实现透明度和公平性 标准/政策:(一般)|日本 全球人工智能伙伴关系(GPAI)合作伙伴关系:(AI)|全球 伙伴关系制度安排(IAP) 合作伙伴关系:(数据)|全球 标准/政策:(AI)|私营部门(主要是 提到的领土 东盟 全球 Japan 塞尔维亚 乌克兰 EU 印度 尼日利亚 UAE US 4 以身作则:企业通往人工智能(AI)伦理的战略路径 美国) 1 技术政策指南 技术进步是经济增长、创造就业和社会进步不可或缺的驱动力。 从印刷机到互联网,从半导体到人工智能(AI)和生物技术,技术使世界越来越互联互通,并最终实现了数字化——然而,在这样一个世界中,传统保护消费者、保障隐私和维护安全的机制可能 八个路标 创新与经济增长。 会受到挑战。 良好的技术政策在这种微妙的平衡中导航,以制定促进负责任技术创新的环境。虽然技术政策可能会根据要解决的问题或要推进的计划而显著不同,但理事会已确定了八个“技术政策指导原则”,以考虑任何适用于新兴技术的政策和法规的设计 、开发和实施。这些指导原则与世界经济论坛关于可信技术的目标相一致,包括安全性和可靠性 、有效的问责制和监督、以及包容性、伦理性和负责任的使用,如报告《赢得数字信任》中所述 。3 1可以采用机制来培育新兴或关键技术产业— —如半导体、量子技术或5G——或创建良好的实践激励;例如,嵌入网络安全功能或后量子加密。这些机制可以包括但不限于:直接投资、税收优惠、研发(R&D)资金、公私合作伙伴关系和挑战性资助。 美国历史上 例如,美国通过《芯片与科学法案》等计划大力投资半导体研究与开发,日本也实施了举措以增强其半导体产业。类似地,巴西、日本、新加坡和美国等许多国家在开放和互操作的5G技术的发展与部署方面进行了重大投资。4,5 这些指南应为监管机构、被监管方以及公众在这一过程中提供有价值的信息。有些路径会更短(更快),但更具挑战性(风险更高),而其他路径则会更长(更慢),但更加轻松且风险更低。因此,仔细评估每个指南的相关性及其固有的权衡是非常必要的。 该委员会鼓励所有三组人员——监管机构、被监管方以及公众——将这些指导原则视为基于现有政策、国家经济与社会优先事项以及特定技术(如人工智能、区块链、云计算、农业科技、5G、先进能源解决方案和量子技术)方面的国家特殊利益的“准备状态”或“适配性”提醒。 共同的价值观,消费者保护 2 正如社会 并且认识到需要制定类似禁止在飞机上吸烟等规定以保障公共健康(一个共享的价值观),在技术领域也有必要采取类似的禁止措施以确保个人的福祉和安全。目标是减轻与技术相关的潜在危害,确保它们在实际应用前达到安全标准并符合普遍认可的伦理准则。 良好的科技政策在塑造促进负责任技术进步的环境方面实现了微妙的平衡。 通过研究这些指导原则并共同做出明智的决策以确定最佳前进路径,监管机构及其所监管的对象可以创造一个促进创新和增长、同时最大限度地减少风险和危害的繁荣环境。指导原则下的示例提供了如何处理每个元素的一种方式,同时承认所有指导原则之间是相互关联的。 欧盟AI法案确立了普遍性 例如,对某些高风险的人工智能系统(如生物识别、关键基础设施、教育系统、就业和执法)实施使用限制。此外,对某些人工智能系统施加特定的透明度要求,尤其是在存在明显操纵风险的情况下,例如通过聊天机器人。 设置时 选择和竞争。 技术政策需要仔细考虑其对生产者、用户以及普通公众的影响。政策可以限制技术开发者和消费者在设计和使用方面的选择,但如果设计得当,它可以改善技术的选择和选项。虽然缺乏政策也可能提供更多选择,但这种缺乏增加了开发者做出不良决策的可能性,例如为消费者提供大量不安全的选择。同时,政策真空可能会导致市场权力的集中和其他损害消费者和创新的竞争限制。因此,必须谨慎平衡政策以确保足够的选择并创造适当标准的激励机制。 欧盟数字市场法案 示例:旨在在线上创造一个公平的竞争环境并减少或防止数据囤积对竞争产生的扭曲效应。它为作为“关键平台服务提供者”的大型科技平台创造了新的义务,以创建一个更加公平的商业用户环境,并确保消费者能够获得更好的服务并轻松切换提供商。类似地,印度和沙特阿拉伯王国(KSA)也正在引入竞争规则,以促进该国的增长和投资,同时推动公平和充满活力的竞争。 国家安全与全球政策应支持 4 竞争力。在确保国家安全(如应对网络威胁等潜在风险)的同时推动前沿技术的发展和部署,国家安全往往与国际协作和信息共享等增强全球竞争力的重要因素存在紧张关系 。国家试图通过区分关键基础设施和非关键基础设施、对数据进行分隔等方式来同时维护安全和竞争力。 世界各国政府 例如,对日益数字化带来的国家安全风险表示越来越担忧。例如,当关键基础设施如水和电力连接互联网以提高服务效率时,这会使基础设施面临网络安全威胁的风险。如果关键基础设施遭受网络攻击,公民的日常生活将受到影响。澳大利亚为此制定了《2023年关键基础设施韧性战略》,旨在与《2023年关键基础设施韧性计划》和《2021年安全立法修正(关键基础设施)法案》协同工作 ,以管理此类风险。6 基于风险的方法通过提供明确的指导方针和负责任的技术开发激励措施来促进创新 。 鉴于该技术 策略互操作性。 不受管辖边界的限制,避免与其他司法辖区的政策重复和冲突对于在国际互联的世界中创建统一的监管环境至关重要。政策制定者应努力建立一套共同的基本要求,并简化监管流程,以促进跨不同司法辖区运营的技术公司的连贯性和清晰度 ,重点关注互操作性。这反过来也有助于更好地保护消费者和公民免受潜在危害的影响,这些危害可能超出国界。完全一致并非目标,因为存在文化差