技术政策：繁荣世界的负责任设计（英）

技术未来全球未来理事会 技术政策：为繁荣的世界负责任的设计 白皮书10月2024 GettyImages图片： Contents 执行摘要3 1技术政策指南5 2设计：安全和安保9 3设计：弹性公民13 4设计：市场和基础设施17 5设计：环境和社区21 6启用：政府的动态功能25 7启用：扩展的多利益相关者主义29 8三个结论和一个开始32 贡献者33 尾注35 免责声明 本文件由世界经济论坛发布，作为对某个项目、视角领域或互动的贡献。文中所述的研究发现、解释和结论是世界经济论坛促成并认可的合作过程的结果，但其结果未必反映世界经济论坛的观点 ，也不一定代表其全体成员、合作伙伴或其他利益相关方的意见。 ©2024世界经委会.所有权利保留。本出版物的任何部分均不得以任何形式或通过任何手段进行复制或传输，包括复印和录音，或通过任何信息存储和检索系统。 负责任的世界技术政策设计：2 执行摘要 技术带来了机遇与风险——这些风险可能侵蚀潜在的积极成果。需要有相关政策推动负责任的技术设计。 什么是繁荣的世界？如何阅读此报告 它是一个可持续经济发展不忽视自然、个人利益与社会整体进步相互强化、自由和平等以及人权是不可争议的原则、政府促进、召集并赋能其他利益相关方共同塑造未来的世界。 技术为这个繁荣的世界做出了贡献。它可以: –提高安全、福祉和生活质量 –增强经济机会和生产率 –增加连接性并缩小地理距离 –授予自由和平等访问权 –促进创意表达并放大创新 全球技术政策未来理事会倡导制定能够为技术贡献繁荣世界奠定基础的政策设计。本报告提供了关于改进技术政策设计的非详尽概述和行动清单 。基于该理事会的经验和专业知识，报告调查了一系列技术政策应力求影响的结果，并探讨了可以改善技术政策开发过程的各种促进因素。 报告的结构如下： –第一节，“技术政策指南”，介绍了推荐用于管理技术潜在风险和危害以实现积极成果的基本考虑因素。 -第2至第5部分专注于提出改善与安全与安保目标 、公民的韧性、公共市场的质量和基础设施质量以及社区和自然环境相关的政策建议。 当科技政策既有效又包容时，它不仅为社会带来积极的结果，还能建立和维护公众信任。 但技术本身充满了矛盾——机遇与风险并存。这些风险包括对隐私、安全、民主和信任的威胁。 负责任的设计由预见性治理塑造，以确保技术进步与伦理原则、可持续发展目标和社会价值观保持一致，而不仅仅是经济或个人利益。在这种模式下的有效治理将使技术更加可信。如果没有负责任的设计，技术可能会（故意或无意地）被用于限制、缩小并威胁上述设想的繁荣世界。 政策是确保技术负责任设计的关键机制。技术政策确立了适当的工作系统和边界，影响技术的开发和应用方式。当技术政策有效且包容时，它不仅为社会带来积极成果，还建立并维护了公众对民主价值观、过程和机构的信任。 –第6至第7部分分享了能够更好地使政府及相关利益相关方落实负责任的技术政策设计的提案，通过具体构建政府所需的能力以及有效多利益相关方合作所需的结构。 每部分基于政策制定中的不断演变的最佳实践 ，提供每个重点领域的主要挑战和缺口的背景信息，并对能够提高政策驱动负责任技术设计能力的具体解决方案或行动进行高层次概述。这些解决方案有意跨越多利益相关者生态系统 ，针对公共部门、私营部门和民间组织提出了建议。每部分还包含来自不同司法管辖区的案例研究，并为利益相关者提供了建议，以便更好地了解如何在不同的地理区域、文化和政策环境中实施提出的解决方案。 3 本报告提供的观点和建议并不构成确保所有政策方面实现负责任的技术设计所需的主题领域或行动的完整列表。它们旨在鼓励采用新的实践措施，逐步提升政策的有效性；整体而言，这些措施可以促进显著的进步。此外，报告通常不针对特定技术提供具体的政策建议，而是侧重于改善更广泛的政策制定过程的项目。 新兴挑战。这种做法将使政府和企业政策制定者不仅能够应对当前的形势，还能主动塑造一个具有韧性和公平性的未来，随着技术的发展而演变 。此前该委员会的先前版本提供的有关灵活治理的进一步指导也探讨了这一方法：敏捷治理：重新构想第四次工业革命中的政策制定;第四次工业革命的敏捷监管：监管者的工具包;and21世纪的监管技术. 许多建议嵌入了敏捷治理的原则之中，定义为适应性、以人为中心、包容性和可持续性的政策制定，这一原则承认政策开发不再仅限于政府，而是日益成为多利益相关方的努力。1有必要保持学习和开放的态度，准备好根据新的见解来修订策略。 全球技术政策未来理事会旨在通过线上线下更深入的讨论来推进本报告中选定的建议。这将提供一个机会，以更详细的方式审视这些建议，并为促进负责任设计以实现繁荣世界的目标提供更多关于技术政策执行的见解。 图1案例研究、国家和主题 安全和安保 市场和基础设施 政府的动态能力 东南亚国家联盟(东盟)和欧盟在数据保护和标准方面的协调 标准/政策：(数据)|东盟/欧盟 协调推进跨大西洋网络事件报告 合作伙伴关系：(网络安全)|美国/欧盟 通过道德守则推进职业责任教育和培训：(一般)|全球 欧盟数字公共基础设施(DPI)立法框架标准/政策：(DPI)|EU 在乌克兰发展自我维持的新闻部资金启用技术：(一般)|乌克兰 “印度堆栈”-协调发展和增长激励措施 启用技术：(DPI)|印度 阿拉伯联合酋长国的创新动态能力建设之旅 教育和培训：(一般)|阿联酋 尼日利亚的政府项目 教育和培训：(一般)|尼日利亚 建设能力和连接，以实现塞尔维亚的GovTech解决方案 教育和培训：(govtech)|塞尔维亚 有弹性的公民 环境与社区 扩展的多利益相关者主义 通过数字素养赋予妇女权力：来自印度的案例研究 教育和培训：(一般)|印度 全球倡议与合作：为数据保护开创隐私增强技术 启用技术:(数据)|全球 为未来的劳动力赋权：跨行业的创新提升技能和重新技能计划 教育和培训：(一般)|私营部门(主要是美国) 美国国家人工智能研究资源试点启用技术(AI)|美国 印度数字个人数据保护法2和新的电子废物管理规则 标准/政策：(数据)|印度 布鲁金斯学会的新AI公平实验室合作伙伴关系：(AI)|美国 制定政策，促进多方利益相关者采取行动，以实现透明度和公平性 标准/政策：(一般)|日本 全球人工智能伙伴关系(GPAI)合作伙伴关系：(AI)|全球 伙伴关系制度安排(IAP) 合作伙伴关系:(数据)|全球 标准/政策：(AI)|私营部门(主要是 提到的领土 东盟 全球 Japan 塞尔维亚 乌克兰 EU 印度 尼日利亚 UAE US 4 以身作则：企业通往人工智能(AI)伦理的战略路径 美国) 1 技术政策指南 技术进步是经济增长、创造就业和社会进步不可或缺的驱动力。 从印刷press到互联网，从半导体到人工智能（AI ）和生物科技，技术使世界变得更加互联互通，并最终实现了数字化——然而，在这样一个世界中，传统保护消费者、保障隐私和维护安全的机制可能会受到挑战。 良好的技术政策在这种微妙的平衡中导航，以制定一种促进负责任技术进步的环境。虽然技术政策根据要解决的问题或要推进的计划可能会有很大差异，但理事会已确定了八个“技术政策指导原则”，以考虑任何适用于新兴技术的政策和法规的设计、开发和实施。这些指导原则与世界经济论坛关于可信技术的目标相一致，包括安全性和可靠性、有效的问责制和监督，以及包容性、伦理性和负责任的使用，如《赢得数字信任》报告中所述。3 八个路标 1 创新与经济增长。 可以采用机制来培育新兴或关键技术行业— —如半导体、量子技术和5G技术——或者激励良好实践；例如，嵌入网络安全功能或后量子加密。这些机制可以包括但不限于：直接投资、税收优惠、研发（R&D）资金、公私合作伙伴关系和挑战性资助。 美国历史上 例如：美国通过《芯片和科学法案》（CHIPSandScienceAct）等项目大力投资半导体研究与开发，日本也实施了举措以强化其半导体产业。类似地，许多国家如巴西 、日本、新加坡和美国在开放和互操作的5 G,5技术的发展与部署方面做出了重大投资。4 这些指南应为监管机构、被监管方以及公众在这一过程中提供有价值的信息。有些路径会更短（更快），但更具挑战性（更冒险），而其他路径则会更长（更慢），但更为轻松且风险更低。因此，仔细评估每个指南的相关性及其固有的权衡是非常必要的。 该委员会鼓励所有三组人员——监管机构、被监管方以及公众——将这些指导原则视为基于现有政策、国家经济与社会优先事项以及特定技术（如人工智能、区块链、云计算、农业科技、5G、先进能源解决方案和量子技术）领域的国家特殊利益的“准备性”或“适宜性”提醒。 共同的价值观，消费者保护正如社会 2 并且认识到需要制定类似禁止在飞机上吸烟等规定以保障公共健康（一个共享的价值观 ），从而确保技术的安全性和符合普遍认可的伦理准则，在实际应用前降低潜在的危害 。 良好的科技政策在营造促进负责任技术进步的环境过程中实现了微妙的平衡。 通过研究这些指导原则并共同做出明智的决策以确定最佳前进路径，监管机构及其所监管的对象可以创建一个促进创新和增长、同时最大限度地减少风险和危害的繁荣环境。指导原则下的示例展示了如何处理每个要素的方法，同时认识到所有指导原则之间都是相互关联的。 欧盟AI法案确立了普遍性 例如，对某些高风险的人工智能系统（如生物识别、关键基础设施、教育系统、就业和执法）实施使用限制。此外，特定的人工智能系统还须遵守特定的透明度要求，尤其是在存在明显被操控风险的情况下，例如通过聊天机器人。 设置时 选择和竞争。 技术政策的制定需要谨慎考虑其对生产者、用户以及普通公众的影响。政策可以限制技术开发者和消费者在设计和使用方面的选择，但如果设计得当，它可以改善技术的选择和选项。虽然缺乏政策也可能提供更多选项，但这种缺乏增加了开发者做出不良决策的可能性，例如为消费者提供更多不安全的选择。同时，政策真空可能会导致市场权力的集中和其他妨碍竞争的约束，这对消费者和创新都是有害的。因此，必须权衡政策以确保足够的选择并激励适当的标准。 国家安全与全球政策应支持 4 竞争力。在开发和部署前沿技术的同时，确保国家安全不受潜在威胁，如网络威胁。国家安全往往与国际协作和信息共享相矛盾，而这些都是增强全球竞争力的重要组成部分 。国家通过分离关键基础设施和非关键基础设施、对数据进行分compartments等方法来尝试在安全与竞争力之间取得平衡。 欧盟数字市场法案 示例：旨在在线上创造一个公平的竞争环境并减少或防止数据囤积导致的竞争失衡。它为作为“关键平台服务提供商”的大型科技平台创造了新的义务，以创建一个更公平的商业用户环境，并确保消费者能够获得更好的服务并轻松地切换供应商。同样，印度和沙特阿拉伯王国（KSA）也正在引入竞争规则，以促进国家的增长和投资，同时推动公平而充满活力的竞争。 世界各国政府 例如，越来越担心数字化程度的增加带来的国家安全风险。例如，当供水和供电等关键基础设施连接到互联网时，虽然这可以提高服务交付效率，但也使这些基础设施暴露在网络安全威胁之下。一旦关键基础设施遭受网络攻击，公民的日常生活将受到影响。例如，澳大利亚制定了《2023年关键基础设施韧性战略》来管理此类风险，并打算与《2023年关键基础设施韧性计划》以及《2021年关键基础设施安全立法修正案》协同工作。6 负责任的世界技术政策设计：7 以风险为基础的方法通过提供明确的指导方针和负责任的技术开发激励措施来促进创新。 鉴于该技术 5 政策互操作性不受管辖边界的限制，在国际互联的世界中，避免与其他司法辖区政策的重复和冲突对于创建一致的监管环境至关重要。政策制定者应努力建立一套共同的要求基准，并简化监管流程，以促进跨国运营的技术公司在一致性与清晰度方面的一致性。这反过来也有助于更好地保护消费者和公民免受潜在危害的影响，这些危害可能超越国界