人工智能实践采用对全球信任、安全与性能的启示

人工智能信任与安全重塑计划 版权所有 © 联合国开发计划署 2026。保留所有权利。 联合国广场，纽约，美国纽约邮编10017 联合国开发计划署（UNDP）是联合国致力于消除贫困、不平等和气候变化所造成的不公正现象的核心机构。通过与遍布170个国家和地区的广泛专家网络及合作伙伴合作，我们帮助各国为人类和地球构建综合且持久的解决方案。 请访问 undp.org 获取更多信息，或关注 @UNDP @UNDPDigital。 本文所表达的观点属于作者本人，并不一定代表联合国、联合国开发计划署或联合国会员国的立场。联合国开发计划署不对任何实体、品牌、产品或服务表示认可。 目录 致谢 本报告借鉴了联合国开发计划署（UNDP）人工智能冲刺计划、可持续发展人工智能中心以及新加坡资讯通信媒体发展局（IMDA）的资金和实物支持所完成的一系列工作。UNDP人工智能冲刺计划——由UNDP核心捐助者提供资金支持——为在多个国家和地区开展信任与安全（T&S）工作坊提供了基础资源保障。 谨向为提升分析严谨性与质量而提供富有见地评论的审稿人致以诚挚谢意： 亚当斯博士，全球人工智能治理中心创始首席执行官 .......................................................................................................................................................ii....................................................................................................................................................2..................................................................................................................................................................6致谢执行摘要引言实践层面人工智能的全球采用与扩散现实情况 ................................................................8 霍达·阿尔·赫扎伊米博士，纽约大学阿布扎比分校研究与转化创新副院长，先进科学与未来经济国家专家 该分析亦得益于所涉政府和利益相关方的贡献——他们开放决策过程以接受建设性审查的意愿促成了此项分析。 贝尔iz·古斯塔沃，教宗社会科学院成员；阿根廷布宜诺斯艾利斯大学和奥斯特拉大学教授 小国实践中采用人工智能的关键观察总结 人工智能的采用正快于机构的可见性和治理准备 .....................................12 厂商驱动的采用引发依赖性担忧并限制了控制权 。 .......................................13本国在技术评估和保护方面的能力有限。 .......................................................14 基础设施和系统的准备状态往往与人工智能部署不匹配 。 ...........................14 损害被放大且补救措施受限 ............................................................................15 信任与安全优先事项转向预防和决策信心 ................................16 奥古斯汀娜·卡莱加里，人工智能卓越中心技术政策与国际合作主管，世界经济论坛 阿尔巴尼亚、白俄罗斯、波斯尼亚和黑塞哥维那、格鲁吉亚、摩尔多瓦、卢旺达、萨摩亚、特立尼达和多巴哥、土耳其、乌克兰，以及巴勒斯坦人民援助计划（PAPP）。 阿曼多·吉奥（Armando Guio）先生，西班牙人，互联网与社会中心全球网络（NoC）秘书处执行主任 这预示着全球范围内AI实际应用的未来趋势。 .................................................................... 作者和贡献者：詹妮弗·刘（Jennifer Louie）、亚历山大·哈德克（Alexander Hradecky）、凯祖姆·Ngodup·马萨尔利（Keyzom Ngodup Massally）、瓦伊什瑙·贾亚库马尔（Vaishnavi Jayakumar）、德韦恩·卡鲁瑟斯（Dwayne Carruthers）、罗米利·戈丁（Romilly Golding）、海琳·苏·阿斯拉（Helin Su Aslan）、李秀珍（Xiuzhen Li）和奥瑞克·米特拉（Auric Mitra）。 拉尔，坦维，战略总监，people+ai，EkStep基金会 扩展安全可靠的AI应用所需的治理与制度基础设施 Nyalleng Moorosi，分布式人工智能研究院研究学者 数字公共基础设施和数据系统作为人工智能能力的赋能者 ............................................21 人工智能信任与安全重塑计划中，实践中人工智能治理的横向基础 ...........................................22 罗伊·劳，首席技术官，ROOST 汤姆·西格尔，TrustLab公司首席执行官兼联合创始人 戴夫·威尔纳，联合创始人，泽特罗皮 (Zentropi) 方法论 ...................................................................................................... 执行摘要 本报告揭示了当前正在发生的情况：决策正在制定、风险正在显现，以及在现实制度约束下正在出现的治理方法。分析侧重于跨国模式；其目的并非对国家进行排名、提出普适性监管模型，或汇编人工智能风险的全面目录。在各项互动中，人工智能的采用通常受采购决策、供应商平台、软件更新、公共服务系统以及日常制度工作流程的影响。这些正是信任和安全要求得以落地的场景，也是政府需要具备理解、监控、质疑和纠正人工智能赋能系统的能力的地方。 核心发现十分明确。许多最具影响力的AI治理决策并非在政策框架内做出，而是在采购部门、供应商合同、软件更新周期以及公务员和机构团队在缺乏明确指导、审批流程或问责机制的情况下，就AI使用所做出的非正式决策中做出的。要落实好治理工作，意味着要将治理嵌入这些运营场景中，而不是将其视为自上而下强加的独立层面。这需要监管机构、采购团队、供应商、实施者和受影响社区之间建立更强的反馈回路，以便能够更早地识别风险，并在决策过程中将信任和安全要求融入采纳决策中。在所有参与活动中，有十个发现尤为突出。 人工智能（AI）在推动可持续发展、提升公共服务供给、改进危机应对、扩大知识与服务获取途径以及拓展经济机遇方面具有巨大潜力。在各个收入水平的国家，AI已日益成为人们获取信息、基本服务、金融、教育和公共管理等方面系统的组成部分。 认识到这种潜力取决于人工智能采用过程中伴随的选择、能力和保障措施，而不仅仅是人工智能工具的可用性。当系统被信任、安全、有问责制、与当地相关并符合发展优先事项时，人工智能采用才能带来发展价值；当机构拥有理解、监督、适应和纠正它们的途径、权力和能力时；以及当受影响的社区有途径表达关切并寻求纠正时。随着人工智能进入公共系统、金融基础设施和服务交付领域，而治理能力和问责机制往往仍在成熟中，各国正面临如何在人们依赖的系统中促进创新、实现效益和管理风险的现实决策。 各次合作中暴露出的风险包括：在缺乏足够访问权限或纠错能力的情况下，将人工智能集成到敏感或脆弱的数据系统中而产生的依赖问题；儿童安全问题升级；网络威胁；语言表现差距；以及与人工智能偏见或情境错配相关的 injustice。这些案例表明，需要结合人工智能被引入的系统的具体情况来理解其风险，包括数据环境、语言语境、部署渠道、机构问责制、网络安全态势、人工监督、升级途径，以及检测、质疑和纠正错误的能力。在小型岛屿发展中国家 (SIDS) 和低收入和中等收入国家 (LMICs)，基础设施差距、资金限制、有限的补救能力和机构脆弱性会加剧甚至微小的人工智能错误所带来的后果。 本报告揭示了业已发生的情况：决策正在制定中，风险正在显现，以及在现实制度约束下正在出现的治理方法。 本报告基于人工智能信任与安全重塑计划（AI Trust & Safety Re- imagination Programme）开展的工作坊、利益相关方会议以及与十一国（地区）政府的本土合作。报告考察了在人工智能重大决策方面扮演关键角色的国家（地区），主要作为公共系统的采纳者、采购者、部署者和监管者。这些国家（地区）的选择涉及人工智能如何进入机构、如何影响基本服务的获取，以及问责机制如何与人工智能的采用保持同步。 境内调研的十项核心发现 采购正逐渐成为最可行的治理杠杆，但使用率仍然不高。在“人工智能信任与安全重塑计划”的工作中，采购（而不仅仅是监管）被确定为人工智能治理中最直接的作用点。在系统大规模部署之前，在采用环节嵌入信息披露要求、绩效标准、可审计性、升级机制和退出条件，可将责任主体上移。 5 联合国开发计划署（UNDP）信任与安全重塑计划揭示了关于人工智能在实践中如何被采纳以及这对信任、安全与治理意味着什么的10项核心发现。 小国是早期信号，而非边缘案例。这些政府所应对的条件，包括供应商主导的采纳、有限的监管能力、机构责任碎片化以及在安全措施到位前部署的压力，反映了全球人工智能采纳的一种普遍且盛行的状况。在这些环境中，风险更早出现并带来更严重的后果。在这些限制条件下行之有效的治理机制，更有可能在其他地方保持稳健。 人工智能的使用正日益嵌入机构，而机构却无法察觉或对其进行管理。人工智能正通过企业软件更新、供应商平台和非正式员工使用等途径越来越多地进入公共机构，而这些通常未经正式批准、缺乏文档记录或监管。这使得采用情况难以追踪、评估或控制。这已成为人工智能扩散的典型状态，系统往往在机构对其使用地点、使用者和潜在风险缺乏了解的情况下就已经部署到位。 6 信任与安全监控实践是采用的基础，而非合规的附加层。资源受限环境中的政府难以容忍试错式部署。单一的高调AI失败可能使整个行业的采用进程倒退。目标并非完美的模型，而是足够的制度信心，以推进检测、质疑和纠正失败的机制。 供应商中介正在制造结构性透明度和问责制之间的差距。许多人工智能系统正通过全球开发的平台和软件即服务（SaaS）工具进行整合，通常未经明确同意或提供有意义的退出选项。政府仍然需要对影响人们的结果负责，而系统行为、更新以及性能权衡的控制权却往往掌握在供应商手中。在没有采购标准和合同保障的情况下，风险在下游在国家层面累积，而管理风险的能力却仍然有限。 7 治理必须进入实际采纳发生的系统之中。原则和框架若不嵌入采购条款、供应商协议、可接受使用指南、升级路径、监控功能和服务交付工作流，就无法保护人们。采购可以确立治理要求，但这些要求只有在实践中得到实施、监控和执行时，才具有实际意义。 8 人工智能保障能力尚未在采用该技术的地区建立制度化。通过“人工智能信任与安全重塑计划”参与的相关国家和地区，大多数没有专门的国家机构或常设职能机构负责人工智能风险评估、评估或监控。责任通常分散在多个机构，关于人工智能使用的授权不明确，导致治理方式是反应式而非预防式。因此，机构严重依赖