面部识别用例责任限制政策框架：执法调查（2022年修订）（英）

一个政策框架负责任的限制面部识别 用例:执法 调查 我NSGHTEPORT REVISEDNOEMBER2022 特别感谢和欣赏: 图片:盖蒂图片社,Unsplash 内容 前言4 介绍5 方法8 1执法调查：用例和定义10 两个原则19 3自我评估问卷27 结论34 术语表36 贡献者38 尾注41 免责声明本文发表的 世界经济论坛是一个贡献一个项目,了解区域或交互。结果,解释和 结论表示这是一个结果的帮助和协作过程 了世界经济论坛的支持但其结果不一定 代表世界经济的观点 论坛,也不是其成员的整体, 合作伙伴或其他利益相关者。 ©2022世界经济论坛,犯罪司法所国际刑警组织和荷兰警察。所有版权。没有这个出版物的一部分可以复制或传播 任何形式或通过任何方式,包括复印和记录,或由任何 信息存储和检索系统。 2022年11月负责任的政策框架限制面部识别 用例:执法部门调查 前言 IrakliBeridze 人为中心的负责人智能和机器人技术,犯罪司法所 凯Firth-Butterfield的人工智能 机器学习;成员执行委员会,世界经济论坛 MarjoleinSmit-ArnoldBik 头的特殊业务部门,荷兰警方 西里尔痛风主管业务支持 和分析,国际刑警组织 远程生物识别技术，尤其是面部技术认可–在 近年来安全部门。的准确性这些技术随着 深入学习算法的进步,越来越多大量的训练数据和访问 压力减少偏差值可以忽略不计。 这种技术的出现是一次当越来越多的执法机构预期解决更加复杂 通常跨国犯罪和开展调查迅速(通常是有限的 资源。在一个领域中表现不佳可以是一个生死的问题,工具,如人脸识别技术可以大大受益 执法部门调查。但是,不当实现或不实现 考虑其后果，面部识别 技术(FRT)可能会导致巨大的弊端人权和公民造成损害, 尤其是缺医少药社区。 毫无疑问,FRT的快速应用 多重关注点，主要与可能性有关它有可能破坏自由和权利 隐私。与此同时，还有一个越来越强调政策到位 地址和缓解这些风险。 与本文的创作世界 经济论坛,国际刑事警察 联合国组织(国际刑警组织)区域间犯罪和司法研究所(犯罪司法所)和荷兰警方应对这一挑战的全球联盟 带来的问题在法律中使用FRT负责国际执法调查 议程。我们还与一个社区专家组成的政府、公民社会 和学术界通过收集他们的见解协商进程，并试行了我们提议的框架与执法机构 确保我们提出可以真正的工作操作的执法环境。和它。 这一观点报告提出了一系列的建议在法律中使用面部识别的原则 执法调查以及自我评估问卷旨在支持执法机构设计策略 周围FRT和审查现有的使用政策符合该原则。 这只是法律对话的开始 执法部门对FRT的使用，但我们相信这种独特的方法可以是一个重要的求婚对执法界的贡献 帮助为全球的公众辩论提供信息。我们鼓励执法机构和 国家一级的决策者对此进行反思论文，在此基础上参与对话 并审查或通过支持《公约》的立法使用面部识别技术负责。 介绍 在过去的十年中,人工的进展2020年11月,第二个一工作流程 而法律执行 一直在使用生物特征数据,如指纹 或DNA,进行调查, FRT是一个新的机会和 挑战法律 智能(人工智能)和传感器已经推动了面部识别技术（FRT）的发展 ——软件匹配的人脸的能力 针对数据库的数字图像或视频帧的面部图像。这导致其迅速采用在各种行业,包括执法、 交通、医疗和银行业。 FRT带来了相当大的发展 对社会有益的用途的机会。例如 它可以在face-unlock找到应用程序机制在移动设备,允许他们进入音乐会 和体育赛事，以及出勤跟踪 员工和学生。但它也创造了独特的挑战。充分把握这些挑战和 他们可能需要权衡并建立适当的治理过程,它是必要的方法 FRT部署通过检查特定的应用程序。事实上,通过机场的边境控制 使用人脸识别，使用基于人脸的广告在零售业或采用面部识别解决方案执法调查涉及非常不同的 利益和风险。 确保可靠和安全的部署这种技术的跨领域,世界 经济论坛已经率先开展了全球 多利益相关方政策倡议，以设计稳健的产品治理框架。论坛推出了 首先在2019年4月一工作流程,关注流动管理应用程序——取代门票1 面部识别访问物理前提或 公共交通，如火车站台或机场。这一工作流程是在2020年12月结束随着测试评估问卷的发布 通过Tokyo-Narita机场,一个审计框架和协同设计与使用一个认证方案 成立,专注于执法 背景支持的识别 人通过对比探测到一个或形象多个参考数据库来推进一个警察调查。而执法 利用生物特征数据,如指纹、DNA,进行调查，FRT是一个新的机会对执法部门和挑战。 的挑战,被执法部门使用提出了多个公众关切,为主因为带来的潜在威胁 系统错误或误用在这一领域。一项研究在2019年进行的研究所 标准与技术(NIST)表明,尽管一些面部识别算法“察觉”方面的差异 跨种族准确性,其他展览基于人口的性能缺陷 性别和种族等特点。法律3 执法机关应该意识到这些潜在的性能缺陷和实现适当的治理过程,以减轻 他们。在这一过程中,他们会限制的风险假阳性或假阴性和可能 基于输出错误逮捕的人 从一个FRT系统。建立在这样的失败过程可能产生戏剧性的后果。 例如,2018年在美国,一个无辜的非洲裔美国人被逮捕因被错误识别而被拘留 作为盗窃调查的嫌疑人，其中FRT 是使用。除了4阻碍权利等无罪推定的,正确的 通过公平审判和正当程序，FRT的使用执法机构也可以破坏 言论自由、集会自由和 负责任限制面部识别的政策框架用例:执法部门调查 5 执行。认证（法国标准化协会）。2协会和隐私权。5 这些问题导致了政策 全球活动。仅在美国，一些本地和政府已经禁止使用FRT 由公共机构,包括执法。主要城市如旧金山、 和波士顿已经8采取了这样的措施。在 6奥克兰7 此外,美国大型科技公司 还就这一主题制定了立场。在唤醒中 2020年一系列事件增加了不信任向警察机构在美国和世界范围内,包括去年ClearviewAI争议,17IBM宣布将不再提供、开发或 国家层面,阿拉巴马州,科罗拉多9州,10缅因州,11马萨诸塞州,12维吉尼亚州13和华盛顿14 都制定了立法来规范其使用。 最后,在联邦政府层面,各种账单15——包括最近2022年的面部识别法, 介绍了2022年9月16——已经提出规范FRT但没有一个 采用这个日期。 研究FRT，而微软承诺停止销售 FRT执法机构在美国,直到 介绍了联邦监管。182022年,微软 更进一步，对所有人施加新的限制和保障措施使用FRT作为更广泛的AI原则的一部分。192021年,亚马逊网络服务(AWS) 延长暂停警方使用其平台 Rekognition,最初在2020年实施。20 在其他司法管辖区，政策制定者正在尝试将FRT的使用限制在非常具体的用例中与强劲的问责机制 为了防止潜在的可能导致的错误错误逮捕。提出的方向 在2021年,欧盟委员会(EuropeanCommission) 发布了人工智能法案草案21——一个综合分类监管的建议 四种不同风险类别下的人工智能应用具体要求。22这个提议 包括规定远程生物识别系统, 其中包括FRT。州吗人工智能系统旨在用于“实时”和“发布” 自然人的远程生物识别 代表高风险应用程序，需要一个事前合格评定技术提供者在获得欧盟 市场和一个事后符合性评估在他们的系统操作。此外, “实时”远程生物识别系统 出于法律目的在公共可访问的空间中 执行是被禁止的,除非他们非常服务与公共安全相关的有限例外（例如 防止迫在眉睫的恐怖主义威胁或有针对性的寻找失踪人员)。为了进入 然而,生效,欧盟委员会(EuropeanCommission)的建议将首先需要通过的 欧盟议会和理事会欧盟。 在联合国,类似的方法新兴,高级专员办公室人权公署提出报告23在 2021年到右边的人权理事会数字时代的隐私，它建议 禁止不能用于人工智能应用程序符合国际人权法。 与特定的使用FRT由法律规定的执法,国家安全、刑事司法 和边境管理,报告说 远程生物特征识别显著增加国家当局系统地处理能力 负责任限制面部识别的政策框架用例:执法部门调查6 除了 提供实际的指导和 法律支持执行和决策者、这个治理框架寻求告知公众讨论使用FRT。 识别和跟踪个人在公共场所,破坏人们的能力 未被观察到的生活并导致直接负面对行使自由权的影响 表达和平集会和结社，以及自由运动。该报告还重申要求暂停使用 远程生物特征识别在公共场所至少在当局能够证明存在 没有重大的准确性或歧视性问题这些人工智能系统的影响,符合 健壮的隐私和个人数据的保护标准。 法院也开始发挥重要作用 在塑造FRT政策议程。2021年,在巴西圣保罗法院封锁24的 部署的FRT公共交通系统。这被认为是民权的重大胜利 反对越来越多地使用FRT的组织 由公共机构。在英国的类似案例中，虽然上诉法院发现的部署 警方的自动化FRT确实有法律依据在普通法,其使用的南威尔士 警察在特定事件和公共场所非法的,因为它没有足够的定义 可以在观察列表中以及可以使用它的位置。25 在一些国家,政府已经采用了一种谨慎的做法。一直是这样荷兰。2019年,司法部长 和安全寄一封信给成员议会通知他们现有的使用FRT的执法机构和重申他支持强劲的治理过程 关于这个敏感技术。26此外,他认为,和现有的法律框架技术和组织保障措施包括 足够坚固，以确保负责任地使用 FRT执法机构。尽管如此, 他要求额外的隐私，道德和人类在授权任何权利的影响评估FRT进一步使用或者飞行员。 尽管有这些进展,多数政府世界各地继续解决 FRT提出的挑战的野心 这项工作是加强他们的努力克服他们,法律和政策的支持全球制造商设计可操作的治理框架,解决的关键 政策考虑,等的必要性特定目的的性能评估 授权解决方案、采购流程执法机构的培训 专业人士和链的维护命令紧急情况下. 为了达到这个目标,世界经济论坛,国际刑事警察组织 （刑警组织），联合国区域间犯罪和司法研究所(犯罪司法所)和 荷兰警方召开多方参与社区集中在合作设计一组原则,概述什么是 使用FRT负责执法 调查。这些原则是陪同 通过自我评估问卷调查的支持执法机构设计策略 周围FRT和审查现有的使用政策符合该原则。 除了提供实际的指导和支持执法和决策者, 这种治理框架旨在告知公众 关于在国家、区域使用FRT的辩论和国际层面，并提供可操作的 框架来最大化FRT而带来的好处减轻风险。 而政策框架提出了 文件并不是唯一的此类政策指导 域，它试图提出一个独特的提案建立具有国际视野，结合 多利益相关方方法，包括执法，行业和公民社会的发展。 负责任限制面部识别的政策框架用例:执法部门调查 7 方法 在过去的三年里，人工智能/机器学习(AI/毫升)世界的平台经济论坛一直在进行一项政策关于FRT治理的倡议。目标 这一举措是创造一个适当的空间进行对话以推进政策的起草 有关生物技术的使用。方法,本质上,由一个 基于一个多方参与的方法核心社区和社区项目 合作伙伴和一个扩展的核心社区专家共同引领全球社区 一个试点项目的发展。这pilot-based决策方法已被采用 因为它被认为有潜力更好通知和指导用户和执法活动政策制定者寻求确保适当的FRT治理。 总共主动把世界经济论坛启动项目,试图获得吗 64人参与这 项目社区,代表 技术公司,政府与国际组织中, 公民社会和学术界。 与国际刑警组织和荷兰 警察-两种用户的FRT和犯罪司法所联合国家实体支持联合国授权 成员国在制定和实施 改进预防犯罪领域的政策和刑事司法。以提议为目的 一个政策框架,这个核心社区聚集几乎每周都在2021年1月之间2022年10月。 另外社区组织的核心 与广大利益攸关方群体的磋商 -项目社区进一步受益 更广泛的专业知识和见解。共64人参与本项目社区，代表 科技公司,政府和 国际组织、民间社会和学术界。 第一个咨询项目的社区组织研讨会,2021年2月, 一个政策框架组成的原则和一个自我评