AI权利法案蓝图：让自动化系统为美国人民服务

一个蓝图 AIB的坏话R锁定宽和高 让自动化系统为美国人民服务 2022年10月 关于本文档 《人工智能权利法案蓝图：让自动化系统为美国人民服务》由白宫科技政策办公室于2022年10月发布。该框架是在OSTP宣布 启动“人工智能世界的权利法案”的流程一年后发布的。它的发布是在公众参与一年之后发布的，为这一举措提供了信息。该框架可在线获取：https://www.whitehouse.gov/ostp/ai-bill-of-rights 科学和技术政策办公室 科学技术政策办公室（OSTP）是根据1976年《国家科学技术政策，组织和优先事项法》设立的，旨在向总统和总统办公厅内的 其他人提供有关经济，国家安全，卫生，外交关系，环境以及技术回收和资源利用的科学，工程和技术方面的建议，等主题。 OSTP领导机构间的科学和技术政策协调工作，协助管理和预算办公室（OMB）对联邦预算中的研究和开发进行年度审查和分析 ，并作为总统对联邦政府重大政策，计划和计划的科学和技术分析和判断的来源。 法律免责声明 《人工智能权利法案蓝图：让自动化系统为美国人民服务》是由白宫科技政策办公室发布的白皮书。它旨在支持制定在自动化系统的构建、部署和治理中保护公民权利和促进民主价值观的政策和实践。 人工智能权利法案蓝图不具约束力，也不构成美国政府的政策。它不会取代、修改或指导对任何现有法规、法规、政策或国际文书的解释。它不构成对公共或联邦机构具有约束力的指导，因此不需要遵守此处描述的原则。它也不能决定美国政府在任何国际谈判中的立场。采用这些原则可能不符合现有法规、法规、政策或国际文书的要求，也不符合执行这些原则的联邦机构的要求。这些原则无意也不会禁止或限制政府机构的任何合法活动，包括执法、国家安全或情报活动。 本白皮书中阐述的原则的适当应用在很大程度上取决于使用自动化系统的环境。在某些情况下，鉴于预期使用自动化系统来实现政府机构任务，全部或部分应用这些原则可能不合适。未来的特定部门指南对于指导在某些环境中使用自动化系统可能是必要和重要的，例如用作学校建筑安全或自动健康诊断系统的人工智能系统。 《人工智能权利法案蓝图》承认，执法活动需要平衡公平，例如，在保护敏感的执法信息与通知原则之间;因此，通知可能不合适，或者可能需要进行调整以保护来源、方法和其他执法公平。即使在这些原则可能不全部或部分适用的情况下，联邦部门和机构仍受司法、隐私和公民自由监督以及管理自动化系统的现有政策和保障措施的约束，例如，包括第13960号行政命令，促进联邦政府使用可信赖的人工智能（2020年12月）。 本白皮书认识到，国家安全（包括某些执法和国土安全活动）和国防活动对我们国家的对手越来越敏感和感兴趣，并且经常受到特殊要求的约束，例如管理机密信息和其他受保护数据的要求。此类活动需要通过管理自动化系统和人工智能的现有政策（例如国防部（DOD）人工智能道德原则和负责任的人工智能实施途径以及情报界（IC）人工智能伦理原则和框架）采取替代、兼容的保障措施。在可行的情况下，这些政策对国家安全和国防活动的实施可以通过人工智能权利法案蓝图提供信息 。 《人工智能权利法案蓝图》无意也不会创造任何法律权利、利益或辩护，无论是实质性的还是程序性的，可由任何一方针对美国、其部门、机构或实体、其官员、雇员或代理人或任何其他人依法或衡平法强制执行，也不构成对主权豁免的放弃 。 版权信息 本文件是美国政府的作品，属于公有领域（见17U.S.C.§105）。 FOREWORD 当今民主面临的巨大挑战之一是以威胁美国公众权利的方式使用技术、数据和自动化系统。这些工具经常被用来限制我们的机会，阻止我们获得关键资源或服务。这些问题都有据可查。在美国和世界各地，本应帮助患者护理的系统已被证明是不安全的 、无效的或有偏见的。已经发现用于招聘和信贷决策的算法可以反映和复制现有的不受欢迎的不平等现象，或者嵌入新的有害偏见和歧视。未经检查的社交媒体数据收集被用来威胁人们的机会，破坏他们的隐私，或普遍跟踪他们的活动——通常是在他们不知情或未经他们同意的情况下。 这些结果是非常有害的，但它们并非不可避免。自动化系统带来了额外的好处，从帮助农民更有效地种植粮食的技术、预测风暴路径的计算机，到可以识别患者疾病的算法。这些工具现在推动了跨部门的重要决策，而数据正在帮助彻底改变全球行业。在美国创新力量的推动下，这些工具有可能重新定义我们社会的每个部分，让每个人的生活更美好。 这一重要进展绝不能以牺牲民权或民主价值观为代价，拜登总统已确认这些美国基本原则是其政府的基石。在上任的第一天，总统就命令整个联邦政府努力根除不平等，将公平纳入决策过程，并积极推进美国的民权、平等机会和种族正义。1总统有力地谈到了当今民主面临的紧迫挑战，并经常呼吁有良知的人采取行动维护公民权利-包括隐私权，他称之为“我们认为理所当然的更多权利的基础，这些权利根植于这个国家的结构中。2 为了推进拜登总统的愿景，白宫科技政策办公室确定了五项原则，这些原则应指导自动化系统的设计、使用和部署，以在人工智能时代保护美国公众。《人工智能权利法案蓝图》为一个保护所有人免受这些威胁的社会提供了指南，并以加强我们最高价值观的方式使用技术。为了回应美国公众的经验，并参考研究人员、技术人员、倡导者、记者和政策制定者的见解，该框架附有技术伴侣——一本手册，供任何寻求将这些保护措施纳入政策和实践的人使用，包括在技术设计过程中实现这些原则的详细步骤。每当自动化系统能够有意义地影响公众的权利、机会或获得关键需求时，这些原则有助于提供指导。 一个布特这个FRAMEWORK 人工智能权利法案蓝图是一套五项原则和相关实践，旨在帮助指导自动化系统的设计、使用和部署，以保护人工智能时代美国公众的权利。这些原则是通过与美国公众的广泛协商制定的，是构建和部署符合民主价值观并保护公民权利、公民自由和隐私的自动化系统的蓝图。《人工智能权利法案蓝图》包括前言、五项原则、关于应用《人工智能权利法案蓝图》的说明，以及一份技术伴侣，其中提供了从各级政府到各种规模的公司等多种组织可以采取的具体步骤，以维护这些价值观。来自私营部门、政府和国际财团的专家发布了原则和框架，以指导负责任地使用自动化系统;该框架提供了一个与部门无关的国家价值观声明和工具包，为将这些保护措施纳入政策、实践或技术设计过程提供信息。如果现有法律或政策（例如特定行业的隐私法和监督要求）尚未提供指导，则应使用人工智能权利法案蓝图为政策决策提供信息。 lISTENING到一个茶花会P分; 白宫科技政策办公室领导了一个为期一年的过程，以寻求和提炼全国各地的人们的意见-从受影响的社区和行业利益相关者到技术开发人员和跨领域和部门的其他专家，以及整个联邦政府的政策制定者-关于算法和数据驱动的危害和潜在补救措施的问题。通过小组讨论、公众聆听会议、会议、正式的信息请求以及对可公开访问和广泛宣传的电子邮件地址的输入，美国各地的人们 、联邦机构的公务员和国际社会成员都谈到了这些技术的承诺和潜在危害，并在制定人工智能权利法案蓝图方面发挥了核心作用。从这些讨论中收集到的核心信息包括，人工智能具有改善美国人生活的变革潜力，防止这些技术的危害是必要和可以实现的。附录包括公众参与的完整清单。 年代商品检验TITLE BLUEPRINT一AIB的坏话R锁定宽和 高 年代安全的和EFFECTIVE年代系统 你应该被保护从不安全或无效的系统。自动化系统应与不同社区、利益相关者和领域专家协商开发，以确定 系统的担忧、风险和潜在影响。系统应经过部署前测试、风险识别和缓解以及持续监控，以证明它们基于其预期用途是安全有效的，缓解不安全的结果，包括超出预期用途的结果，并遵守 特定于领域的标准。这些保护措施的结果应包括 部署系统或从使用中删除系统。自动化系统的设计不应有意或合理可预见地危及您的安全或您所在社区的安全。他们应该旨在主动保护您免受意外但可预见的使用或 自动化系统的影响。在自动化系统的设计、开发和部署过程中，应防止使用不适当或不相关的数据，并防止重复使用数据的复合 危害。应进行独立评估和报告，确认该系统是安全和有效的，包括报告为减轻潜在危害而采取的步骤，并尽可能公布结果。 一个LGORITHMICDISCRIMINATIONP保护 你不应该面对算法和系统的歧视，应该使用和设计 一个公平的方式。当自动化系统导致不合理时，就会发生算法歧视 基于种族、肤色、民族、性别（包括怀孕、分娩和相关医疗状况、性别认同、双性人身份和性取向）、宗教、年龄、国籍、残疾 、退伍军人身份、遗传信息或任何其他受法律保护的分类，对人们不利的不同待遇或影响。根据具体情况，这种算法歧视可能会违反法律保护。自动化系统的设计者、开发人员和部署者应采取积极主动和持续的措施，保护个人和社区免受算法歧视，并以公平的方式使用和设计系统。这种保护应包括作为系统设计一部分的主动公平评估，使用代表性数据和防止人口特征的代理，确保残疾人在设计和开发、部署前和正在进行的差异测试和缓解方面的无障碍性，以及明确的组织监督。应进行独立评估和算法影响评估形式的通俗语言报告，包括差异测试结果和缓解信息，并尽可能公开，以确认这些保护措施。 5 年代商品检验TITLE DATAPRIVACY 你应该是受保护的从虐待数据实践通 过 内置的保护和你 应该对如何使用有关您的数据有代理权。您应该通过设计选择来保护您免受侵犯隐私，以确保默认情况下包含此类保护，包括确保 数据集合符合合理预期这只有数据严格必要为具体的收集上下文。自动化系统的设计人员、开发人员和部署人员应征得您的许可 并尊重您以适当方式和最大可能收集、使用、访问、传输和删除您的数据的决定;在不可能的情况下，应使用其他设计隐私保障措施。系统不应采用混淆用户选择或用户使用侵犯隐私的默认值给用户带来负担的用户体验和设计决策。同意只应用于在可以适当和有意义地提供数据的情况下证明收集数据的合理性。任何同意请求都应简短，以通俗易懂的语言理解，并为您提供数据收集和特定使用环境的代理权;应该改变目前难以理解的广泛使用数据的通知和选择做法。加强对与敏感领域（包括健康、工作、教育、刑事司法和金融）相关的数据和推论以及与青年有关的数据的保护和限制，应将您放在首位。在敏感领域，您的数据和相关推论应仅用于必要的功能，并且您应该受到道德审查和使用禁令的保护。你和你的社区应该不受检查的监视;监控技术应受到加强监督 ，至少包括部署前评估其潜在危害和范围限制，以保护隐私和公民自由。持续监视和监测不应用于教育、工作、住房或其他使用此类监视技术可能限制权利、机会或获取的环境。只要有可能，您应该有权访问报告，确认您的数据决策已得到尊重，并评估监控技术对您的权利、机会或访问权限的潜在影响。 N结果,EXPLANATION 您应该知道正在使用自动化系统，并了解它如何以及为什么有助于影响您的结果。自动化系统的设计者、开发人员和部署人员应提供普遍可访问的通俗语言文档，包括对整体系统功能和自动化所扮演角色的清晰描述，注意此类系统正在使用中，负责系统的个人或组织，以及对清晰、及时和可访问的结果的解释。此类通知应保持最新，并应通知受系统影响的人员重大用例或关键功能更改。您应该知道影响您的结果如何以及为什么由自动化系统确定，包括当自动化系统不是决定结果的唯一输入时。自动化系统应提供技术上有效、有意义和有用的解释，以便您以及任何操作员或其他需要了解系统的人使用，并根据上下文根据风险级别进行校准。应尽可能公开以通俗易懂的语言包含有关这些自动化系统的摘要信息的报告，以及对通知和解释的清晰度和质量的评估。 6 年代商品检验TITLE H乌曼一个LTERNATIVESCONSIDERATION,和FALLBACK 在适当的情况下，您应该能够选择退出，并可以联系可以快速考虑和解决您遇到的问题的人员。在适当的情况下，您应该能够选择退出自动化系统，转而使用人工替代方案。应根据特定情况下