美国国家人工智能咨询委员会第一年度报告（中文版）

国家人工智能 咨询委员会（NAIAC）第一年 二0二三年五月 内容表 /.前言 A.主席和副主席的信 B.执行摘要 C.介绍 D.致谢 II.那！AC第1年报告 A.主题、目标和行动 B.年度报告附录 III.附录 A.委员会成员的观点 B.委员会成员传记 C.委员会概述 D.克劳普斯 E.简报、小组讨论和公众评论 主席和副主席的来信 亲爱的总统先生。 自从去年5月国家人工智能咨询委员会（NAIAC或“委员会”）成立以来，世界发生了巨大的变化。人工智能（Al）现在占据着公众话语的主导，促进了全球的兴奋和关注。因此，我们作为一个委员会的工作的相关性有所提高，我们非常感谢我们杰出的委员会成员，他们将确保NAIAC实现其使命。 断言Al是我们这个时代最强大、最具变革性的技术之一，这已不再具有新闻价值了。从日常任务自动化到协助医疗和其他科学突破，艾尔正在重塑我们的社会，打开新的机会。Al有潜力帮助个人、组织和社区，并实现重要的创新。Al还可以帮助解决社会最紧迫的挑战，如气候变化和早期癌症检测。艾尔曾经是一个主要的学术研究领域，现在他已经并将继续对几乎所有的部门和我们生活的每个方面产生深远的影响。 但需要采取直接和有意的行动，以实现Al的利益，减少潜在的风险，并保证其利益在我们的整个社会的公平分配。随着铝采用的加速，同样的是是确保其开发和部署受到负责任的治理的指导。这种治理始于一个关键的第一步：统一标准和最佳实践。而且，由于它的培训和使用没有实际边界，它的治理必须对整个社会的用户是可行的和可以理解的，在广泛的司法管辖范围内运作。Al治理的框架必须从评估Al系统在特定用例和特定受众中的潜在风险和利益开始。只有这样，我们才能决定是否以及如何继续其开发或部署，并确保Al系统值得我们的信任。 虽然我们对Al将为个人、社区、我们的经济和我们的国家带来的机会充满热情，但我们也意识到，这项技术并非没有潜在的和相应的缺陷、复杂性和风险。所有应用程序容易受到错误和攻击，破坏公众信任，并可能违反我们的法律和规范。此外，Al可能会被个人和组织滥用，以造成重大伤害，如网络入侵或错误信息的传播。铝系统中的偏见会加深机会和获取方面的现有差异，并导致规模歧视，不成比例地影响代表不足或处境不利的社区。而艾尔引发的隐私和安全问题仍然是一个重大问题。 我们的委员会理解让美国政府解决Al造福社会的机会以及相关问题的重要性，建立规则 以及符合民主价值观、公民自由和普遍人权的标准。在本报告和未来的交流中，我们的目标是通过强调Al的首要任务，以应对社会面临的挑战，并提供具体和可行动的步骤，从而帮助实现这一目标和实现我们的使命。 这份春季报告分享了我们作为一个集体机构迄今为止的工作。我们强调我们的想法，重点领域，以及就第一年讨论的主题，建议的行动项目。在第一年，我们重点关注：在值得信赖的人工智能方面的领导力，在研究和开发方面的领导力，支持美国劳动力和提供机会，以及国际合作。这份报告还指出了我们计划在第二年和第三年将重点关注的问题。 我们指出，我们在本报告中没有讨论过一个关键领域：在刑事司法系统中使用铝技术。这一重大和复杂的问题在我们的授权法规中被明确确定，并授权成立一个单独的小组委员会来全面处理这一问题。我们很高兴它的成员资格最近获得批准，并非常期待很快与执法小组委员会合作。 在未来一年，我们期待进一步探讨本报告中讨论的问题，并深入探讨新的问题，我们坚定地专注于实现这一总统指示和我们委员会的任务。 通过谨慎地走一条清晰而深思熟虑的道路，平衡相互竞争的优先事项，我们相信，我们的国家能够并将保持其在Al创新方面的竞争优势，同时为更广泛的人口确保经济机会。我们很荣幸地分享我们的委员会关于总统和白宫如何在这次和未来的沟通中实现这些要求的见解。 真诚， 米里亚姆沃格詹姆斯马尼卡 尔副主席。奈亚克 执行摘要 美国正面临一个关键时刻：人工智能（Al）技术的能力正在迅速加速，并在越来越多的情况下部署，在公共和私人领域。这是一个既具有重大机遇和复杂性的时刻。在我们的委员会取得成果时，我们的国家能够而且必须将自己定位为值得信赖、包容和负责任的Al的全球领导者。 美国国家人工智能咨询委员会（NAIAC）于2022年5月首次召开会议。NAIAC由26名Al的主要专家（列出如下）组成，他们的任务是为总统和白宫国家铝倡议办公室（NAIIO）提供建议。委员会成员拥有广泛的经验，从工业界到学术界再到公民社会。在NAIAC的服务中，委员会成员为NAIAC的政策和相关活动提供专业知识和可行动的步骤——我们如何发展NAIAC，管理它。并确保公平地创建、访问和部署它。这项工作旨在指导美国政府以一种独特的美国方式利用艾尔—— MiriamVogel（主席）詹姆斯·马尼卡（副主席），巴杰拉克塔里阿曼达巴兰泰恩 萨扬查克拉伯蒂杰克克拉克 大卫丹克斯 维多利亚A.埃斯皮内尔 苏珊冈萨雷斯珍妮特黑文丹尼尔Ho 艾安娜霍华德 乔恩·克莱因伯格，阿什利，哈尼耶，克里斯蒂娜·蒙哥马利 利兹奥沙利文 弗雷德奥斯瓦尔德弗兰克帕斯夸里桑德斯骑警 纳夫里纳辛格西瓦苏布拉曼Keith前锋 一种优先考虑民主价值观和公民自由的方式，同时也增加了机会。 这是第一份正式的NAIAC报告，涵盖了我们为期三年任命的第一年。该报告被分为四个主要主题：(1)在值得信赖的人工智能方面的领导力：(2)在研究和发展方面的领导力：(3)支持美国的劳动力和提供机会；和(4)国际合作。 在每个主题下，委员会提供了一些与Al.接触的后勤目标（例如，**支持白宫和整个美国政府的领导、协调和资金”）到创新（例如，“创建一个Al研究和创新天文台”）。NAIAC总共提出了14个目标。 由于本报告是可操作的，因此目标与建议的行动挂钩。这些行动需要创建和组织联邦领导角色：加强研究和发展计划；培训公务员：增加具体项目的资金；和更多。NAIAC总共提出了24个动作。 最终，这份报告将Al定义为一项需要政府立即、重要和持续关注的技术。美国政府必须确保人工智能驱动的系统是安全和负责任的，同时也要促进公共和私人层面的创新和机会。 该报告以展望结束，解释了NAIAC将如何在未来两年继续其工作，并帮助维持美国作为值得信赖的Al的全球领导者。 介绍 人工智能（Al）可以为个人、组织、企业、经济和社会打开重大的机会。Al可以推动医疗保健方面拯救生命的进步，加强教育培训和劳动力准备，并促进机会的公平分配。Al还为许多日常产品和服务提供动力，而这很可能只会随着Al的适用性和实用性的发展而增加。仅在过去的几个月里，我们在日常生活中对Al的认识和兴趣就显著增加了。发布强大的新技术等公众——生成艾尔和大型语言模型（——）睁开眼睛和想象力的潜力和多功能性我们已经看到，艾尔有潜力的权力和推动美国经济通过使创新和生产力更广泛的横截面的人口。艾尔也有潜力帮助解决社会上许多最伟大的机遇和挑战。它可以帮助在健康和生命科学中的科学发现。它可以帮助研究气候科学和可持续发展。通过诸如野火和洪水预测警报等创新，它可以帮助今天的人们生存或避免自然灾害。 然而，像许多新技术一样，Al也给个人和社会提出了挑战和风险。例如，用于吸引和留住劳动力人才的Al系统可以扩大机会，但也可以以前所未有的速度和规模扩大和延续历史上的偏见和歧视。此外，Al可能会以有害的方式被滥用，如传播虚假信息或参与网络犯罪。所有系统可以帮助提高获取能力，如容纳残疾人或语言障碍，或者它可能提供不正确的诊断。Al可以为个人创造经济机会，或加剧个人和社区的数字鸿沟。在劳动力市场中，我们很可能会看到新职业的增长和其他职业的减少，以及对更多职业的持续变化。所有这些挑战都扩大了对适当监督和保障的必要性。 们我解在决这两个不同的现所建立的平衡—充分用—利好其处，同地效解决其战挑和风险—将显—的们来未。如果导航得当，美国政府可以确保Al创造更大的机会，为更广泛的人口提供经济和社会利益。然而，如果导航不好。Al将进一步扩大机会差距，而值得信赖的Al可能成为一个未实现的愿望。 I 这一刻的重要性超出了国内边界，和美国在全球舞台上的重要领导作用，确保我们理解和实现值得信赖的人美国必须积极建立授权和机制推进值得信赖的人，避免放弃艾尔领导那些实体不公平和包容性的目标。 国家人工智能咨询委员会（NAIAC）的成立是为了就Al和创新、竞争、社会问题、经济、法律、国际关系以及其他在短期和长期内可能和将受到Al影响的领域向总统提供建议。委员会成员来自不同的背景，——学术界、工业界、公民社会、政府，他们都在AL方面拥有深厚和互补的专业知识 在此，我们将介我绍第们一年的调查结果：高级别主题、我们的目标拟议的行动和委员会未活来的动计划。我们的目标是帮助美国政府和整个社会驾驭这条关键道路，利用Al的机会，创造和示范基于价值观的创新，并降低Al的风险。我们的研究结果基于核心信念，例如：建立安全有效的创造机会，对社会有益；必须存在强有力的防御，包括支持公民权利和公民自由；数据隐私是最重要的；人们应该知道自动决策是否被使用——而且应该有像人类干预这样的手段。 本报告分为四个主题领域，基于我们过去一年的重点努力，我们的法定任务包括：值得信赖的人工智能领导，研究和发展领导，支持美国劳动力和提供机会，以及国际协作。在每个主题下，我 I就本报告而言，我们依赖于NI8I风险管理手册中提供的“值得信赖的人”的定义：“有效和可靠、安全、安全和弹性、负责任和透明，可解释和可解释，隐私增强，公平，有有害偏见管理” 们都为美国领导层提供了广泛的目标，以及一些更细致的建议行动。该内容由五个工作组开发，每个NAIAC成员在两个工作组工作，并最终提出了整个委员会的共识。 根据我们的国会授权，我们写这份报告是为了为总统和白宫制定Al政策提供建议。我们也为国会议员写信，我们感谢他们NAIAC的创建，感谢他们对我们工作的持续支持，以及更广泛的铝创新者和政策制定者。最后，正如我们在2022年5月举行的第一次NAIAC会议上所指出的，我们将继续参与广泛的人口领域，包括代表性不足的社区和地理上多样化的地区。我们将促进一场关于Al治理的全国对话，以更好地理解和实现值得信赖的AL。我们将通过创建持续的对话，分享我们的发现，并扩大这个领域的已知和新专家。 Al的定义 就本报告而言，Al系统的定义是在最近发布的NIST厶I风险管理手册中建立的最佳实践。FrarneEcrk： “Al系统是一种工程设计的或基于机器的系统，对于一组给定的目标，它可以产生诸如影响真实或虚拟环境的预测、建议或决策等输出。Al系统的设计操作方式具有不同程度的自主性/” （改编自：经合组织关于人工智能的建议：2019；ISO/IEC22989：2022。） 值得注意的是，NAIAC的事业正在进行中，将在未来两年继续进行。在这个第一年的报告中没有提到的一些问题，我们将在后续的报告以及小组讨论和其他媒介中广泛关注这些问题。我们将在本报告的最后一节中强调其中的一些领域。 ACKNOWLEDCEMENTS 这份就职报告代表了本委员会的集体工作，并不一定代表每个委员会成员或其组织的完整意见。 委员会要通过NIST信息技术实验室和负责管理国家人工智能咨询委员会（NAIAC）的NIST主任办公室，对位于商务部的国家标准与技术研究所（NIST）表示诚挚的感谢。委员会特别要感谢下列个人和机构在委员会第一年为我们的有关工作组举行的简报会中分享了他们的时间和见解： 联邦机构美国商务部 美国卫生与公众服务部（HHS）美国司法部 美国劳工部 美国退伍军人事务部国家科学基金 白宫 我们感谢并感谢专家和思想领袖们，他们与我们的委员会分享了他们的时间和见解，其中包括：凯瑟琳·艾肯博士。丹尼尔查森，蕾妮卡明斯，塔拉墨菲多尔蒂，布莱恩德雷克，卡迪贾黑人医生。米歇尔吉尔曼。亲爱的，GerardeGraaf。唐·格雷夫斯，威廉·赫德。安德烈·兰库，卡梅隆·克里。凯伦·利维博士。梁珀西博士，亲爱的。LaurieL