利用现有机构管理 AI

执行摘要 生成人工智能的最新进展引起了公众的关注，并引发了一系列监管这种变革性技术的建议。这些讨论中的一个核心问题是美国政府机构如何利用其现有权限来管理人工智能。 几乎所有可能部署人工智能的部门都已经受到一个或多个联邦机构的监管。我们认为，在这些领域，依靠现有的机构来管理人工智能是促进技术安全开发和部署的最有效策略，至少在短期内是这样。这种方法将使政策制定者能够更快地应对该领域的新出现的风险和发展，并且还将利用联邦政府已经存在的特定行业专业知识。 在本报告中，我们概述了一个过程，可以帮助政策制定者、监管机构和研究人员以及政府以外的其他相关方确定适用于人工智能的现有法律权限，并强调可能需要采取额外立法或监管行动的领域。我们认为，该框架适用于许多（如果不是大多数）可能部署AI的领域。为了本报告的目的，我们重点介绍了如何将现有权限应用于商业航空领域，特别是在飞机机载系统和空中交通管制中的人工智能应用。我们专注于商业航空，因为该行业已经大量使用自动化，并且有丰富的文献介绍了人工智能和其他技术的引入可能导致更多使用自主系统的潜在问题。 今天，商业航空部门主要由联邦航空管理局监管。总的来说，我们发现FAA的现有当局授权该机构管理空中交通管制和飞机机载系统中人工智能系统的开发和部署。然而，我们还发现了该机构现有监管制度中的差距，需要解决这些差距，以减轻人工智能带来的独特风险。更新与软件保证、测试和评估、人员培训、试点许可、网络安全相关的协议和流程。 以及数据管理将有助于促进整个商业航空领域人工智能的安全使用。 我们对FAA的案例研究还突出了两个共同的挑战，这些挑战可能会阻碍整个联邦政府促进人工智能安全的努力： 1.天赋：获取内部专业知识，以开发和实施有效的AI治理框架。 2.测试和评估（T&E）制定标准和基准，使利益相关者能够在各种情况下准确评估人工智能系统的安全性。 如果没有这两个有利因素——人才和T&E——联邦机构将无法很好地设计和实施有效的人工智能治理战略。拜登政府于2023年10月发布的《关于人工智能的安全，安全和可信发展和使用的行政命令》（EO14110）包括旨在解决政府AI人才缺口和缺乏通用AIT＆E标准的规定。然而，这些措施的效果还有待观察。展望未来，全面的人工智能治理战略的成功实施将在很大程度上取决于了解哪些机构已经拥有监督人工智能所需的法律权力，以及哪些可能需要新的当局、法规和流程。 目录 执行摘要1 Introduction4 映射AI权限7 商业航空中的AI9 使用案例1：空中交通管制9 AI在空中交通管制中的应用10 现有权限和潜在差距13 用例2：车载系统15 人工智能在飞机机载系统中的应用16 现有权限和潜在差距18 一般AI治理挑战20 天赋21 测试和评估21 Conclusion23 Authors25 Acknowledgements25 尾注26 Introduction 生成人工智能（AI）的最新进展引起了公众的注意，并引发了关于政府应如何监管这一强大技术的广泛辩论。从这种话语中出现了各种政策建议。 其中一些建议侧重于将人工智能监督的责任集中在一个新的联邦机构内。1例如，2023年9月，参议员RichardBlumenthal和JoshHawley公布了一个框架，要求建立一个独立机构，为构建“高风险”或“复杂的通用人工智能模型”的公司实施许可制度。2这个新的“人工智能机构”还可以负责监测整个人工智能领域的发展，或者审查根据拜登政府2023年10月的人工智能行政命令，私人开发商必须向政府提交的信息。3这种方法的支持者认为，人工智能的普遍性需要一个具有更广泛职权范围的机构，并且随着技术的发展，一个组织将更好地调整法规。4 其他人则推动将人工智能治理的责任下放给现有的联邦监管机构。这种基于行业的战略植根于人工智能是一种多用途工具的想法，因此，政策制定者应该把重点放在人工智能工具如何在不同行业中使用，而不是将其作为一种单一技术进行监管。5联邦机构已经有权监管几乎所有主要经济部门，并且这些机构通常扩展到这些操作中涉及的任何技术，AI或其他。这种方法的支持者认为，与试图通过立法并建立新的管理机构相比，依靠现有机构和当局可以使决策者更快地采取行动。此外，这种方法将使政府能够利用已经存在于相关联邦部门和机构中的特定部门专业知识。6 这两种人工智能治理方法并不相互排斥——去年发布的大多数主要框架都依赖于集中化和授权的某种组合。7随着政策制定者制定全面的人工智能治理战略，他们必须了解哪些机构已经拥有法律权力 有必要监督人工智能，以及可能需要新的当局、法规和流程的地方。8 特朗普政府此前曾在2019年发布《关于维持美国在人工智能领域的领导地位的行政命令》（EO13859）时试图回答这个问题，该命令要求联邦监管机构审查其与私营部门人工智能应用相关的权限。9美国卫生与公共服务部是为数不多的对这一指导意见做出回应的部门之一。HHS在其审查中发现，与民权、教育、安全行业实践和其他主题相关的广泛法规可以用来规范人工智能的开发和使用，尽管这些法规没有特别提到技术本身。10这样的审查将有助于其他机构了解AI应用程序可能或可能不属于其当前管辖范围。然而，今天，没有一个单一的、统一的资源或系统的过程可以帮助研究人员或政府以外的其他相关方更好地了解人工智能正在应用或可能在不久的将来被使用的各个部门的现有法规格局。 我们的团队着手开发一个流程，帮助政策制定者、监管机构、研究人员和其他感兴趣的利益相关者开始确定可应用于人工智能的权限，并强调可能需要额外权力的领域。虽然这一过程绝不是全面的，但它为理解如何在特定部门部署人工智能工具提供了一个有用的起点；这些工具存在的特定风险和好处；对这些工具具有潜在管辖权的监管机构；他们可以用来管理其开发和使用的当局；以及当局 ，可能需要引入或更新的法规和流程，以适应人工智能的独特挑战。 通过关注现有机构和当局，该框架固有地支持基于部门的人工智能治理方法。我们认识到，一些机器学习应用程序——例如某些生成AI聊天机器人——可能并不完全属于任何特定机构的管辖范围，而且我们的方法并不排除创建新的机构来管理这些更通用的应用程序。也就是说，基于行业的人工智能治理方法是本文关注的重点。 特定机构及其各自的监管权力至少在短期内具有若干优势。 首先，人工智能正在迅速发展，整个经济中的公司已经在使用人工智能系统来扩大他们的运营。如果政策制定者想要促进这些工具的安全开发和部署，他们应该迅速采取行动。联邦政府将能够利用其现有机构更快地塑造和影响该技术在各行业的采用和使用，而不是等待建立一个新的“人工智能机构”，这可能需要数年时间才能获得全部资金和人员，甚至更长的时间才能在华盛顿官僚机构中站稳脚跟。 其次，有效地监管这些人工智能应用程序需要深入了解部署它们的行业、网络和系统。依靠现有机构 ，政策制定者可以利用政府内部已经存在的特定部门的专业知识。当然，这些专家中的许多人可能需要更好地了解人工智能的细节，以便有效地规范其在行业内的应用。11这种提高技能的过程将需要时间和资源。但是，向行业专家传授特定技术的功能，而不是向特定技术的专家传授将部署该技术的众多行业的细微差别，可能会更有效，特别是考虑到将技术人才带入联邦政府的挑战。12 随着人工智能治理战略在联邦部门和机构中得到实施，了解机构现有的法律权力可以帮助政策制定者识别当前监管制度中的差距，并在未来制定新的法律、政策或管理机构方面做出更明智的决定。最后 ，研究人员、政府监管机构和政府以外的其他相关方对了解机构现有的法律权力具有既得利益，以确保监管人工智能的努力是全面和有效的，不会因浪费、滥用权力或管理不善而受到损害。 映射AI权限 我们从知情但非专业的利益相关者（例如，联邦政策制定者，监管机构，政策研究人员等）的角度来处理这个当局的映射过程，这些利益相关者对如何监管AI感到好奇，并且对技术开发和部署的技术方面有高级但非专家的理解。 几乎每个经济部门都会受到人工智能的影响，这些影响的性质在很大程度上取决于该部门的具体情况。因此，我们确定了许多可能合并AI的行业，并选择了一个这样的行业-运输-进行更仔细的检查（见图1）。然后，我们确定了运输部门中AI具有潜在应用的多个子域。我们选择专注于航空，因为该行业已经大量使用自动化，并且有丰富的文献介绍了人工智能和其他能够实现更大程度自主的技术可能出现的潜在问题。 在整个商业航空领域，人工智能工具有许多潜在的用例，随着技术的发展，未来几年将会出现更多的用例。13为了本报告的目的，我们特别选择了人工智能已经或可能很快被纳入的两个领域：空中交通管制和飞机机载系统。在这两个用例中，机器自动化、自主性和智能化的潜在承诺(更安全的航空旅行)和危险(致命的崩溃)是有形的，也是非常重要的，并且有先例和联邦监管的愿望。 在确定了可能需要潜在法规的AI用例之后，我们将这一做法反映给了联邦机构。首先，我们确定了对运输部门具有明确管辖权的联邦机构-美国S.运输部-以及负责监督商业航空部门的特定机构子部门-联邦航空管理局。然后，我们分析了FAA的组织结构，以确定负责管理我们两个选定的AI应用领域的办公室以及他们的监督所基于的当局。最后，我们研究了现有法规、政策和流程的方式。 与AI的当前和未来应用相交。我们的发现在以下部分中详细介绍。 图1.AI权限映射过程 资料来源：CSET。 虽然我们开始确定人工智能的潜在应用领域，并继续将这些应用领域映射到联邦机构，但这个过程也可以反过来进行。例如，如果交通部长的顾问希望了解该机构如何开始处理人工智能治理，他们可以首先查看该机构的子组件、各自的管辖区域、每个领域内的人工智能用例、不同组件拥有的权限，以及这些权力如何适用于人工智能。 商业航空中的AI 以下分析并不意味着要详尽说明AI在商业航空或现有FAA当局中的潜在应用，以规范空中交通管制和飞机机载系统中使用的AI工具。我们的评估可能缺少领域专家熟悉的相关当局和其他法律或监管工具。 然而，这一初步努力表明，绘制关键行业当前的监管格局如何有助于确定人工智能最需要监管关注的地方，以及需要相关支持的地方。 使用案例1：空中交通管制 根据FAA的说法，在任何给定时刻，在美国管辖范围内的2900万平方英里空域内，大约有 5400架飞机飞行。该组织雇用了14,000多名空中交通管制员来管理美国每天平均45,000多个航班 。14空中交通管制（ATC）分布在各种运营组件中。空中交通管制系统指挥中心（ATCSCC）在国家一级协调飞行，空中航线交通管制中心管理高空飞行交通，终端雷达进近设施（TRACONS ）指导飞行员进入或离开机场附近区域以及机场塔楼。15 空中交通管制需要飞行员，空中交通管制员和技术系统之间复杂的互动网络。根据美国联邦航空局的规定，尽管“飞机的机长直接负责飞机的运行，并且是飞机运行的最终权力”，但飞行员和空中交通管制员在飞行过程中的不同时间拥有权力和责任。16此外，FAA将飞行员和空中交通管制员之间的重叠责任纳入其法规，以确保在故障或紧急情况下的冗余。 空中交通管制员管理空域和飞机在机场之间，周围和途中的地面移动。他们的主要职责是防止飞机碰撞和管理交通。他们确保飞机安全有效地到达目的地，并监控交通、天气和其他可能影响飞机运营的条件。空中交通管制员通过一对一的交互进行通信。 与飞行员，尽管管制员通常一次管理与多个飞行员的通信。 自1960年代和1970年代以来，计算机和自动化在空中交通管制中发挥了作用。17计算机最初集成了来自地面雷达和机载雷达信标的数据，集成了数据和标识符，以帮助管制员引导交通并识别当前和不久的未来飞机交通情况。18从1990年代后期开始，FAA通过购买标准自动化终端更换系统 （STARS）来整合ATC数据，并通过终端自动化现代化和更换（TAMR）实施和维持，从而努力使1970年代的自动化技术现代化。19作为FAA更广泛的下一代航空运输系统（Ne