关键基础设施安全部署人工智能框架（英）-35页

美国国土安全部 关键基础设施中人工智能的角色和责任框架 在与 人工智能安全与保安委员会 2024年11月14日 Contents 秘书的来信3 人工智能安全和安保委员会成员5 执行摘要6一.导言8二、范围9三、AI对关键基础设施的风险10 四、AI在关键领域安全部署的角色和责任 12 基础设施 A.概述12 B.关键术语和结构 12C.框架13 I.云和计算基础设施提供商14 II.AI开发人员 17三、关键基础设施所有者和运营商 21四.民间社会 24五.公共部门 26 五、结论28 A.框架的预期成果28 30附录A：AI附录B：术语表31 附录C：注释33 人工智能角色与责任框架2 秘书的来信 美国的关键基础设施系统——这些系统为我们的家庭和企业供电、提供清洁水源、促进连接我们的数字网络，并承担更多任务——对国内和全球的安全与稳定至关重要。如果我国医院和紧急服务、电力变电站、管道、水处理设施及其他关键系统的正常运行受到干扰，将对我们的安全造成灾难性的影响。 人工智能（AI）已经改变了美国人民与关键基础设施交互的方式。例如，新技术有助于对邮件进行分类和配送，快速检测地震并预测余震，以及防止停电和其他电力服务中断 。尽管这些应用带来了便利，但也伴随着风险：错误的地震警报可能导致恐慌，而新引入的技术漏洞可能会使关键系统面临恶意行为者的威胁。 与此同时，我们的对手正在使用并将继续使用AI对美国的关键基础设施发起复杂、sophisticated且频繁的网络攻击。为了应对这些威胁，关键基础设施运营商可以利用AI更有效地防御恶意攻击，并提高关键基础设施服务的整体韧性。 美国的持续安全与繁荣将取决于关键基础设施利益相关方如何开发和部署人工智能。 美国国土安全部（DHS）负责保护我们在不断演变和扩展的安全威胁环境中的关键基础设施。为了指导我们对这一重要任务的方法，今年年初，我召集了科技、行业、民权、学术界和政府领域的国家顶尖领导人，成立了首个AI安全与安全委员会。在与委员会密切协商的基础上，DHS制定了关键基础设施中人工智能的角色和责任框架。 该框架建议各人工智能生态系统实体根据其在最终服务于美国人民的关键服务中的角色和关系，考虑、调整并实施具体行动。它旨在融入新产品开发、采购决策和信息交流的新旧流程之中。此外，该框架涵盖了某些责任永远不会完全完成的任务——例如支持人工智能安全与安全的基础研究以及探索有益于美国公众的AI应用场景——但这些任务仍然需要全国性的共同努力，以确保持续的进步。 应对美国关键基础设施中人工智能的非凡规模和影响，需要采取全国性的整体方法。本部门在普及和协调该框架的核心要素方面扮演着关键角色，这些要素借鉴了白宫、人工智能安全研究所以及我们的网络安全与基础设施安全局的重要工作。未来，我们将与关键基础设施合作伙伴合作，了解该框架如何适应各行业的特定需求。我们还将与国际伙伴召开对话会议，探讨如何在国际层面上应用这一框架。 可以协调我们在全球关键基础设施中实现AI安全和安保的方法。 作为国土安全部部长及AI安全与安全委员会主席，我对我们共同取得的成就感到自豪。我们欢迎就这些重要问题继续开展对话，并期待随着这项非凡技术的不断成长和发展，更新这一框架。 AlejandroN.Mayorkas美国国土安全部部长人工智能安全与安全委员会主席 人工智能安全和安保委员会成员 人工智能安全与安全委员会（以下简称“委员会”）向秘书长、关键基础设施社区、私营部门其他相关方以及更广泛的公众就我国关键基础设施中人工智能技术的安全、可靠和负责任的研发与部署提供建议。委员会的职责仅为提供咨询建议。委员会成员作为其所在领域的无薪酬代表 。委员会为美国国土安全部关键基础设施中人工智能的角色与责任框架（以下简称“人工智能角色与责任框架”）的制定提供了意见、信息和建议。 AlejandroN.Mayorkas, 美国国土安全部部长；人工智能安全与安保委员会主席SamAltman，OpenAI首席执行官 DarioAmodei，Anthropic首席执行官兼联合创始人 埃德·巴斯蒂安，达美航空公司首席执行官MarcBenioff，Salesforce董事长兼首席执行官 RummanChowdhury，博士，人道情报首席执行官MattGarman，亚马逊网络服务首席执行官 AlexandraReeveGivens，民主与技术中心总裁兼首席执行官布鲁斯·哈雷尔, 华盛顿州西雅图市长；美国市长会议技术和创新委员会主席 DamonT.Hewitt，法律下的民权律师委员会主席兼执行董事VickiHollub，西方石油公司总裁兼首席执行官 JensenHuang，NVIDIA总裁兼首席执行官ArvindKrishna，IBM董事长兼首席执行官 李飞飞，斯坦福大学以人为中心的人工智能研究所博士，联合所长WesMoore，马里兰州州长 SatyaNadella，微软董事长兼首席执行官ShantanuNarayen，Adobe主席兼首席执行官SundarPichai，Alphabet首席执行官 AratiPrabhakar, 博士，科技助理总统助理；白宫科技政策办公室主任 ChuckRobbins，思科主席兼首席执行官；商业圆桌会议主席LisaSu，高级微设备(AMD)主席兼首席执行官 尼科尔·特纳·李, 博士，高级研究员，布鲁金斯学会技术创新中心主任 KathyWarden，诺思罗普·格鲁曼公司董事长、首席执行官兼总裁MayaWiley，公民权利和人权领导力会议总裁兼首席执行官 执行摘要 人工智能（AI）系统正在transforming美国关键基础设施，释放新的机遇，并对关键系统和服务带来新的风险。组织和个人在AI系统开发、访问以及在其更大系统中运行方式上的选择将决定AI在部署到美国关键基础设施广泛领域时的影响。为指导这些选择，美国国土安全部（DHS）与人工智能安全与安全委员会（“委员会”）密切合作，制定了《关键基础设施中人工智能的角色和责任框架》（以下简称“框架”）。该框架建议了确保美国关键基础设施中AI的安全和可靠开发与部署的关键角色和责任。 this框架旨在补充并推进白宫自愿承诺、人工智能权利法案蓝图、总统令14110（关于安全、安全和可信赖的人工智能开发和使用）、管理办公室M-24-10备忘录（关于推动机构使用人工智能的治理、创新和风险管理）、关于推进美国在人工智能领域的领导地位的备忘录、人工智能安全研究所的工作、国土安全部针对关键基础设施所有者和运营商的安全与安全指南等所确立的人工智能安全与安全最佳实践。 在关键基础设施中，与人工智能相关的角色、责任、应用场景和风险复杂且相互依赖，并将随着技术的发展而变化。鉴于这些考虑，本框架： 提出了一套在美国安全和可靠地使用AI的自愿责任 ► 基础设施，由五种关键角色瓜分：云和计算基础设施提供商、人工智能开发者、关键基础设施的所有者和运营商、民间社会以及公共部门。 在五个责任领域评估这些角色：保护环境，推动负责任 ► 模型和系统设计，实施数据治理，确保关键基础设施的安全可靠部署，并监控性能和影响。 提供技术和流程建议，以增强安全性、安全性和可信性 ► 在全国16个关键基础设施部门部署的人工智能系统。 如果在整个AI生态系统中被采纳和实施，该框架旨在进一步提高关键基础设施的安全性和安全性，包括安全和安保实践的一致性，改善关键服务的交付，增强实体之间的信任和透明度，保护公民权利和自由，并推进能够进一步使关键基础设施负责任地运营和部署AI的安全与安全研究。 该框架建立在现有的风险框架之上，使实体能够评估某些系统或应用使用人工智能是否可能导致关键基础设施资产、重要行业领域、国家重要的系统或此类系统服务的个人受到伤害。该框架中的责任已经根据这些潜在危害进行了定制，通过实施技术风险缓解措施、问责机制、常规测试实践和事件响应计划来解决这些问题。重要的是，该框架还强调透明度、沟通和信息共享在人工智能安全与安全中的关键作用。该框架并不代表所有相关实体在人工智能安全与安全方面的全部责任清单，而是专注于促进安全和可靠使用活动。 执行摘要 与关键基础设施特别相关的AI技术。所有相关实体，包括云和计算基础设施提供商、AI开发者以及关键基础设施的所有者和运营商，除了应考虑由该框架提出的基础责任外，还应考虑特定于行业的和具体情境下的AI风险缓解措施。 AI仍是一项新兴技术，且AI安全与安全实践继续同步发展。DHS和AI安全与安全委员会将以身作则，支持、强化并推进该框架的核心概念，作为保护并塑造我国关键基础设施中美国创新未来的共同承诺。 I.Introduction 美国关键基础设施涵盖了对国家生活产生严重负面影响其系统至关重要的美国社会的十六个部门。1它包括美国的防御、能源、交通、信息技术、金融服务、食品和农业、通信以及其他领域。 与合作伙伴共同，美国国土安全部（DHS）帮助保护美国人用于家庭和企业供电、金融交易、信息共享、医疗保健接入与交付以及获取食物等众多日常活动的方式。人工智能可以成为改善关键基础设施提供的服务、增强韧性、检测威胁和支持灾后恢复的强大动力。随着拥有并运营这些关键基础设施系统的实体越来越多地采用人工智能，DHS的职责是了解、预测并解决可能对这些系统及其用户产生负面影响的风险。这一职责包括确保关键基础设施系统为所有美国人民有效运行和服务。关键基础设施中的人工智能系统也不例外——它们必须以有效的方式设计、开发和部署，并且要尊重和保护隐私、公民权利和公民自由。2该部门将在必要条件下保护这些权利，以推动关键基础设施的安全和安全结果。 美国16个关键基础设施部门 化学 Dams Commercial设施 Defense产业基地 Communications 紧急情况服务 CriticalManufacturing 能源 Financial服务 食物和政府 Agriculture设施 医疗保健和公共卫生 信息核反应堆, 技术材料和废物 交通运输水和 系统废水 认识到这些系统的关键性质及其在使用人工智能为美国人民服务中的作用，总统于2023年10月发布的关于安全、安全和可信的人工智能开发和使用的行政命令（行政令14110）要求国土安全部部长建立一个人工智能安全与安全委员会，该委员会的任务是向部长和关键基础设施社区提供“建议、信息或推荐”，以指导其在人工智能方面的使用。3作为初步步骤，DHS在与董事会密切咨询后，制定了这份自愿的人工智能在关键基础设施中的角色和责任框架（以下简称“框架” ），以推荐人工智能生态系统中各实体的角色和责任，确保人工智能在关键基础设施中的安全 、安全以及resilent开发和部署。* *本框架表达了实践标准，没有确立任何法律权利、特权或要求。 二、范围 该框架提出了一种模型，用于在关键基础设施中安全且可靠地使用人工智能，并明确了共享和独立责任的模式。为此，该框架： critical 建议基于风险和用例的缓解措施，以降低 ► 基础设施系统 并在开发和部署人工智能时考虑服务的人群，以及潜在的危害可能以一种若不解决可能会波及云多和个计行算业基或础造设成施国家级重大中断的方式蔓延。 提出了一套跨角色的自愿责任 ► 供应商AI模型开发人员关键基础设施所有者和运营商 ,,and在开发和部署依赖于或即将依赖于国家大部分关键基础设施的AI驱动服务方面。公民社会公共部门 提出了一套自愿责任and在倡导 ► 对于使用或受这些关键系统影响的人士、支持改进新技术各方面研究的人士以及推动强大依的靠风现险有管的理风实险践框的架人士，。使实体能够评估是否将AI用于某些 ► 系统或应用程序可能带来严重的风险，这些风险可能导致关键基础设施资产、部门或其他对美国人民至关重要的系统受到损害。进一步研究这些风险类别之间的关系及其缓解措施将有助于各实体从案例使用角度进行这一评估。 此外，该框架补充并利用了DHS协调的AI和关键基础设施