2024关键基础设施中人工智能的角色与责任框架报告

核心观点

美国国土安全部（DHS）发布了《关键基础设施中人工智能的角色与责任框架》，旨在指导关键基础设施中人工智能的安全、可靠和负责任的发展与部署。该框架提出了AI生态系统中不同实体可以依据其在关键服务中的作用和关系考虑、适应和实施的特定行动，并强调透明度、沟通和信息共享作为AI安全和安全性的关键要素。

关键数据

• 美国关键基础设施涵盖16个领域，包括国防、能源、交通、信息技术、金融服务、食品与农业、通信等。
• 该框架基于现有的风险框架，使实体能够评估使用AI进行某些系统或应用是否可能导致对关键基础设施资产、行业、具有国家重要性的系统或由这些系统服务的个人的损害。

研究结论

• 该框架提出了AI生态系统中不同实体在五个基础类别中的共同和单独责任：确保环境安全、推动负责任地设计和系统、实施数据治理、确保安全部署以及监测性能和影响。
• 框架建议公共部门负责确保所有领域的相关私营部门实体适当地保护个人和社区的权利，以及在危机或紧急情况下回应和支持美国公众的责任。
• 民间社会应支持、标准化和改善整个AI生命周期中的安全、隐私、公平和安全缓解措施，保护公众并培养信任度。
• 该框架的成功将取决于各实体履行其安全与安全的相应责任，从而强化AI安全和安全实践的一致性，提高由人工智能提供的临界服务的交付，增强人工智能生态系统的信任和透明度，推进关键基础设施的安全和人工智能研究，并确保所有实体都保护公民权利和公民自由。