工业和信息化领域人工智能安全治理标准体系建设指南（2025）

本指南旨在贯彻落实国家关于人工智能发展的战略部署，构建保障人工智能产业高质量发展和实现高水平安全的标准体系。核心观点包括：

• 背景与重要性：习近平总书记高度重视人工智能发展与安全，强调风险研判和防范。我国人工智能产业快速发展，但在安全治理标准制定方面仍面临数据安全、网络安全等挑战，构建标准体系迫在眉睫，以提升企业安全能力、培育技术产品应用、明确研发安全基线、增强国际竞争力。

• 总体要求：

  • 指导思想：以习近平新时代中国特色社会主义思想为指导，以人工智能赋能新型工业化为主线，遵循统筹发展和安全原则，构建工业和信息化领域人工智能安全治理体系。
  • 建设目标：
    • 短期目标（1-2年）：急用先行，初步构建标准体系框架，制定急需标准，推动试点应用，验证反馈。
    • 长期目标（3-5年）：完善标准体系，覆盖全生命周期，促进国际对接，加强推广应用，提升行业安全水平。

• 建设思路：

  • 标准体系结构：包括治理能力、基础安全、网络安全、数据安全、算法模型安全、应用安全、赋能安全7个部分。
  • 标准体系框架：由上述7个部分组成，覆盖人工智能全生命周期和各方面应用。

• 建设内容：

  • 人工智能治理能力：规范支撑能力（验证、监测、防护等）和管理能力（研发、运营安全治理）。
  • 人工智能基础安全：规范硬件平台、软件平台、智算中心、供应链安全。
  • 人工智能网络安全：规范防护、监测、管理及风险评估。
  • 人工智能数据安全：规范基础数据服务、训练数据、业务数据安全。
  • 人工智能算法模型安全：规范算法、模型安全，包括大模型、混合专家模型等。
  • 人工智能应用安全：规范新型工业化、行业应用、智能产品、智能服务、智能体等安全要求和评估方法。
  • 人工智能赋能安全：指导人工智能赋能网络、数据、信息、业务安全。

• 关键数据：

  • 截止2025年6月，全国已发布57项人工智能安全治理领域国家标准与行业标准，但存在点状化、分散性、交叉性等问题，部分关键技术环节和新兴应用场景标准缺失。

• 下一步计划：完善标准体系，补充细化各领域标准，促进国际对接，加强推广应用。