网络安全技术 生成式人工智能服务安全基本要求（2024）

网络安全技术生成式人工智能服务安全基本要求

标准概览：

本标准GB/TXXXXX—XXXX，作为中华人民共和国国家标准，聚焦于生成式人工智能服务的安全性，旨在为服务提供者和相关监管机构提供一套全面的安全基线。其主要内容涵盖了训练数据安全、模型安全、安全措施等多个维度，旨在提升生成式人工智能服务的整体安全性。

主要内容：

范围与适用性： 本标准适用于生成式人工智能服务提供者在开展安全评估时遵循的安全要求，同时也为监管机构提供了参考指南。

术语定义：

• 生成式人工智能服务：指利用生成式人工智能技术向公众提供生成文本、图片、音频、视频等内容的服务。
• 服务提供者：指以交互界面、可编程接口等形式提供生成式人工智能服务的组织或个人。

训练数据安全要求： 包括数据来源管理、数据内容过滤、知识产权管理、个人信息保护、数据标注安全等方面，确保训练数据的合法性和安全性。

模型安全要求： 强调在训练过程中注重生成内容的质量，定期进行安全审计，确保模型输出内容的准确性、可靠性，并对恶意输入进行防护。

安全措施要求： 涉及服务适用人群、服务透明度、投诉举报处理、服务稳定持续等方面，确保服务的安全性、公平性和可持续性。

附录： 提供了训练数据及生成内容的主要安全风险列表，以及安全评估参考要点，包括关键词库建设、生成内容测试题库构建、拒答测试题库建设等，为服务提供者进行安全评估提供了具体指导。

结论：

GB/TXXXXX—XXXX为生成式人工智能服务的安全提供了全面的框架和指导，旨在通过严格的安全要求和评估标准，确保此类服务在技术发展的同时，能够充分保障用户权益，维护网络安全秩序。