图解国家网信办生成式人工智能服务管理办法（征求意见稿）

炼石 CipherGaleway 文本代码图解国家网信办 《生成式人工智能服务管理办法》 （征求意见稿） 图片视频 炼石网络2023年4月 我国首部生成式人工智能服务领域的专门立法烁石 中华人民共和国国家互联网信息办公室 2023年4月11日，国家互联网信息办公室发布《 WWW.CAG.GOV.CN生成式人工智能服务管理办法（征求意见稿）》 面向社会公开征求意见，旨在促进生成式人工智 国家互联网信息办公室关于《生成式人工智能服务管理办法（征求意见稳）》公开征求意见能技术健康发展和规范应用，意见反馈截止时间 的通知为2023年5月10日。 视频 0343 全球酿监管措施，多国监管部门密切关注AIGC数据安全问题 炼石 CipherGetewor 美国 加拿大 英国 4月11日，据华尔街日报报道，拜登政 当地时间4月4日，加章大隐私专员办公室 英国数据保护机构发布了对使用生成式人 府已经开始研究是否需要对ChatGPT等人 OfficeofthePrivacyCommissionerof 工智能（GenerativeAl)的8个问题， 工智能工具实行检查。作为潜在监管的第 Canada，OPC）近日宣布开始调查ChatGPT 一步，美国商务部4月11日就相关问责措 背后的公司OpenAl，目的是回应一项针对该 施正式公开征求意见，包括新人工智能模 公司“未经同意收费、使用和披露个人信息 型在发布前是否应经过认证程序。征求意见期派为60天。 ”的投诉。根据公告，由于相关调查仍在进行中，所以目前无法公开史多信息 意大利 德国/西班牙/瑞典 印度 在ChatGPT被按连发现意外泄露用户聊天记 德国数据保护专员指出，考虑到数据保护 印度政府于当地时间4月5口表示，不打算 录后，意大利数据保护局（Garanteperla ，原则上不排除暂停ChatGPT在德国的使 监管人工智能的发展，认为该行业对该国 ProtezionecleiDatiPersonali)于3月31日 用；西班牙的监管机构也宣称，虽然畜末未 来说是一个“重要和战略性”的领城。 宣布将暂时禁用ChatGPT并对该工具涉姚违 收到任何关于ChatGPT的投诉，但不排除 反隐私规则展开调查；随后：法国和爱尔兰 未来会进行调查：不过，瑞典的隐私监管 的隐私监管机构表示已经与意大利取得联系 机构则表示，没有计划禁止ChatGPT，也 ，以了解更多有关该禁令的依据。 没有与意大利的监管机构联络。 “信息来源于互联网 《生成式人工智能服务管理办法（征求意见稿）》整体架构烁石 生成式人工智能服务管理办法（征求意见稿 总体原则二、提供者数据合规相关义务四、处罚及实施 任和义务法性责任 1.立法目的和依据4.法律法规和公序良5.明确监管对象责7.训练数据来源合 俗避循 20.违规处罚 2.适用范图、关键 定义8.人工标注9.实名制要求10.防止沉送21.实施日期 3.鼓励技术创新、11.承担个人信息保护12.不得生成歧视性 安全可信义务/不得画像分析内容 14.延续性保障 红色块条款包含了个人 16.生成内容标识信息保护相关要求。 三、监管审查义务 6.安全评估和备案13.投诉处理机制15.整改期限17.信息技露18.用户指导19.违规用户处理 网络监管日益成熟，实现技术发展与安全合规同步推动炼石 划定适用范围、给出权威释义明确权责划分、责任主体建立多项机制、丰富管理措施 1.完善监管框架，制定依据源于网明确提供者的责任和义务建立处理机制：《办法要求生成式 络安全法》《数据安全法》《个人信息人工智能产品或服务应建立评估备案、实 保护法》三大上位法，卷照细化了互《办法》贯彻落实《个人信息保 名制、投诉处理等机制 联网信息服务算法推荐管理观定》《互 护法》，强化个人信息保护要求 联网信息服务深度合成管理观定》提出蒙正非法获既、破费、利用个人信息 和隐私、高业移密 联网信息服务管理办法》等制度 明确个人信意处理者的法定责任和积义务 ·丰富管理措施：通过人工标注、防止 依赖或况迷、延续性保障、合规整改、生 2.划定适用范围，明确关键定义，，应征得个人信息主体同前成内容标识等措和手段，增强生成式人 明确提供者停止生成侵害个人总私等内容工智能合法性、合规性和合理性 鼓励行业开展基础技术自主创新、国际的处置措总 合作、支持信创 3.明确处罚金额，规定对干违反办法 》规定拒不改正或情节严重的，将“处 一万元以上十万元以下罚款” 第一条：《办法》制定的目的和依据是什么？烁石 构建完善的生成式人工智能法制化监管体系，促进生成式人工智能技术健康发展和规范应用 上位法上位法上位法 《网络安全法》《数据安全法》《个人信息保护法》 参考依据 中民中大国培安全限总化要妇会办公室 《具有與论属性或社会动员 《互联网信息服务深度合成《互联网信息服务算法推荐网络信息内容生态治理能力的互联网信息服务安全 互联网信息服务管理办法 管理规定管理规定规定 评估规定 2023.1.10起施行2022.3.1起拖行2020.3.1起施行2018.11.30起的行 2011.1.8编订 （生成式人工智能服务管理办法（征求意见稿） 6 第二、三条：《办法》适用范围是什么？体现什么样的国家态度？陈石 什么样的组织和个人适用《办法》？体现什么样的国家态度？ 研发、利用生成式人工智能产品，面向中华人国家 民共和国境内公众提供服务的，适用本办法。 支持人工智能算法、框架等基础技术的 什么是生成式人工智能？自主创新、推广应用、国际合作 生成式人工智能 是指基于算法、模型、规则生成文本、图片、鼓励优先采用安全可信的软件， 声音、视频、代码等内容的技术。工具、计算和数据资源 *主要监管的是A/GC技术研发商和基于AIGC技术的应用开发商 烁石 第四条：提供生成式人工智能产品或服务应当遵守哪些要求？CipherGetewoy 提供生成式人工智能产品或服务应当遵守法律法规的要求，尊重社会公德、公序良俗，符合以下要求： 1社会主义核心价值观防止歧视3不得实施真实准确5个人隐私保护 不公平竞争 利用生成式人工智能生成的内 在单法设计、训练数利用生成式人工智尊重他人合法利益 容应当体现社会主义核心价值 双 据选择、模型生成和 优化、提供服务等过 等重知识产权、商 能生成的内容应当防止伤害他人身 真实准确，采取措心健康，提害肖像 不得合有颜覆国家政权、潮程中，采取措施防止 仰、国别、地域、性 社会主义制度，编动分裂国家出现种族、民族、信 、彼坏国家统一：直扬恐饰主 业道德，不得利用算法、数据、平台 等优势实施不公平 施防止生成虚假信权、名禁权和个人 总隐私，侵犯知识产 权。禁止非法获取 义、极端主义，宣杨民族仇恨 、民族歧视，要力、温移色情信息，虚假信息：以及可能扰乱经济族序和社会族序的内容 到视、年龄、职业等校竞争 披离、利用个人信息和隐私、商业秘密 对应《互联网信息服务算法推荐管理规定》 第十三条算法推荐服务提供者提供互联网新闻信息股务的，当依法取得互联网新闻信息服务许可，规范开展互联网新闻信息票编发布服务、转载服务和传播平台服务 ，不得生成合成虚假新闻信息，不得传播非国家规定范国内的单位发布的新闻信息。 对应《互联网信息服务深度合成管理规定》 害社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动。 深度合成服务提供者和使用者不得利用深度合成服务制作、复制、发布、传播虚假新信息。转载画于深成服务制作发布的新阅信息的，应当依法转或互联网新阅信 总稳单位发布的新网信息。8 第五条：提供者对产品生成的内容承担些责任和义务？炼石 提供者 利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人（“提供者”），包括通过提供可编程接口等方式支持他人自行生成文本、图像、声音等 除了AIGC技术研发商和基于A/GC技术的应用开发商，即使是提供AP/接口等接入服务的提供商也要为内容生成承担责任 承担该产品生成内容生产者的责任涉及个人信息的 承担个人信息处理者的法定责任，履行个人信息保护义务 第六条-1：需要安全评估的具体情形和评估事项？ 炼石 CipherGetewoy 中共中央网络安全和信息化委员会办公室需要安全评估的情形安全评估事项 PNEAESOYD （一）确定与所提供服务相适应的安全管理 （一）具有奥论属性或社会动员能力的信息负责人，信息审核人员或者建立安全管理机 构的情况 服务上线，或者信息服务增设相关功能的（二】用户真实身份核验以及注册信息留存 措炮 （二）使用新技术新应用，使信息服务的功（三）对用户的账号，操作时间，操作类型。 网络源地址和日标地址、网络源端口、客户能属性，技术实现方式，基础资源配置等发戏硬性特征等目志信息，以及用户发布信息 记录的留存措施： 生重大变更，导致其论属性或者社会动员能【四】对月户账号和通讯群组名称，眠称 简介、备注，标识，信息发布、转发，评论 范处置和有关记录保存措施 安全评估：依据国家网信办和公安力发生重大变化的和通讯群组等服务功能中违法有击信息的防 部2018年11月联合发布的具有 （三）用户规模显著增加，导致信息服务的【五】个人信息保护以及防范违法有害信息 传插扩散。社会动员功能失控风险的技术措 奥论属性或社会动员能力的互联网典论属性或者社会动员能力发生重大变化的，（六）建立投诉、举报制座，公布投诉，举 举报的情况： 信息服务安全评估规定》，向国家（四）发生违法有害信息传插扩放，表明已报方式等信息，及时受理并处理有关投诉和 网信部门电报安全评估有安全措施难以有效防控网络安全风险的 【七】建立为网信部门依法漫行互联网信息 服务监督管理职责提供技术，数据支持和协 【五）地市级以上同信部门或者公安机关书助的工作机制的情况 （八）建立为公安机关，国家安全机关依法面进知需要进行安全评估的其情形，维护国家安全和查处注法犯晕提供技术数 据支持和协助的工作机制的情况， 10 第六条-2：算法备案如何执行落地？炼石 互联网信息服务算法备豪系统 年至人是入口 算法备案主体制度要求算法备案要求处罚 具有与论属性或者社会动员能力的算法推荐服务提供者通过院满有关情况、提供虚 具有具论属性或者社会假材料等不正当手段 动员能力的算法推荐服取得备案的，由国忘 市网信部门予以缴销 sl1.算法备主体进行客提供者医当在提供服自治区，直辆之日起十个工作日内 算法备案填报时应当通过互联网信息服务算备案，给予管告，通 算法备案：按照《互联网信息服务算法 1.为公众典论提供表 对落实算法安全主体 法备数系统填报服务提报批评，请节严重的， 供者的名种、服务形式.贵令暂停信息更析应用领域算法类型并处一万元以上十万 推荐管理规定》履行算法备案和变更，达渠道的服务提供者： 责任的情况进行说明； 算法自课估报告，拟公元以下罚款， 示内客等信息，最行备 注销备案手续。 注：自《互联网信息服务算法推荐管理 2.具有发动社会公众 从事特定活动的互联 2.在进行算法备案前， 企业应设算法安全 案手续 算法推荐服务提供者的备案信息发生变更的应当在变更之日起士个 具有英论属性或者社会动员能力的算法推存服务提供者终止服 务未按照本规定第二 规定》实施以来，国家网信办于2022 网信息服务商。工作且内办理变更手续，十四条第三款要求办 年8月，10月及2023年1月先后三次公 机构，建立完善的公算法推学服务提供者综 止服务的，应当在终止 且内办理注销备系于统吊销相关业务许可证 司内部规章制度，服务之日起二土个工作 理注销备案手续，或者发生严重注法情形受到责令关闭网站 布了境内互联网信息服务算法备案清并作出冠善安排，或者吊销营业执照等 和省，自治区、直楼 单》，发布了200余项算法备案，其中行政处罚的，由国忘 包括了多家头部互联网公司的算法市网信部门予以注销 11 第七条：预训练、优化训练数据来源需满足哪些要求？陈石 用于生成式人工智能产品的预训练、优化训练数据，应满足以下要求： 民共和国网络 识产权的内容