电子行业周报：AIGC管理办法出台，行业落地驶入快车道

    1        《生成式人工智能服务管理办法（征求意见稿）》 《生成式人工智能服务管理暂行办法》 第一章总则 第一条为促进生成式人工智能健康发展和规范应用，根据《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》等法律、行政法规，制定本办法。 第一条为了促进生成式人工智能健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益，根据《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《中华人民共和国科学技术进步法》等法律、行政法规，制定本办法。第二条利用生成式人工智能技术向中华人民共和国境内公众提供生成文本、图片、 第二条研发、利用生成式人工智能产品，面向中华人民共和国境内公众提供服务的，适用本办法。本办法所称生成式人工智能，是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。 音频、视频等内容的服务（以下称生成式人工智能服务），适用本办法。国家对利用生成式人工智能服务从事新闻出版、影视制作、文艺创作等活动另有规定的，从其规定。行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等研发、应用生成式人工智能技术，未向境内公众提供生成式人工智能服务的，不适用本办法的规定。 第三条国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作，鼓励优先采用安全可信的软件、工具、计算和数据资源。 第三条国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管。 第四条提供生成式人工智能产品或服务应当遵守法律法规的要求，尊重社会公德、 第四条提供和使用生成式人工智能服务，应当遵守法律、行政法规，尊重社会公德和伦理道德，遵守以下规定：（一）坚持社会主义核心价值观，不得生成煽动颠覆国家政权、推翻社会主义制度，危害国家安全和利益、损害国家形象，煽动分裂国家、破坏国家统一和社会稳定，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情，以及虚假有害信息等法律、行政法规禁止的内容；（二）在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取有效措施防止产生民族、信仰、国别、地域、性别、年龄、职业、健康等歧视；（三）尊重知识产权、商业道德，保守商业秘密，不得利用算法、数据、平台等优势，实施垄断和不正当竞争行为；（四）尊重他人合法权益，不得危害他人身心健康，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益；（五）基于服务类型特点，采取有效措施，提升生成式人工智能服务的透明度，提高生成内容的准确性和可靠性。 公序良俗，符合以下要求：（一）利用生成式人工智能生成的内容应当体现社会主义核心价值观，不得含有颠覆国家政权、推翻社会主义制度，煽动分裂国家、破坏国家统一，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情信息，虚假信息，以及可能扰乱经济秩序和社会秩序的内容。（二）在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取措施防止出现种族、民族、信仰、国别、地域、性别、年龄、职业等歧视。（三）尊重知识产权、商业道德，不得利用算法、数据、平台等优势实施不公平竞争。（四）利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。（五）尊重他人合法利益，防止伤害他人身心健康，损害肖像权、名誉权和个人隐私，侵犯知识产权。禁止非法获取、披露、利用个人信息和隐私、商业秘密。第十二条提供者不得根据用户的种族、国别、性别等进行带有歧视性的内容生成。 第二章技术发展与治理 第五条利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人（以下称“提供者”)，包括通过提供可编程接口等方式支持他人自行生成文本 第五条鼓励生成式人工智能技术在各行业、各领域的创新应用，生成积极健康、向 、图像、声音等，承担该产品生成内容生产者的责任；涉及个人信息的，承担个人 上向善的优质内容，探索优化应用场景，构建应用生态体系。支持行业组织、企业、 信息处理者的法定责任，履行个人信息保护义务。 教育和科研机构、公共文化机构、有关专业机构等在生成式人工智能技术创新、数据 第三条国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合 资源建设、转化应用、风险防范等方面开展协作。 作，鼓励优先采用安全可信的软件、工具、计算和数据资源。 第六条鼓励生成式人工智能算法、框架、芯片及配套软件平台等基础技术的自主创 第三条国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作，鼓励优先采用安全可信的软件、工具、计算和数据资源。 新，平等互利开展国际交流与合作，参与生成式人工智能相关国际规则制定。推动生成式人工智能基础设施和公共训练数据资源平台建设。促进算力资源协同共享，提升算力资源利用效能。推动公共数据分类分级有序开放，扩展高质量的公共训练数据资源。鼓励采用安全可信的芯片、软件、工具、算力和数据资源。 第七条提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法 第七条生成式人工智能服务提供者（以下称提供者)应当依法开展预训练、优化训练等训练数据处理活动，遵守以下规定：（一）使用具有合法来源的数据和基础模型；（二）涉及知识产权的，不得侵害他人依法享有的知识产权：（三）涉及个人信息的，应当取得个人同意或者符合法律、行政法规规定的其他情形；（四）采取有效措施提高训练数据质量，增强训练数据的真实性、准确性、客观性、多样性；（五）《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》等法律、行政法规的其他有关规定和有关主管部门的相关监管要求。 性负责。用于生成式人工智能产品的预训练、优化训练数据，应满足以下要求：（一）符合《中华人民共和国网络安全法》等法律法规的要求；（二）不含有侵犯知识产权的内容；（一）数据包含个人信息的，应当征得个人信息主体同意或者符合法律、行政法规规定的其他情形；（二）能够保证数据的真实性、准确性、客观性、多样性；（三）国家网信部门关于生成式人工智能服务的其他监管要求。第八条生成式人工智能产品研制中采用人工标注时，提供者应当制定符合本办法要求，清晰、具体、可操作的标注规则，对标注人员进行必要培训，抽样核验标注内容的正确性。 第八条在生成式人工智能技术研发过程中进行数据标注的，提供者应当制定符合本办法要求的清晰、具体、可操作的标注规则；开展数据标注质量评估，抽样核验标注内容的准确性；对标注人员进行必要培训，提升尊法守法意识，监督指导标注人员规范开展标注工作。 第三章服务规范 第九条提供者应当依法承担网络信息内容生产者责任，履行网络信息安全义务。涉及个人信息的，依法承担个人信息处理者责任，履行个人信息保护义务。提供者应当与注册其服务的生成式人工智能服务使用者（以下称使用者）签订服务协议，明确双方权利义务。 第十条提供者应当明确并公开其服务的适用人群、场合、用途，采取适当措施防范用户过分依赖或沉迷生成内容。 第十条提供者应当明确并公开其服务的适用人群、场合、用途，指导使用者科学理性认识和依法使用生成式人工智能技术，采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务。 第十一条提供者在提供服务过程中，对用户的输入信息和使用记录承担保护义务。 第十一条提供者对使用者的输入信息和使用记录应当依法履行保护义务，不得收集非必要个人信息，不得非法留存能够识别使用者身份的输入信息和使用记录，不得非法向他人提供使用者的输入信息和使用记录。提供者应当依法及时受理和处理个人关于查阅、复制、更正、补充、删除其个人信息等的请求。 不得非法留存能够推断出用户身份的输入信息，不得根据用户输入信息和使用情况进行画像，不得向他人提供用户输入信息。法律法规另有规定的，从其规定。第九条提供生成式人工智能服务应当按照《中华人民共和国网络安全法》规定，要求用户提供真实身份信息。第十六条提供者应当按照《互联网信息服务深度合成管理规定》对生成的图片、视 第十二条提供者应当按照《互联网信息服务深度合成管理规定》对图片、视频等生 频等内容进行标识。 成内容进行标识。 第十四条提供者应当在生命周期内，提供安全、稳健、持续的服务，保障用户正常 第十三条提供者应当在其服务过程中，提供安全、稳定、持续的服务，保障用户正 使用。 常使用。 第十五条对于运行中发现、用户举报的不符合本办法要求的生成内容，除采取内容 第十四条提供者发现违法内容的，应当及时采取停止生成、停止传输、消除等处置措施，采取模型优化训练等措施进行整改，并向有关主管部门报告。提供者发现使用者利用生成式人工智能服务从事违法活动的，应当依法依约采取警示、限制功能、暂停或者终止向其提供服务等处置措施，保存有关记录，并向有关主管部门报告。 过滤等措施外，应在3个月内通过模型优化训练等方式防止再次生成。第十九条提供者发现用户利用生成式人工智能产品过程中违反法律法规，违背商业道德、社会公德行为时，包括从事网络炒作、恶意发帖跟评、制造垃圾邮件、编写恶意软件，实施不正当的商业营销等，应当暂停或者终止服务。第十三条提供者应当建立用户投诉接收处理机制，及时处置个人关于更正、删除、屏蔽其个人信息的请求；发现、知悉生成的文本、图片、声音、视频等侵害他人肖 第十五条提供者应当建立健全投诉、举报机制。设置便捷的投诉、举报入口，公布 像权、名誉权、个人隐私、商业秘密，或者不符合本办法要求时，应当采取措施， 处理流程和反馈时限，及时受理、处理公众投诉举报并反馈处理结果。 停止生成，防止危害持续。 第四章监督检查和法律责任 第十六条网信、发展改革、教育、科技、工业和信息化、公安、广播电视、新闻出版等部门，依据各自职责依法加强对生成式人工智能服务的管理。国家有关主管部门针对生成式人工智能技术特点及其在有关行业和领域的服务应用，完善与创新发展相适应的科学监管方式，制定相应的分类分级监管规则或者指引。 第六条利用生成式人工智能产品向公众提供服务前，应当按照《具有舆论属性或社 第十七条提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照 会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估，并按 国家有关规定开展安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法 照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。 备案和变更、注销备案手续。 第十八条提供者应当指导用户科学认识和理性使用生成式人工智能生成的内容，不利用生成内容损害他人形象、名誉以及其他合法权益，不进行商业炒作、不正当营 第十八条使用者发现生成式人工智能服务不符合法律、行政法规和本办法规定的， 销。用户发现生成内容不符合本办法要求时，有权向网信部门或者有关主管部门举 有权向有关主管部门投诉、举报。 报。 第十九条有关主管部门依据职责对生成式人工智能服务开展监督检查，提供者应当 第十七条提供者应当根据国家网信部门和有关主管部门的要求，提供可以影响用户 依法予以配合，按要求对训练数据来源、规模、类型、标注规则、算法机制机理等予 信任、选择的必要信息，包括预训练和优化训练数据的来源、规模、类型、质量等 以说明，并提供必要的技术、数据等支持和协助。参与生成式人工智能服务安全评估 描述，人工标注规则。人工标注数据的规模和类型，基础算法和技术体系等。 和监督检查的相关机构和人员对在履行职责中知悉的国家秘密、商业秘密、个人隐私和个人信息应当依法予以保密，不得泄露或者非法向他人提供。第二十条对来源于中华人民共和国境外向境内提供生成式人工智能服务不符合法律、行政法规和本办法规定的，国家网信部门应当通知有关机构采取技术措施和其他必要措施予以处置。 第二十条提供者违反本办法规定的，由网信部门和有关主管部门按照《中华人民共 第二十一条提供者违反本办法规定的，由有关主管部门依照《中华人民共和国网络