AIGC监管推进，加速产业规范健康发展

事件：2023年4月11日，国家互联网信息办公室发布《生成式人工智能 服务管理办法（征求意见稿）》（后称“办法”），对生成式AI的生成 内容、主体责任、数据使用等提供管理方法，实现了监管与技术发展和应 用态势的同步推动。 强调信息与数据安全、生成内容合规等，促进产业规范健康发展。办法强 调：1）生成内容或服务应遵守法律法规，尊重社会公德、公序良俗；2） 提供者承担产品生成内容生产者责任，涉及个人信息则需依法履行个人信 息保护义务。3）提供者对预训练数据、优化训练数据来源的合法性负责。 4）提供者应依法要求用户提供真实身份信息，且需对用户输入信息和使 用记录承担保护义务。5）提供者应按《互联网信息服务深度合成管理规 定》对生成的图片、视频等进行标识。6）违反规定的，按相关法律、行 政法规予以处罚。法律、行政法规没有规定的，由网信部门等依据职责给 予警告、通报批评，责令限期改正；拒不改正或者情节严重的，责令暂停 或终止其利用生成式人工智能提供服务，并处1万元以上10万元以下罚 款。构成违反治安管理行为的，依法给予治安管理处罚；构成犯罪的，依 法追究刑事责任。 AI厂商可通过多种途径实现安全与合规要求。AI厂商可通过下列途径保 障AI安全性：1）首先要保障数据隐私，包括训练数据来源应公开合法， 使用下游应用提供的数据做微调时应限定数据使用范围。2）通过人类反 馈强化学习等手段让AI与人类价值观对齐，遵循人类意图。3）还可向用 户提供内容审查工具如OpenAI的moderationendpoint等，帮助用户判 断内容是否违规。 技术手段反制AI滥用，保障数据隐私。监管与审核需要安全技术保障： AIGC的发展可能带来大量恶意生成的虚假信息，需要类似换脸甄别的技 术来鉴别图像等信息是否由AI生成；在数据隐私方面，隐私计算可在不 暴露数据的情况下进行计算和分析，以实现数据隐私的保护。我们认为， 在人工智能带来巨大想象空间的同时，安全问题值得进一步关注，看好AI 安全行业的发展潜力。 建议关注：电科网安、人民网、安恒信息、奇安信、深信服、美亚柏科、 启明星辰、格尔软件。 风险提示：AI技术迭代不及预期；经济下行超预期；行业竞争加剧。