生成式AI浪潮下，建议关注AI合规及内容甄别主线

事件：近日，海外国家纷纷探讨AI相关的监管问题。3月31日，意大利个人数据保护局宣布，即日起暂时禁止使用聊天机器人ChatGPT，并表示已对ChatGPT背后的OpenAI公司展开调查。4月3日，德国联邦数据保护专员发言人称，出于数据保护方面的考虑，可能会暂时禁止在德国使用ChatGPT。此外，欧盟表示希望对AI生成的内容进行强制性的规定，或要求所有生成式AI内容必须注明来源。 海外大模型迅速迭代，商业化布局、行业生产力提升的同时合规问题仍待解决 自2022年11月微软正式发布ChatGPT，技术侧快速迭代，并且在商业化也加速落地，2023年1月OpenAI推出付费版ChatGPT——ChatGPTPro，2月ChatGPT结合的搜索引擎Bing发布，3月ChatGPT开放API接口，开发人员可以将ChatGPT和Whisper模型集成到自己的应用程序和产品中。目前，AIGC作为生产力工具，已经在内容生成领域释放了价值，包括机器写稿、对话式AI、报告生成、AI绘画、AI视频制作、AI作曲等等。根据6pen预测，未来五年10%-30%的图片内容由AI参与生成，有望创造600亿以上市场空间。 而针对AI生成内容的痛点短板仍亟需解决，比如文本生成类应用存在生成内容准确率低、可控性低等问题；图片生成类应用则存在作品版权争议较大、生成内容细节不足等问题。教育领域中，全球多国大学、科研机构发布明确的人工智能禁令，禁止使用ChatGPT和其他所有基于人工智能的工具完成学习与考试任务；多家期刊、出版机构也禁止将ChatGPT列为论文合著者。商业环境下，据国际技术经济研究所消息称，三星员工直接将企业机密信息以提问的方式输入到ChatGPT中，导致相关内容进入学习数据库从而可能泄漏给更多人，被公司告知谨慎使用ChatGPT。 在国内大模型加码布局下，AI合规及内容甄别具有实际业务需求，是AI+主线下值得关注的细分赛道 国内厂商看，包括阿里、腾讯、百度、华为、360等均在加码布局大模型产品。 我们认为，随着生成式AI技术的快速迭代和普及，AI内容广泛流通于行业和市场中，为了区分AI内容和非AI内容，对内容识别技术的需求或将衍生。此外，对于AI内容中充斥着的虚假和不实信息，也需要内容甄别技术进行判定和标识。 我们坚定看好AI快速发展带来的革命性机会，但新技术发展过程中伴随的合规性、版权、数据隐私等方面问题也亟待行业和监管共同规范，因此我们认为AI环境下版权识别、内容甄别的细分应用主线值得关注。 建议关注： 【人民网】设置建立“AI编辑部”，其中事实核查技术融合人脸识别、语音识别等多项人工智能技术，实现对文字、图片、音频、视频等多种形态信息的审核； 人民日报社传播内容认知全国重点实验室、中国科学技术大学、合肥综合性国家科学中心人工智能研究院联合推出国内首个AI生成内容检测工具AIGC-X； 【新华网】旗下新华智云的事实核查机器人，是基于新华智云自主研发的AI算法能实现对视频、音频、图片、文本等内容的统一审核，确保新闻内容的真实准确； 【博汇科技】公司运用人工智能深度学习算法，通过海量专项素材的机器学习，不断优化人脸识别、场景识别、语音识别、文字识别等智能化识别引擎，对各类媒体内容进行多维度分析，精准识别敏感、违规内容，实现对各类传播媒介播放的视听内容进行监管，对媒体中敏感、有害、违规内容的自动化、智能化分析研判。 风险提示：行业监管风险；宏观经济风险；技术推进不及预期；版权保护风险等。