全球加码AI监管：数字经济监管与发展双周观察

全球加码AI监管：数字经济监管与发展双周观察20230424 研究结论 近期数字经济动态显示，不论是国内还是海外，对人工智能的监管都伴随着产业本身的发展而完善。国内来看，4月11日国家互联网信息办公室就《生成式人工智能服务管理办法》公开征求意见，文件指出：（1）提供生成式人工智能产品或服务应 当遵守法律法规的要求，尊重社会公德、公序良俗；（2）利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人承担该产品生成内容生产者的责任；涉及个人信息的，承担个人信息处理者的法定责任，履行个人信息保护义务；（3）利用生成式人工智能产品向公众提供服务前，要向国家网信部门申报安全 评估。海外的角度，近期着眼于人工智能监管的国家正在增加，如4月11日美国商 务部下辖咨询机构国家电信与信息管理局开始就AI相关监管问题向社会各界征集意见，国土安全部部长表示该部门将成立一个人工智能特别工作组；欧洲议员同样呼吁制定更多的规则来对人工智能技术加以监管，并列出了几项期待的举措，包括在拟议的《人工智能法案》草案中提供一个框架，此外还提及应召开关注人工智能风 险的全球峰会等等。展望后续，人工智能的监管可能侧重以下重点： 规范信息收集，保护个人信息与知识产权：人工智能的预训练、优化训练数据势必需要收集大量信息，同时用户也可能输入新的信息，在此背景下，数据泄露或滥用 带来的负面影响将大幅增加。根据《生成式人工智能服务管理办法（征求意见稿）》，一方面，这些数据应不含有侵犯知识产权的内容，另一方面，数据包含个人信息的，应当征得个人信息主体同意。此外在提供服务过程中，对用户的输入信息和使用记录承担保护义务。不得非法留存能够推断出用户身份的输入信息，不得根据用户输入信息和使用情况进行画像，不得向他人提供用户输入信息。 确保相关应用内容的合法合规：除了“遵守法律法规的要求，尊重社会公德、公序良俗”之外，《生成式人工智能服务管理办法》征求意见稿还要求（1）对于运行中发现、用户举报的不符合本办法要求的生成内容，除采取内容过滤等措施外，应在 3个月内通过模型优化训练等方式防止再次生；（2）按照《互联网信息服务深度合成管理规定》对生成的图片、视频等内容进行标识；（3）应当指导用户科学认识和理性使用生成式人工智能生成的内容，不利用生成内容损害他人形象、名誉以及其他合法权益，不进行商业炒作、不正当营销；（4）提供者发现用户利用生成式人工智能产品过程中从事网络炒作、恶意发帖跟评、制造垃圾邮件、编写恶意软件，实施不正当的商业营销等现象，就应当暂停或者终止服务。 健全人工智能等技术所涉及的伦理规范：长期以来，人工智能与人类伦理的相互关系始终是各界人士议论的焦点。2021年9月25日，国家新一代人工智能治理专业 委员会发布了《新一代人工智能伦理规范》，旨在为从事人工智能相关活动的自然人、法人和其他相关机构等提供伦理指引。文件规定，人工智能各类活动应遵循以下基本伦理规范：增进人类福祉（坚持以人为本，遵循人类共同价值观，尊重人权和人类根本利益诉求，遵守国家或地区伦理道德）、促进公平公正（推动全社会公平共享人工智能带来的益处）、保护隐私安全、确保可控可信（保障人类拥有充分自主决策权，有权选择是否接受人工智能提供的服务……确保人工智能始终处于人类控制之下）、强化责任担当（坚持人类是最终责任主体，明确利益相关者的责任）、提升伦理素养。 综合来看，人工智能发展中可能出现怎样的风险已经成为全球关注的话题，最终目标指向数据安全、知识产权和以人为本。监管与发展也并不相悖，前者是行业健康生态的有力保障。 宏观经济|动态跟踪 报告发布日期2023年05月01日 陈至奕021-63325888*6044 chenzhiyi@orientsec.com.cn 执业证书编号：S0860519090001 孙金霞021-63325888*7590 sunjinxia@orientsec.com.cn 执业证书编号：S0860515070001 陈玮chenwei3@orientsec.com.cn 执业证书编号：S0860522080003 孙国翔sunguoxiang@orientsec.com.cn 风险提示 互联网企业在数据跨境传输、个人信息保护、反垄断等领域出现新的引发监管的风险事件。 改革后科技部继续发力人工智能：数字经济监管与发展双周观察20230410 蚂蚁探索“守门人”条款：数字经济监管与发展双周观察20230327 2023-04-12 2023-03-30 有关分析师的申明，见本报告最后部分。其他重要信息披露见分析师申明之后部分，或请与您的投资代表联系。并请阅读本证券研究报告最后一页的免责申明。 国内部分 4月11日国家互联网信息办公室就《生成式人工智能服务管理办法（征求意见稿）》公开征求意见，文件指出，提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责。 4月13日，“2023数字经济峰会”在香港会展中心举行。会上，广东省政务服务数据管理局局长杨鹏飞在主题发言中透露，《广东省数据条例》即将出台，广东正研究推动将数据生产要素纳入国民经济核算体系。 4月18日消息，最高人民检察院近日印发的《关于加强新时代检察机关网络法治工作的意见》提出，发挥知识产权检察办公室综合履职的优势，突出加大对集成电路、人工智能、大数据、云计算等重点领域核心技术的司法保护力度，依法加强对计算机软件、数据库、网络域名、数字版权、数字内容作品等网络知识产权的司法保护，依法惩治滥用知识产权排除市场竞争、阻碍创新的行为，推动数字技术成果的创新发展和转化。 4月19日，国家发改委新闻发言人孟玮在新闻发布会上表示，将重点从五方面发力，持续做强做优做大我国数字经济：（1）制度建设方面，加快构建“1+N”数据要素基础制度体系，推动有条件的地方和行业开展数据要素流通使用先行先试，统筹构建多层次、多元化和场内场外相结合的数据要素市场体系。（2）数字基础设施方面，适度超前布局，加快光纤网络扩容提速、5G商用部署和规模应用，深入实施“东数西算”工程，加快基础设施数字化、智能化改造。（3）产业创新发展方面，培育一批具有核心竞争力的生态主导型企业，加快打造具有国际竞争力的数字产业集群，支持平台企业在引领发展、创造就业、国际竞争中大显身手。（4）数字化转型方面，强化各领域、各行业全方位、全链条数字化改造政策引领，提升“上云用数赋智”水平，推动新一代信息技术与一二三产业融合发展，支持龙头企业、第三方服务企业带动中小企业加快转型步伐。（5）国际合作方面，积极提出“中国倡议”，落实全球发展高层对话会数字经济领域成果。积极提供“中国方案”，推进加入《数字经济伙伴关系协定》，开展双多边数字经济治理合作，营造良好国际环境。 在第23个世界知识产权日来临之际，最高人民法院4月20日在北京知识产权法院举行新闻发布会，发布《中国法院知识产权司法保护状况（2022年）》、2022年中国法院十大知识产权案件和50件典型知识产权案例，并启动“知识产权司法保护北京行”活动。会上，最高法相关负责人透露，2022年全国法院去年共新收一审、二审、申请再审及再审等各类知识产权案件52万余件。 国际部分 当地时间4月11日，美国商务部下辖咨询机构国家电信与信息管理局（NTIA）公布的一份文件显示，NTIA已经开始就AI相关监管问题向社会各界征集意见，截至6月10日公众都可以向其反馈意见。NTIA将据此起草AI问责政策相关报告。 4月11日，据共同社，日本政府考虑在国会答辩等行政领域利用ChatGPT，期待其能在文件制作等业务中发挥作用，减轻职员的负担。不过，对该软件收集数据不妥当等也存在强烈警惕，引进的前提是必须消除这种担忧。 据《华尔街日报》报道，一群欧洲议员4月17日致函表达了他们对人工智能技术的担忧，并呼吁制定更多的规则来对其加以监管。在信中，议员们列出了他们希望看到欧洲议会采取 的几项举措，包括在拟议的《人工智能法案》草案中提供一个框架，旨在“引导强大的人工智能朝着以人为本、安全可靠的方向发展”，此外还提及应召开关注人工智能风险的全球峰会。 4月21日消息，美国国土安全部部长亚历杭德罗·马约卡斯（AlejandroMayorkas）表示，该部门将成立一个人工智能特别工作组。该工作组一方面将研究如何利用人工智能来处理如保护关键基础设施、检查货物等事务；另一方面，也将调查人工智能可能造成的威胁。 4月22日消息，据报道，英国政府将在几天内出台立法，建立一个新的监管机构，对谷歌、亚马逊和Facebook等大型科技平台日益占据主导地位的局面进行监管。 4月24日消息，据外媒报道报道，印度卡纳塔克邦法院驳回小米印度公司对该国执法机构扣押其555.1亿卢比（约6.8亿美元）资产的申诉。在此之前的去年5月，印度打击金融犯罪机构“中央执法局”表示，已发现小米印度公司将价值555亿卢比的外汇，以支付特许权使用费的名义汇给包括小米集团在内的3个海外实体。该机构称，小米印度此举涉嫌违反印度 《外汇管理法》、非法汇款给外国实体，相关款项已被扣押。 风险提示 互联网企业在数据跨境传输、个人信息保护、反垄断等领域出现新的引发监管的风险事件。 分析师申明 每位负责撰写本研究报告全部或部分内容的研究分析师在此作以下声明： 分析师在本报告中对所提及的证券或发行人发表的任何建议和观点均准确地反映了其个人对该证券或发行人的看法和判断；分析师薪酬的任何组成部分无论是在过去、现在及将来，均与其在本研究报告中所表述的具体建议或观点无任何直接或间接的关系。 投资评级和相关定义 报告发布日后的12个月内的公司的涨跌幅相对同期的上证指数/深证成指的涨跌幅为基准； 公司投资评级的量化标准 买入：相对强于市场基准指数收益率15%以上；增持：相对强于市场基准指数收益率5%～15%； 中性：相对于市场基准指数收益率在-5%～+5%之间波动；减持：相对弱于市场基准指数收益率在-5%以下。 未评级——由于在报告发出之时该股票不在本公司研究覆盖范围内，分析师基于当时对该股票的研究状况，未给予投资评级相关信息。 暂停评级——根据监管制度及本公司相关规定，研究报告发布之时该投资对象可能与本公司存在潜在的利益冲突情形；亦或是研究报告发布当时该股票的价值和价格分析存在重大不确定性，缺乏足够的研究依据支持分析师给出明确投资评级；分析师在上述情况下暂停对该股票给予投资评级等信息，投资者需要注意在此报告发布之前曾给予该股票的投资评级、盈利预测及目标价格等信息不再有效。 行业投资评级的量化标准： 看好：相对强于市场基准指数收益率5%以上； 中性：相对于市场基准指数收益率在-5%～+5%之间波动；看淡：相对于市场基准指数收益率在-5%以下。 未评级：由于在报告发出之时该行业不在本公司研究覆盖范围内，分析师基于当时对该行业的研究状况，未给予投资评级等相关信息。 暂停评级：由于研究报告发布当时该行业的投资价值分析存在重大不确定性，缺乏足够的研究依据支持分析师给出明确行业投资评级；分析师在上述情况下暂停对该行业给予投资评级信息，投资者需要注意在此报告发布之前曾给予该行业的投资评级信息不再有效。 免责声明 本证券研究报告（以下简称“本报告”）由东方证券股份有限公司（以下简称“本公司”）制作及发布。 本报告仅供本公司的客户使用。本公司不会因接收人收到本报告而视其为本公司的当然客户。本报告的全体接收人应当采取必要措施防止本报告被转发给他人。 本报告是基于本公司认为可靠的且目前已公开的信息撰写，本公司力求但不保证该信息的准确性和完整性，客户也不应该认为该信息是准确和完整的。同时，本公司不保证文中观点或陈述不会发生任何变更，在不同时期，本公司可发出与本报告所载资料、意见及推测不一致的证券研究报告。本公司会适时更新我们的研究，但可能会因某些规定而无法做到。除了一些定期出版的证券研究报