植德人工智能月报4月刊

2023年4月刊 植德人工智能月刊 （自2023年4月1日至2023年4月30日） —植德律师事务所— 北京|上海|深圳|武汉|海口|香港 Beijing|Shanghai|Shenzhen|Wuhan|Haikou|HongKong 导读 最新立法动态 1.国家互联网信息办公室关于《生成式人工智能服务管理办法（征求意见稿）》公开征求意见的通知 2.科技部关于公开征求对《科技伦理审查办法（试行）》意见的公告 3.欧盟议会预计就《人工智能法案》达成初步一致，有望为生成式人工智能设立版权规则 4.美国NMA正式发布，ChatGPT等生成式AI监管原则 最新监管动态 1.中共中央政治局召开会议，提出要重视通用人工智能发展 2.北京发布《互联网信息服务算法推荐合规指引》 3.欧盟成立ChatGPT特别工作组 4.加拿大就数据安全问题开始调查OpenAI公司 5.OpenAI向意大利当局提交补救措施 6.意大利向ChatGPT松口提出四项要求以恢复使用 7.OpenAI与意大利监管部门达成一致，整改后恢复ChatGPT在意大利的使用 8.意大利封禁后，西班牙建议加强隐私评估 9.德国州数据保护机构就ChatGPT发起质询 10.美参议员提出法案加强人工智能监管 最新司法动态 1.澳洲一市长准备就ChatGPT内容提全球首例诽谤诉讼 2.美国最高法院驳回计算机科学家对生成式人工智能的发明诉讼案 最新行业动态 1.OpenAI发表博客回应外界关注的安全问题 2.阿里巴巴邀请测试大模型产品通义千问 3.有赞上线大模型驱动AI产品“加我智能” 4.商汤发布多款AI产品及大模型体系 5.中国通信院“可信AI”大规模评测完成，近期启动编制工作 6.AI图片斩获索尼世界摄影大奖！获奖者揭露真相拒绝领奖 7.知乎和面壁科技合作发布中文大模型“知海图AI”开始内测 8.酷狗推出全国首位AI说唱歌手“染月” 9.亚马逊推出自有大语言模型“泰坦”及生成式AI服务Bedrock 10.腾讯云新发布面向大模型训练新一代HCC超强算力集群 11.百家云推出人工智能生成内容解决方案 12.Google即将发布“Magi” 13.昆仑万维“天工”大模型启动邀请测试 14.金山办公室宣布将推出WPSAI 15.钉钉正式接入阿里“通义千问”大模型，全面启动智能化战略 16.马斯克启动TruthGPT,剑指OpenAI 17.谷歌合并旗下两大人工智能部门Brain和DeepMind 18.ChatGPT母公司OpenAI获得3亿美元融资，估值290亿美元 一、最新立法动态 1.国家互联网信息办公室关于《生成式人工智能服务管理办法（征求意见稿）》公开征求意见的通知 生效日期：2023年4月11日来源：中华人民共和国司法部 原文链接： http://www.moj.gov.cn/pub/sfbgw/lfyjzj/lflfyjzj/202304/t20230411_476092.html ★植德详细解读链接： 六问六答：《生成式人工智能服务管理办法（征求意见稿）》解读监管观察丨中国将如何监管生成式AI？十点专业详解！ 摘要：为促进生成式人工智能技术健康发展和规范应用，根据《中华人民共和国网络安全法》等法律法规，国家互联网信息办公室起草了《生成式人工智能服务管理办法（征求意见稿）》，现向社会公开征求意见。征求意见稿提出，利用生成式人工智能产品向公众提供服务前，应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。同时，利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。 植德短评 2023年4月11日，国家互联网信息办公室（以下简称国家网信办）为促进生成式人工智能技术健康发展和规范应用，根据《网络安全法》《个人信息保护法》等法律法规起草了《生成式人工智能服务管理办法（征求意见稿）》（以下简称“《人工智能办法》”），并向公众征求意见。 而在2021年12月31日，国家网信办、工业和信息化部、公安部、国家市场监督管理总局联合发布的《互联网信息服务算法推荐管理规定》（以下称“《算法推荐规定》”）以及2022年11月25国家网信办、工业和信息化部、公安部联合发布的《互联网信息服务深度合成管理规定》（以下称“《深度合成规定》”）中均对与人工智能相关的深度合成类算法进行了规定，从本次征求意见的《人工智能办法》可以看出，国家网信办是针对国内外已经发生的生成式人工智能法律风险、道德风险的大背景下制定的。 下文将从十个层面详细解读《人工智能办法》的整体监管原则，以及在已有的规定基础之上提出了哪些新的合规、监管要求。 1、向境内公众提供服务的生成式人工智能产品/服务应当适用《人工智能管理办法》 根据征求意见的《人工智能办法》第2条的规定，“研发、利用生成式人工智能产品，面向中华人民共和国境内公众提供服务的，适用本办法”，因此无论生成式人工智能产品/服务是在哪个国家研发、上架，只要面向中国境内公众提供服务，就需要遵守本规定。 这也提醒正在研究接入ChatGPT或者已经接入ChatGPT的公司注意，一旦接入ChatGPT向中国公众提供服务，则需要遵守本规定，包括完成算法备案等。 2、国家网信办明确国家支持生成式人工智能技术发展 生成式人工智能是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术（征求意见的《人工智能办法》第2条第2款），ChatGPT就是文本类生成式人工智能的典型代表。但ChatGPT近期被爆出“会暂时向其他用户公开AI聊天历史记录”，以及今年年初不同的版权人在美国及英国向StabilityAI（图像类生成式人工智能的代表）发起的版权侵权诉讼，均使生成式人工智能的知识产权、数据隐私问题受到大家的关注。 现在已经有多个国家对ChatGPT发出禁令或者警告等（意大利、英国），在这样的大背景下，国家网信办目前向公众征求意见的《人工智能办法》第3条给出监管的主旨原则，仍是国家明确支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作，鼓励优先采用安全可信的软件、工具、计算和数据资源。 3、生成式人工智能内容应当体现社会主义核心价值观（《人工智能办法》） 根据《算法推荐规定》以及《深度合成规定》，生成式人工智能的核心技术--深度合成类算法的服务提供者、技术支持者已经被要求对深度合成类算法相关的内容进行审核、识别违法和不良信息的特征库等，但本次征求意见的《人工智能办法》第4条（一）更是进一步明确生成式人工智能产品或服务应当整体在内容审核方面体现社会主义核心价值观，这不仅仅包括之前的“深度合成类算法”相关的训练数据、算法模型本身、生成内容，更包括用户的输入内容，这需要生成式人工智能的产品/服务提供者全方位加强内容审核。 4、生成式人工智能应当遵守法律法规要求，尊重社会公德、公序良俗 征求意见的《人工智能办法》第4条（二）-（五）在不得宣扬民族歧视、暴力、虚假信息；尊重知识产权、商业道德（例如违反商业道德的数据爬取）；避免侵犯个人肖像权、名誉权、个人隐私等方面进行了强调。这些方面均是截止目前生成式人工智能所展现出的问题，通过相关条款可以看出日后国家网信办以及相关主管部门在监管方面将从上述各项着手进行监管，民事权利的权利人（知识产权、肖像权等）也可能在前述方面进行诉讼维护自身权益。 5、生成式人工智能的责任主体 关于人工智能造成损害时的法律责任主体以及法律责任承担，欧盟在2022 《欧盟人工智能责任指令》提案中就已提出，而本次国家网信办征求意见的《人工智能办法》第5条中规定“利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人（以下称“提供者”），包括通过提供可编程接口等方式支持他人自行生成文本、图像、声音等，承担该产品生成内容生产者的责任”，明确了利用生成式人工智能产品提供服务的主体应当承担内容生产者的责任。 例如如果有用户因基于生成人工智能输出的医疗信息内容，服用了某些药物导致受到了身体上的损害，其生成式人工智能产品提供者应当作为医疗信息内容提供者承担相应的法律责任。 但目前的条款对于“利用生成式人工智能产品提供服务的提供者”承担的具体法律责任尚未明确，希望最终发布版可以对此进行清晰的规定。 6、算法备案需要上线前完成 《算法推荐规定》以及《深度合成办法》中均对深度合成式算法的算法备案进行了明确规定：具有舆论属性或者社会动员能力的深度合成服务提供者，应当按照《互联网信息服务算法推荐管理规定》履行备案和变更、注销备案手续；深度合成技术支持者应当履行备案和变更、注销备案手续，同时规定提供服务之日起十个工作日内通过互联网信息服务算法备案系统完成备案。 但目前征求意见的《人工智能办法》第6条规定“利用生成式人工智能产品向公众提供服务前”向国家网信办申报安全评估，并且履行算法备案相关手续。 可见目前征求意见的《人工智能办法》与现行的《算法推荐规定》以及《深度合成办法》存在不一致，对此尚需等待最终公布版国家网信办明确生成式人工智能算法备案的具体规定。但如果最终与征求意见稿一致，则作为同样都是国家网信办的规定，依照新法优于旧法的原则，生成式人工智能今后需要向国家网信办申报安全评估，并且完成算法备案后才能上线。 另外目前实践中，虽然截止目前公布的三批境内互联网信息服务算法备案清单中，已有10个生成合成算法，但2023年1月以后，再没有新的深度合成类算法的备案信息被公示，经笔者了解虽然已经有多家公司完成了备案，但尚未进行公示。可见如果今后要完成备案才能上线，国家网信办无疑将面临巨大的申报压力。 7、针对训练数据的要求 生成式人工智能的基础是训练数据，ChatGPT最初使用的算法模型GPT3.5就已经宣布使用了1750亿量级的训练数据，而目前在美国、英国发生的版权诉讼均是针对训练数据中未经授权使用美术作品的行为。在需要大量训练数据的情况下，未经授权使用知识产权、个人信息；违反商业道德（例如违反Robots协议）爬取数据都是极易发生的行为。 因此国家网信办在征求意见的《人工智能办法》第7条中明确了利用生成式人工智能提供服务的主体对训练数据的合法性承担责任，包括遵守《网络安全 法》的规定、不得侵犯知识产权、个人信息以及保证数据的真实性、多样性等。 同时在机器学习中的无监督学习（无需人工进行标注）尚未普及的情况下，还是有大量提供者需要通过人工进行标注的方式进行训练数据的管理，国家网信办也在《人工智能办法》第8条对此作出了要求，“提供者应当制定符合本办法要求，清晰、具体、可操作的标注规则，对标注人员进行必要培训，抽样核验标注内容的正确性。” 8、针对监督用户使用的要求 首先，提供者应当对用户进行真实身份认证。 根据征求意见的《人工智能办法》第9条规定，使用生成式人工智能的用户，应当提供真实身份信息。对此在《深度合成办法》中已经有规定，服务提供者应当基于移动电话号码、身份证件号码、统一社会信用代码或者国家网络身份认证公共服务等方式对使用者进行真实身份信息认证。但目前《人工智能办法》并未明确身份认证的具体方法，是否可以通过移动电话号码的方式完成身份的间接认证，还是必须要像直播开播、银行金融服务等情况下通过身份证完成直接的身份认证。 其次，提供者应当防止用户过分依赖或沉迷。 征求意见的《人工智能办法》第10条规定“提供者应当明确并公开其服务的适用人群、场合、用途，采取适当措施防范用户过分依赖或沉迷生成内容。”根据目前其他场景下的防沉迷措施（例如短视频等），如果不涉及未成年人的防沉迷，则提供者可以通过定时弹窗提示用户的方式履行本条合规义务；如果涉及未成年人，还应当遵守未成年人的相关法律规定。 再者，提供者应对用户输入内容承担保护义务。 根据征求意见的《人工智能办法》第11条规定，“提供者在提供服务过程中，对用户的输入信息和使用记录承担保护义务。不得非法