植德人工智能月报4月刊

2024年4月 人工智能月刊 （2024.4.1-2024.4.30） 植德律师事务所人工智能与数字经济行业委员会 AIGC研究小组 导读 最新法律与监管动态 1.国家网信办发布《生成式人工智能服务已备案信息》 2.全国网络安全标准化技术委员会就《网络安全技术生成式人工智能预训练和优化训练数据安全规范》《网络安全技术生成式人工智能数据标注安全规范》等4项国家标准公开征求意见 3.法国数据保护机构（CNIL）发布了关于AI系统发展的建议 4.肯尼亚标准局（KEBS）公布《信息技术-AI-AI应用实践准则》草案 5.美国众议院提出《生成AI版权披露法案》 6.德国联邦信息安全办公室（BSI）发布生成人工智能模型指南 7.丹麦数字机构（Digitaliseringsstyrelsen）被任命为丹麦AI监管的国家监督机构 8.美国家安全局发布安全部署人工智能系统的新指南 9.美国加利福尼亚州批准《人工智能透明度法案》 10.美国商务部就人工智能、开放数据资产征求意见 11.《人工智能示范法2.0（专家建议稿）》发布 12.英美两国建立人工智能安全科学合作伙伴关系 13.《2024年中非互联网发展与合作论坛关于中非人工智能合作的主席声明》发布 14.英国监管机构竞争和市场管理局调查微软和亚马逊的AI合作 15.全国首例AI生成声音人格权侵权案一审宣判 16.欧洲数据保护倡导组织欧洲数字权利中心（NOYB）对OpenAI提起投诉 最新行业动态 1.Meta调整AI生成内容规则 2.加拿大推出24亿加元AI基金，确保加拿大的AI优势 3.韩英两国将于5月21日至22日在首尔联合主办“人工智能（AI）首尔峰会” 4.xAI发布突破性的多模态AI模型--Grok-1.5Vision 5.SAS推出轻量级AI模型 6.谷歌研究团队与Deepmind整合 7.Open-Sora全面开源升级 8.SanctuaryAI推出第七代人形机器人 9.微软与三星加强AI合作 10.美国国土安全部宣布成立人工智能安全委员会 11.中美人工智能政府间对话首次会议将举行 12.OpenAI与英国《金融时报》合作，使用新闻内容训练模型 一、最新法律与监管动态 1.国家网信办发布《生成式人工智能服务已备案信息》 发布日期：2024年4月2日 来源：国家互联网信息办公室官网链接： https://www.cac.gov.cn/2024-04/02/c_1713729983803145.htm 摘要： 2024年4月2日，国家互联网信息办公室发布《国家互联网信息办公室关于发布生成式人工智能服务已备案信息的公告》（以下简称“《公告》”），公布 《生成式人工智能服务已备案信息》，包括117个已备案生成式人工智能模型。 植德短评 2023年8月15日生效的《生成式人工智能服务管理暂行办法》第17条规定，提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估。此处规定的安全评估即目前的生成式人工智能服务备案（大模型备案）的法律依据。大模型备案与生成式人工智能（“AIGC”）另一个合规备案——算法备案相同，完成备案的企业将定期被公开。在2023年 期间，网信办针对大模型备案主要是以主动通知为主，但2024年开始，诸多生成式人工智能企业为了尽早完成AIGC的全部合规要求，也开始主动提交大模型备案申请。相关内容可参考《植德知产说|AIGC产品合规之生成式人工智能服务备案》。 《公告》明确，提供具有舆论属性或者社会动员能力的生成式人工智能服务的，可通过属地网信部门履行备案程序，属地网信部门应及时将已备案信息对外公开发布。后续备案信息将于网信办官网持续更新，未来将不再另行公告。已上线的生成式人工智能应用或功能，应在显著位置或产品详情页面公示所使用已备案生成式人工智能服务情况，注明模型名称及备案号。 2.全国网络安全标准化技术委员会就《网络安全技术生成式人工智能预训练和优化训练数据安全规范》《网络安全技术生成式人工智能数据标注安全规范》等4项国家标准公开征求意见 发布日期：2024年4月3日 来源：全国信息安全标准化技术委员会官网链接： https://www.tc260.org.cn/front/bzzqyjDetail.html?id=20240403144959&norm_id=20231220162250&recode_id=54528 摘要： 2024年4月3日，全国网络安全标准化技术委员会发布《数据安全技术基于个人请求的个人信息转移要求》《数据安全技术数字水印技术实现指南》《网络安全技术生成式人工智能预训练和优化训练数据安全规范》《网络安全技术生成式人工智能数据标注安全规范》4项国家标准的征求意见稿，向社会公开征求意见。 其中，《网络安全技术生成式人工智能预训练和优化训练数据安全规范》规定了生成式人工智能在预训练和优化训练过程中，对所使用数据的通用安全要求、数据处理方面的安全要求，以及评价方法，适用于面向我国境内公众提供生成式人工智能服务的组织或个人提高预训练及优化训练数据获取与准备的安全水平，也可为生成式人工智能的数据提供者提供参考。 植德短评 2023年7月，中央网信办联合多部门发布《生成式人工智能服务管理暂行办法》，数据标注是其中重要内容，相关内容实施落地亟需配套标准支撑相关工作开展。关于标准的制定与应用也在数据治理领域被提至战略高度。目前国内外尚无针对数据标注活动的相关标准进行安全指导和规范。为落实《生成式人工智能服务管理暂行办法》的相关要求，有必要针对生成式人工智能产品研制中的数据标注环节，对数据标注规则制定、标注实施安全、标注质量及安全性核验要求、标注人员安全管理要求、过程安全控制要求、安全证实方法等方面提出规范指引。《网络安全技术生成式人工智能数据标注安全规范》制定对促进生成式人工智能人工标注工作的规范和标准化有积极作用，有助于提升标注人员理解标注任务能力，提高标注流程安全性，减少标注过程中可能出现的有害信息、歧视信息、虚假信息等内容，提高标注数据的质量及安全性，进而提高生成式人工智能模型的帮助性、诚实性和无害性。该标准将为生成式人工智能人工标注活动提供安全指南，填补目前国内外该领域标准空白，有效提升生成式人工智能人工标注实施及应用安全性。 《网络安全技术生成式人工智能数据标注安全规范》针对生成式人工智能产品研制中的人工标注环节，对人工标注规则制定、标注实施安全、标注质量及安全性核验要求、标注人员安全管理要求、过程安全控制要求、安全证实方法等方面提出规范指引。 3.法国数据保护机构（CNIL）发布了关于AI系统发展的建议发布日期：2024年4月8日 来源：法国数据保护机构官网链接： https://www.cnil.fr/fr/les-fiches-pratiques-ia 摘要： 2024年4月8日，法国数据保护机构（CNIL）发布了关于AI系统发展的建议。CNIL强调了2023年5月发布的AI行动计划中提出的建议。 具体而言，建议提供了《通用数据保护条例》（GDPR）和AI之间的法律和技术解释。包括：确定适用的法律制度；定义处理目的；AI系统提供商的合法资格（例如控制者、处理者）；处理的法律依据；进行测试和验证；影响评估；系统设计中的数据保护和数据收集和管理中的数据保护。例如，关于GDPR下AI系统提供商的法律资格，CNIL的建议详细说明了由谁决定“为什么”和“如何”使用个人数据对于确定AI系统提供商是否为控制者至关重要。在实践中，基于预先训练的数据开发AI系统，但使用自己的数据进行微调或调整的供应商可以被视为数据控制者。 4.肯尼亚标准局（KEBS）公布《信息技术-AI-AI应用实践准则》草案发布日期：2024年4月8日 来源：肯尼亚标准局官网链接： https://www.dataguidance.com/sites/default/files/kebs-tc_094_n66_public_review_kenya_standard_dks_3007_ai_code_of_practice.pdf 摘要： 2024年4月8日，肯尼亚标准局（KEBS）公布了《信息技术-AI-AI应用实践准则》(Informationtechnology—ArtificialIntelligence—CodeofPracticeforAIApplications)草案（以下简称“《准则（草案）》”），以供公众咨询。准则提供了一系列建议，旨在帮助组织负责任地开发、提供或使用AI系统，以实现其目标。 《准则（草案）》概述了：（1）通过透明度、可解释性和可控性建立对AI系统的信任的方法；（2）AI系统的陷阱和通常相关的威胁和风险，以及可能的缓解技术和方法；（3）评估和实现AI系统的可用性、弹性、可靠性、准确性、安全性和隐私性的方法。 《准则（草案）》讨论了AI系统生命周期各个阶段中各个AI利益相关者所扮演的角色及其相应的责任。建议参与利用AI系统设计、开发、测试和部署产品或服务的组织应该：（1）指定AI应用程序的特征，并披露模型创建中使用的数据，包括数据源、数据提供者以及涉及的任何合作伙伴；（2）通过既定的风险管理体系评估和管理AI系统的风险；（3）指定AI系统生命周期的各个阶段，其中审查模型构建、应用和更新。 《准则（草案）》强调了AI应用提供商（即提供使用AI系统的产品或服务的组织或实体）的责任，具体包括：（1）管理AI应用程序的运营分析并确保对其进行持续监控；（2）监督AI应用程序的构建、应用和更新方式，包括AI模 型的训练和编程；（3）评估和解决AI应用对其客户、用户和更广泛社区的影响； （4）定义负责任地使用AI应用程序的任何界限，并确保将这些界限纳入法律要求，包括软件许可。 5.美国众议院提出《生成AI版权披露法案》发布日期：2024年4月9日 来源：AdamSchiff个人官网链接： https://schiff.house.gov/news/press-releases/rep-schiff-introduces-groundbreaking-bill-to-create-ai-transparency-between-creators-and-companies 摘要： 2024年4月9日，美国众议员AdamSchiff向众议院提出了《生成AI版权披露法案》（GenerativeAlCopyrightDisclosureAct）。法案要求在发布新的生成AI系统之前向版权登记处提交一份通知，通知涉及用于构建或更改该系统训练数据集的所有受版权保护的作品，也将追溯适用于之前发布的生成式AI系统。 法案强调了对用于构建生成式AI系统的人员创建训练数据集或以重大方式更改训练数据集（包括对数据集进行更新、改进或重新训练）的要求，必须提交包含以下内容的通知：训练数据集中使用的任何受版权保护的作品的足够详细的摘要，或用于更改训练数据集的；此类数据集的URL（如果提交通知时训练数据集在互联网上公开可用）。通知必须提交给版权登记处，登记处还负责创建一个包含上述提交通知的公开在线数据库。 6.德国联邦信息安全办公室（BSI）发布生成人工智能模型指南发布日期：2024年4月10日 来源：德国联邦信息安全办公室官网链接： https://www.bsi.bund.de/SharedDocs/Downloads/EN/BSI/KI/Generative_AI_Models.html 摘要： 2024年4月10日，联邦信息安全办公室（BSI）宣布发布题为“生成式AI模型——行业和当局的机遇和风险”的指南（GenerativeAIModels–OpportunitiesandRisksforIndustryandAuthorities，以下简称“《指南》”）。 《指南》概述了作为生成AI子集的大型语言模型（LLMs）的机遇和风险，旨在提高考虑将大型语言模型（LLMs）纳