植德人工智能月报1月刊

2024年1月 人工智能月刊 （2024.1.1-2024.1.31） 植德律师事务所数字经济与人工智能行业委员会 AIGC研究小组 导读 最新法律与监管动态 1.美国佛罗里达州向参议院提交人工智能透明度法案 2.美国国会议员提出《联邦人工智能风险管理法案（2023）》 3.美国南达科他州参议院通过法案规制AI生成儿童色情内容 4.美国加利福尼亚州立法者推动在人工智能照片、视频上添加水印的立法 5.美国商务部正式公布《采取额外措施应对与重大恶意网络行为相关的国家紧急状态》提案 6.广东省政务服务数据管理局发布《广东省加快数字政府领域通用人工智能应用工作方案》 7.国家互联网信息办公室发布第三批深度合成服务算法备案信息 8.浙江省人民政府办公厅关于加快人工智能产业发展的指导意见 9.英国信息专员办公室（ICO）启动生成人工智能咨询研究 10.《国家人工智能产业综合标准化体系建设指南》（征求意见稿）公开征求意见 11.福建省工业和信息化厅就《福建省省级人工智能产业发展项目管理办法（征求意见稿）》进行意见征集 12.贵阳市大数据发展管理局就《贵阳贵安关于支持人工智能大模型发展的若干措施（试行）》公开征求意见 13.日本人工智能战略委员会就《人工智能运营商指南（草案）》征求意见 14.成都市经济和信息化局发布《成都市进一步促进人工智能产业高质量发展的若干政策措施》 15.欧盟委员会推出人工智能创新计划以支持人工智能初创企业和中小企业 16.泰勒·斯威夫特（TaylorSwift）和男球员AI照片后续：TaylorSwift的搜索在 X上被屏蔽 17.意大利数据保护机构通报OpenAI违反数据保护法的行为 18.央视新闻专题报道杭州互联网法院“虚拟数字人侵权案” 19.四川查处两起利用AI编造、传播网络谣言案件 20.Meta承认使用盗版书籍来训练AI，但拒绝赔偿作家 最新行业动态 1.小冰公司宣布获得“小冰大模型”国内备案 2.松鼠Ai发布全球首个全学科智适应教育大模型 3.大众汽车宣布将ChatGPT批量集成在多种汽车中 4.英伟达（NVIDIA）首次推出生成式AI模型，并宣布与中国游戏企业展开合作 5.OpenAI正式发布自定义GPT商店 6.Steam发布AI新规 7.OpenAI更新的《用户政策》中删除禁止其技术被用于军事用途的条款 8.英国政府公布图灵人工智能研究项目资助清单 9.OpenAI公布2024选举虚假信息打击计划 10.StabilityAI发布全新代码模型StableCode3B 11.韩国Kakao宣布开发多模态大语言模型“蜜蜂” 12.日本作家RieKudan使用ChatGPT辅助创作的小说《东京共鸣塔》 （“Tokyo-toDojo-to”）荣获日本极具声望的芥川奖 13.美国国家科学基金会（NSF）启动国家人工智能研究资源试点（NationalAIResearchResource，NAIRR）项目 14.夸克上线大模型新产品“AIPPT” 15.浙江省文化艺术作品权益保护协会就《AIGC登记服务规范》（征求意见稿）团体标准征求意见 一、最新法律与监管动态 1.美国佛罗里达州向参议院提交人工智能透明度法案发布日期：2024年1月7日 来源：美国佛罗里达州参议院官网链接： https://www.flsenate.gov/Session/Bill/2024/1459/?Tab=BillHistory 摘要： 2024年1月7日，美国佛罗里达州关于人工智能透明度相关法案的众议院第 1459号法案已向参议院提交，并于2024年1月13日提交给商务委员会、拨款委员会和司法委员会，目前已提交拨款委员会审议。 该法案的主要规定 该法案将要求生产或使用人工智能（AI）并向佛罗里达州公众提供此类人工智能内容的营利性实体或个人制定安全和透明度标准，以便在内容是由人工智能并使人工智能生成的图像或视频可以被其他人工智能技术识别。 特别是，当一个人通过人工智能与实体进行交流或互动时，以及如果政治广告使用人工智能生成的图像、肖像或内容来描绘实际上并未发生的事情，实体必须向消费者提供清晰、显着的声明或说。 该法案还将对人工智能的使用提出限制，包括： 1）未经自然人同意，实体或个人不得在向公众分发或可供公众查看的任何人工智能软件、硬件、输出或内容中描绘自然人的图像或肖像；和 2）如果使用未成年人的图像或信息、使用可识别的未成年人的生物特征信息、或者由必须注册为性掠夺者的人创建淫秽材料，则不得使用人工智能创建淫秽材料。 如果图像或肖像用于人工智能训练目的，只要图像或肖像不分发给公众或公众可见，则上述限制不适用。 顾问委员会 该法案将设立政府技术现代化委员会，除其他外负责： 1）研究和监测人工智能系统的开发和部署，并向州长和立法机关提供有关此类系统的报告； 2）评估必要的立法改革并为州政府制定人工智能系统道德准则提供指导； 3）评估自动决策系统对佛罗里达州居民的宪法和其他法律权利、义务和特权的影响； 4）研究佛罗里达州、居民和企业因实施自动化决策系统可能带来的潜在利益、 责任和风险；和 5）建议采取立法和行政行动来促进佛罗里达州数据现代化的发展。民事处罚 每次违规行为将受到最高50,000美元的民事处罚。 2.美国国会议员提出《联邦人工智能风险管理法案（2023）》发布日期：2024年1月10日 来源：美国国会议员DonBeyer的官网链接： https://beyer.house.gov/news/documentsingle.aspx?DocumentID=6066 摘要： 2024年1月10日，美国国会议员TedW.Lieu、ZachNunn、DonBeyer和MarcusMolinaro提出《联邦人工智能风险管理法案（2023）》（FederalArtificialIntelligenceRiskManagementActof2023），要求联邦机构使用美国国家标准与技术研究所开发的人工智能风险管理框架规范人工智能的使用。特别是，该法案要求管理和预算办公室（OMB）发布指南，要求各机构将美国国家标准与技术研究院（NIST）人工智能风险管理框架（AIRMF）纳入其人工智能（AI）风险管理工作。同样，该法案还要求OMB制定一项劳动力计划，使各机构能够获得多样化的专业知识。 该法案还规定，联邦采购监管委员会（FederalAcquisitionRegulatoryCouncil）必须颁布规定来（1）明确获取人工智能产品、服务、工具和系统的要求，包括基于风险的遵守框架；（2）招标条款和合同条款，其中包括对第（1）款所述要求和人工智能采购框架的提及。 该法案指出，美国国家技术标准委员会（NIST）必须与行政主管部门协商，为各联邦机构发布指导意见，将该框架纳入该相应机构的人工智能风险管理工作，该机构应（A）提供与该框架一致的标准、实践和工具，以及它们如何利用该框架来降低人工智能开发、采购和使用过程中机构实施对人类和地球的风险；（B）指定适当的网络安全战略和安装有效的网络安全工具，以提高人工智能系统的安全性；（C）针对可能危及人类和世界的风险量身定制，提供合OMB框架和A–119号通知的技术标准。 3.美国南达科他州参议院通过法案规制AI生成儿童色情内容发布日期：2024年1月23日 来源：美国南达科他州立法研究委员会官网 链接： https://sdlegislature.gov/Session/Bill/24991 摘要： 2024年1月23日，南达科他州参议院司法委员会一致通过了一项法案，修改儿童色情犯罪的程度，并将人工智能生成的儿童色情制品定为刑事犯罪。 据南达科他州总检察长办公室称，参议院第79号法案将澄清持有、传播和制造儿童色情制品犯罪的部分内容。 SB79中的内容将修改现行儿童色情法律的某些定义，并将拥有、制造或传播儿童色情内容定为刑事犯罪，其中包括人工智能生成的图像和视频。 其中包括真实儿童的“深度伪造”图像或视频，这些图像或视频被操纵，使其看起来像是一个从事禁止性行为的儿童，以及人工智能生成的图像，这些图像不描绘任何真实的人，但被创建为看起来像一个孩子从事禁止的性行为。 2024年1月29日，该法案已在参议院全体会议进行一读。 4.美国加利福尼亚州立法者推动在人工智能照片、视频上添加水印的立法发布日期：2024年1月26日 来源：彭博社官网链接： https://news.bloomberglaw.com/artificial-intelligence/california-lawmakers-push-for -watermarks-on-ai-made-photo-video 摘要： 2024年1月，加州立法者正在制定多项计划，要求对人工智能创建的内容添加水印，以遏制新兴技术中的滥用行为，该技术影响了从政治竞选到股票市场等各个领域。 至少有五名立法者已经承诺或正在考虑不同的提案，要求人工智能公司对视频、照片或书面作品是由该技术制作的进行某种类型的验证。这项活动正值先进人工智能迅速发展，以前所未有的水平创造逼真的图像或音频。 议员AkilahWeber（民主党）是最早提出这个问题的人之一，她在2023年12月的新闻稿中表示，她希望为人工智能生成的内容制定行业标准。该参考可以指C2PA标准，该标准被诸如微软公司。和奥多比公司，它将出处信息（数字内容的制作和更改过程）绑定到媒体的整个编辑过程中。她的办公室表示无法确认该法案的任何细节，该法案仍在审议中。 州参议员JoshBecker（民主党）一直在起草一项法案，并于2024年1月17日提交了法案的初稿。要求ChatGPT或图像生成器DALL-E等大型人工智能提供商对其模型创建的图像、视频和音频添加水印。他的提议比水印更进一步，要求 公司提供一个平台，任何人都可以验证一段内容是否是由他们的人工智能模型创建的。 与JoshBecker合作制定该措施的隐私倡导者TomKemp表示，公共验证平台的目标是适应水印可以伪造或删除的事实。该平台还可以验证书面文本是否是人工智能生成的，因为文本很难加水印。最终，它将有助于证明人造作品确实是人造的。 利伯特表示，他的组织一直在与议员巴菲·威克斯（D）合作提出一项提案，该提案还要求公司嵌入人工智能生成内容的来源数据。该措施将部分模仿欧盟即将出台的《人工智能法案》，该法案将要求给深度伪造品贴上标签并向消费者提供信息披露。欧盟法案还要求设计系统，以便可以以“机器可读格式”轻松检测人工智能生成的媒体。 议员EvanLow（D）承诺对人工智能水印进行立法。议员AvelinoValencia 植德短评 目前全球AIGC监管都在讨论AIGC生成物标识，其中重要的方法就是在生成物中增加水印。中国目前通过算法备案、大模型备案、安全评估等政府监管方式均在强调AIGC生成物的可识别性（水印）、可溯源性 （暗水印），并且落实《网络安全标准实践指南——生成式人工智能服务内容标识方法》，其中明确规定了生成式人工智能标识标注方式方法。 而目前除了中国以外，欧盟、G7等国家也已经在探讨AIGC生成物中增加水印用来避免其用于违法犯罪用途。 欧盟：《人工智能法案》中对AI进行了透明度要求，要求基于基础模型生成的内容进行标注； 新加坡：生成式AI治理框架草案中也要求提供水印和加密来源技术解决方案 澳大利亚：政府也在讨论开发自愿标签和水印。 （D）提交了初步立法（AB1824），要求披露人工智能生成的内容。他们的办公室没有详细说明这些措施的更多信息。 5.美国商务部正式公布《采取额外措施应对与重大恶意网络行为相关的国家紧急状态》提案 发布日期：2024年1月29日来源：美国联邦公报网 链接： https://www.federalregister.gov/documents/2024/01/29/2024-01580/taking-addition al-s