植德人工智能月报3月刊

2024年3月 人工智能月刊 （2024.3.1-2024.3.31） 植德律师事务所人工智能与数字经济行业委员会 AIGC研究小组 导读 最新法律与监管动态 1.新加坡发布《关于在人工智能推荐和决策系统中使用个人数据的咨询指南》 2.美国印第安纳州参议院全票通过人工智能和网络安全工作组法案 3.美国华盛顿州州长签署关于建�人工智能工作组的法案 4.欧洲议会批准《人工智能法案》 5.七国集团（G7）发布人工智能使用宣言 6.美国国土安全部公布人工智能路线图 7.联合国大会通过人工智能全球决议草案 8.美国议员向众议院提交《保护消费者免受欺骗性人工智能法案》 9.印度发布《降低安全和隐私风险：企业使用生成式人工智能指南》 10.上海市通信管理局等十一部门联合印发《上海市智能算力基础设施高质量发展“算力浦江”智算行动实施方案（2024-2025年）》 11.广东省通信管理局等九部门联合印发《广东省算力基础设施高质量发展行动暨“粤算”行动计划（2024-2025年）》 12.英国《人工智能（监管）法案》在上议院二读审议通过 13.国家市场监管总局等18部门联合印发《贯彻实施〈国家标准化发展纲要〉行动计划（2024—2025年）》 14.美国管理和预算办公室（OMB）发布关于减轻人工智能风险的行政部门和机构负责人备忘录 15.英伟达因擅用版权作品而遭起诉 最新行业动态 1.月之暗面大模型Kimi宣布支持200万字无损上下文后5次扩容 2.微软推首批Surface系列AIPC，首度为英特尔平台引入5G 3.NVIDIAGTC大会正式开启新算力时代 4.SeekingAI携手哈佛、斯坦福、北大等知名学府推出WorldGPT 5.拜登授予英特尔200亿美元以促进美国芯片制造 6.Apple团队公布首个多模式AI模型MM1研究 7.马斯克履约开源Grok 8.Figure发布全新OpenAI大模型加持的机器人demo 9.谷歌DeepMind推出面向3D环境的通用AI代理SIMA 10.CognitionAI发布全球首个AI软件工程师项目Devin 11.紫光云发布紫鸾5.0云平台，为政企客户提供MaaS及全栈云服务 12.Anthropic官宣Claude3大模型 13.抖音发布关于不当利用AI生成虚拟人物的治理公告 14.Databricks开源1320亿参数的混合专家模型DBRX 15.昆仑万维开源数字智能体研发工具包AgentStudio 16.OpenAI公开最新的研究成果VoiceEngine 一、最新法律与监管动态 1.新加坡发布《关于在人工智能推荐和决策系统中使用个人数据的咨询指南》发布日期：2024年3月1日 来源：新加坡个人数据保护委员会官网链接： https://www.pdpc.gov.sg/guidelines-and-consultation/2024/02/advisory-guidelines-on-use-of-personal-data-in-ai-recommendation-and-decision-systems 摘要： 2024年3月1日，新加坡个人数据保护委员会（PDPC）发布了《关于在人工智能推荐和决策系统中使用个人数据的咨询指南》（以下简称为《指南》）。该《指南》旨在帮助使用个人数据的组织（包括AI服务提供商）在遵守《个人数据保护法（PDPA）》的同时，明确如何在AI系统的开发、测试、监控和部署中合理使用个人数据，从而保障消费者对其数据的相关权益。同时还详细阐述了PDPA的法律效力、适用范围，以及在AI系统实施过程中的数据处理、透明度和责任义务，并为服务提供商在支持组织实施AI系统时提供了最佳实践建议。 该《指南》共分为五个部分。第一部分“执行摘要”介绍了PDPA的背景和目的，以及指导方针的目标。第二部分“法律效力和范围”解释了PDPA如何适用于组织收集和使用个人数据来设计和/或部署AI系统，以及这些指导方针的适用范围。第三部分“在AI系统开发、测试和监控中使用个人数据”讨论了商业改进例外和研究例外的适用条件，以及在使用个人数据时的数据保护考虑因素。第四部分“在AI系统中收集和使用个人数据”描述了PDPA如何适用于AI系统中个人数据的收集和使用，以及组织在部署AI系统时的同意和通知义务。第五部分“服务提供商如何支持组织实施AI系统的最佳实践”提供了服务提供商在为组织提供定制AI解决方案时应遵循的最佳实践，包括在开发过程中处理个人数据的义务和支持组织履行PDPA义务的方法。 此外，该《指南》还强调了透明度的重要性，并鼓励组织在数据收集时提供相关信息，以便取得消费者的同意。同时，其建议组织在书面政策中包含关于确保AI系统值得信赖的保障措施和实践。此外，其还提到了个人数据保护委员会 （PDPC）和信息通信媒体发展管理局（IMDA）提供的额外资源，如数据保护影响评估和AI验证工具，以促进值得信赖的AI部署。 2.美国印第安纳州参议院全票通过人工智能和网络安全工作组法案发布日期：2024年3月4日 来源：美国印第安纳州议会官网链接： https://iga.in.gov/legislative/2024/bills/senate/150/details 摘要： 2024年3月4日，美国印第安纳州众议院通过了参议院第150号法案，该法案规定在印第安纳州法典中增加关于人工智能工作组的专章，该专章的有效期为2027年12月31日。该章规定，在州议会下设�一个由15名成员组成的临时工作组，其任务是研究该州各部门使用人工智能及其他州对于政府使用人工智能的建议，评估该州有关部门使用人工智能技术对该部门的影响以及对该州居民在宪法与法律权利、隐私、劳动、经济福利等方面的影响，并提出建议，于每年10月 31日前向议会就上述内容提交报告。 3.美国华盛顿州州长签署关于建�人工智能工作组的法案发布日期：2024年3月5日 来源：美国华盛顿州�法网站链接： https://app.leg.wa.gov/billsummary?BillNumber=5838&Year=2023&Initiative=false 摘要： 2024年3月18日，关于建�人工智能工作组的参议院第5838号法案由华盛顿州长签署并生效。该法案规定成�一个工作组来评估当前人工智能（AI）系统的使用和趋势，并向�法机关提出有关使用指南和潜在�法的建议，最终报告和建议将于2026年7月1日提交给州长和�法机构。报告关注的领域包括对公共政策问题和现有保护措施的审查，识别高风险用途、种族平等和公民自由问题，关于支持创新的指导原则、监管结构和机会的建议等。该法案还规定了工作组下设执行委员会及其19名成员产生方式，并规定执行委员会可基于工作组的研究领域设�附属委员会，附属委员会成员人选由执行委员会与州总检察长共同确定。 此外，美国特拉华州、西弗吉尼亚州、俄勒冈州等州政府也在筹备设�人工智能工作组的事宜。 4.欧洲议会批准《人工智能法案》发布日期：2024年3月13日 来源：欧洲议会官网链接： https://www.europarl.europa.eu/news/en/press-room/20240308IPR19015/artificial-intelligence-act-meps-adopt-landmark-law 摘要： 2024年3月13日，欧洲议会正式投票通过并批准欧盟《人工智能法案》 （以下简称为“法案”），法案共计13章113条。在通过最终检查并获得欧洲理 事会的认可后，该法案预计将于2024年5月�法会结束时正式颁布。法案的目标是保护基本权利、民主、法治和环境可持续性免受高风险人工智能的影响，同时促进创新并让欧洲成人工智能领域的领导者。 法案将分阶段实施。第一阶段生效的条款将禁止人工智能的某些应用（例如，利用自然人生理性弱点的人工智能系统、从互联网或闭路电视录像中无针对性地抓取面部图像）：这些条款将从该法律颁布六个月后起适用，这可能意味着这些条款将在今年年底之前生效。第二阶段适用的规定将是与通用人工智能相关的规定：这些规定将在法案生效一年后开始适用。大多数针对高风险人工智能系统和具有特定透明度风险的人工智能系统将在法案颁布两年后开始适用。 法案根据人工智能系统的潜在风险将人工智能系统分为不可接受风险、高风险、有限风险、最小风险四类，并根据不同等级的人工智能系统的影响程度对人工智能系统及人工智能提供者、部署者、进口和分销者施加不同的义务。 法案中大篇幅介绍了高风险人工智能系统的义务，高风险人工智能用途包括关键基础设施、教育和职业培训、就业、基本私人和公共服务（例如医疗保健、银行业）、执法、移民和边境管理、司法和民主进程中的某些系统（例如影响选举）。根据法案的规定，此类系统必须评估和降低风险、维护使用日志、透明且准确，并确保人工监督。公民将有权提交有关人工智能系统的投诉，并有权获得有关影响其权利的高风险人工智能系统决策的解释。 此外，法案中对通用人工智能（GPAI）系统进行了定义，并规定GPAI系统及其所基于的GPAI模型必须满足某些透明度要求，包括遵守欧盟版权法和发布用于培训的内容的详细摘要。可能带来系统性风险的GPAI模型将面临额外的要求，包括执行模型评估、评估和减轻系统性风险以及报告事件。人造或操纵的图像、音频或视频内容（“深度伪造品”）还需要明确标记。 植德短评 法案自2021年4月21日提出，经过欧州议会、欧盟理事会等机构多轮审 议修改后，终稿于2024年3月13日正式通过欧洲议会的审议，待2024年4月 29日通过欧盟理事会审议并发布在《欧洲联盟公报》进行公布起20日后将正式生效。这也将是世界上第一部生效的人工智能法。 法案系统的规定了人工智能模型/系统的要求、人工智能系统经营者的义务、人工智能系统监管机构的职责以及各方违反相关规定的惩罚措施。法案为企业设定了最高3500万欧元或企业上一财政年度全球年营业总额的7%的行政罚款（择高者适用）。因此，人工智能企业的内部合规尤为重要。 在人工智能训练数据方面，企业需要保证其训练数据的合法性，除使用开源数据外，其他数据的使用均需要获得相关的授权。此外，在使用相关数据进行人工智能训练时，还要考虑数据的使用是否符合《欧盟通用数据保护条例》 （GDPR）的要求。 为全面履行法案项下经营者的义务，企业需要首先确认其开发/部署/进口/分销的人工智能被划分为哪一级别的人工智能系统，并根据法案规定的不同义务完成相关的合规要求；其次，不同的经营者的义务因为有所不同，企业需要根据其经营者的类型履行相关义务。 5.七国集团（G7）发布人工智能使用宣言发布日期：2024年3月15日 来源：英国政府官网链接： https://www.gov.uk/government/publications/g7-ministerial-declaration-deployment -of-ai-and-innovation/g7-ministerial-declaration 摘要： 2024年3月15日，G7在意大利举行会议，会议的议题为：讨论数字创新对经济增长和产业竞争力的影响，以及如何利用数字化转型和人工智能（AI）来推动我们的经济和社会发展包容和可持续的方式。各方还一致同意，将把2023年12月最终达成协议的制定国际规则的框架“广岛AI进程”推广至G7以外。 植德短评 2023年12月1日，G7的数据/技术会议达成了生成式AI的国际规则《广岛AI进程》的最终合意，日本开始落地相关进程要求。这是全球首个支持生成式人工智能的综合性国际规则，其内容明确了从开发者到用户的各方必须遵守的责任。 在该《广岛AI进程》中，最大的特点是将防止虚假信息的扩散义务从开发者、以及服务提供者进一步扩大到AI使用者，使用者主要是企业、大学，也包括个人使用者。此外，还要求用户“提高有关人工智能固有风险的数字素养”并“合作检测人工智能的漏洞并共享信息”。但同