植德人工智能月报

2024年10月 人工智能月刊 （2024.10.1-2024.10.31） 植德律师事务所人工智能与数字经济行业委员会 AIGC研究小组 导读 最新法律与监管动态 1.美国AI监管“里程碑”法案被否决 2.马来西亚计划推出国家云政策及AI监管框架 3.G7峰会发布关于AI竞争的公报 4.中共中央办公厅、国务院办公厅发布《关于加快公共数据资源开发利用的意见》 5.新加坡网络安全局发布人工智能系统安全指南 6.美国司法部发布《拟议规则制定通知》 7.道琼斯和《纽约邮报》起诉AI初创公司Perplexity侵权 8.河南省人民政府办公厅发布《河南省推动“人工智能+”行动计划（2024— 2026年）》 9.英国监管机构启动对谷歌与AnthropicAI合作的正式调查 10.美国政府发布首份专注于人工智能的国家安全备忘录 11.Character.AI因全球首例“AI致死案”遭起诉 12.美国决定2025年起限制半导体和AI等对华投资 13.江苏省政府办公厅发布《江苏省公共数据授权运营管理暂行办法》 14.北京互联网法院通报涉个人信息及数据典型案例，涉及AI换脸案例 最新行业动态 1.2024诺贝尔物理学奖“花落”人工智能领域 2.红杉资本发布2024年AI年度报告 3.阿里国际翻译大模型Marco正式发布 4.星动纪元完成近3亿元Pre-A轮融资 5.微软与OpenAI洽谈140亿美元股权投资 6.AIAgent平台Interface获3000万美元融资 7.腾讯发布智能工作台ima 8.科大讯飞发布讯飞星火4.0Turbo 9.IDC发布《中国模型即服务（MaaS）及AI大模型解决方案市场追踪， 2024H1》报告 10.中科天塔发布航天私域大模型“华山” 11.智谱推出自主智能体AutoGLM 12.甲骨文推出下一代EHR系统 13.视旅科技完成A轮亿元融资，打造AI驱动的新一代旅游平台 14.图像AI初创公司Recraft发布最新文本生成图像模型Recraftv3 15.OpenAI正式发布ChatGPT网络搜索功能 一、最新法律与监管动态 1.美国AI监管“里程碑”法案被否决发布日期：2024年9月30日 来源：财联社 链接：https://www.cls.cn/detail/1813890 摘要： 当地时间9月29日，美国加利福尼亚州州长纽森（GavinNewsom）在最后 关头否决了“SB1047法案”（全称“前沿人工智能模型安全创新法案”）。纽森在否决声明中表示：“尽管SB1047法案的初衷是好的，但它并未考虑人工智能系统是否部署在高风险环境中，是否涉及关键决策或敏感数据的使用。相反，该法案对最基本的功能都采用了严格的标准——只要大型系统部署了它。我不认为这是保护公众免受技术带来的真正威胁的最佳方法。” 植德短评 SB1047法案旨在为训练成本超过1亿美元或者达到一定算力的开发者制定安全标准，确保人工智能大模型的安全开发。该法案要求大型前沿人工智能模型的开发者采取预防措施，例如部署前测试、模拟黑客攻击、安装网络安全保障，以及为举报人提供保护等。虽然该法案旨在确保人工智能大模型的安全开发，对预防技术滥用、保障公众安全具有重要意义，但其可能对创新和科技发展产生的负面影响也不容忽视。纽森的否决可能基于他对法案可能阻碍加州在人工智能创新方面领导地位的担忧，以及对更精细、针对性政策的需求。这一决定无疑将在科技界和政策制定者中引发广泛讨论，也为未来如何平衡AI技术的创新与安全性提供了新的思考方向。 该法案是首批要求AI开发人员对其技术造成的任何严重损害负责的法案之一，此前被认为是美国最全面的AI安全管理政策之一，被誉为美国人工智能（AI）监管的“里程碑”。法案于今年2月被提交给加州议会，引起很大争议。8月19日，加州立法机构公布了法案修订版。 2.马来西亚计划推出国家云政策及AI监管框架 发布日期：2024年10月1日来源：马来西亚国家新闻社官网 链接：https://www.bernama.com/en/business/news.php?id=2346539 摘要： 10月1日，马来西亚总理安瓦尔-易卜拉欣（AnwarIbrahim）表示，马来西亚计划制定了一项国家云政策，并出台相关法规，鼓励以合乎道德的方式使用人工智能（AI）。这一消息是在过去一年全球科技公司在马来西亚掀起投资热潮之际宣布的，这些公司正寻求建立关键的基础设施，以满足对其云和人工智能服务日益增长的需求。安瓦尔表示，马来西亚的国家云政策将侧重于四个核心领域，即公共服务创新和效率、经济竞争力和增长、加强用户信任和数据安全，以及通过数字包容性赋予公民权利。此外，政府还将成立一个国家人工智能办公室来协调各项举措，包括在未来12个月内完成一项五年技术行动计划以及一个监管框架，以提高道德和可持续人工智能的采用率。 3.G7峰会发布关于AI竞争的公报发布日期：2024年10月4日 来源：美国联邦贸易委员会官网 链接：https://www.ftc.gov/news-events/news/press-releases/2024/10/federal-trade-commission-justice-department-participate-summit-g7-enforcement-partners-artificial 摘要： 2024年10月3日至4日，七国集团（G7）竞争监管机构和政策制定者的代表在罗马召开峰会，旨在推动G7成员国之间的协作，确保人工智能（AI）技术的健康发展和应用，同时维护开放、公平和可竞争的市场环境。此次峰会的计划是2024年3月14日—15日的G7工业、技术和数字部长会议达成的，由七国集团轮值主席国意大利的竞争监管机构意大利竞争管理局（AutoritàGarantedellaConcorrenzaedelMercato）主办，延续2023年东京G7竞争峰会的讨论，讨论由AI技术——特别是生成式人工智能基础模型和算法的快速和广泛发展引发的竞争问题。峰会结束时，美国联邦贸易委员会主席LinaM.Khan以及其他七国集团竞争管理机构代表和政府政策制定者发布了《数字竞争公报》（以下简称公报），强调了人工智能相关市场中潜在的竞争问题，并确定了确保人工智能市场公平竞争的指导原则。 植德短评 公报强调了竞争管理机构和政策制定者在应对竞争威胁方面的重要作用，努力确保数字市场和人工智能的公开和公平竞争，并寻求确保人工智能的好处得到充分实现并在整个社会广泛普及。G7竞争监管机构和政策制定者将持续促进在数字竞争方面的合作与协调，分享与新政策方法、现有和新兴技术、新法律和修订法律、监管工具以及数字市场执法进展相关的知识和经验。G7竞争监管机构和政策制定者将于2025年在加拿大继续进行讨论。 4.中共中央办公厅、国务院办公厅发布《关于加快公共数据资源开发利用的意见》 发布日期：2024年10月9日来源：中国政府网官网 链接：https://www.gov.cn/zhengce/202410/content_6978910.htm 摘要： 《中共中央办公厅国务院办公厅关于加快公共数据资源开发利用的意见》指出，公共数据是国家重要的基础性战略资源，要以促进公共数据合规高效流通使用为主线，提高资源开发利用水平。意见强调政府指导与市场驱动相结合，推动公共数据共享和开放，鼓励探索数据授权运营，健全资源管理制度，完善运营监督。同时，要建立健全价格形成机制，丰富数据应用场景，加强数据服务能力建设，繁荣数据产业发展生态，加大创新激励，并强化安全管理。目标是到2025年 初步建立公共数据资源开发利用制度规则，到2030年资源开发利用体系全面建成，数据流通使用合规高效，充分发挥公共数据在赋能实体经济、扩大消费需求、拓展投资空间、提升治理能力中的要素作用。 5.新加坡网络安全局发布人工智能系统安全指南发布日期：2024年10月15日 来源：新加坡网络安全局官网 链接：https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai 摘要： 为加强人工智能系统安全治理，新加坡网络安全局（CSA）于2024年10月15日发布《AI系统安全指南》及其配套指南《AI系统安全配套指南》。这两个指南旨在帮助系统所有者在AI整个生命周期内保护系统安全，应对供应链攻击等传统网络安全风险和对抗性机器学习等新型风险。指南汇集了工业界和学术界的实用措施、安全控制和最佳实践，引用了MITREATLAS数据库和OWASP机器学习和生成式AI的十大资源。这是继新加坡今年5月发布《生成式人工智能的治理框架》、9月发布《关于法院用户使用生成式人工智能工具指南》后，在AI安全治理领域的又一重要举措。 6.美国司法部发布《拟议规则制定通知》发布日期：2024年10月21日 来源：美国司法部官网 链接：https://www.justice.gov/opa/pr/justice-department-issues-comprehensive-proposed-rule-addressing-national-security-risks 摘要： 10月21日，美国司法部发布了一份重要的《拟议规则制定通知》 （NPRM），旨在落实美国总统拜登今年2月28日签署的第14117号行政令《防 止受关注国家访问大量个人敏感数据和美国政府相关数据》（以下简称第14117号行政令），进一步限制俄罗斯、伊朗、中国等六个相关国家获取或访问美国敏感数据。今年2月28日，拜登总统根据《国际紧急经济权力法》签署了第14117号行政命令，旨在限制包括中国在内的相关国家获取美国敏感数据，防范相关国家安全风险。3月5日，根据拜登总统指示，司法部发布了《拟议规则制定预通知》（ANPRM）。在广泛征求利益相关方的意见并仔细考虑公众的意见后，司法部正式发布了NPRM，标志着美国政府对数据跨境传输政策的重大调整。 植德短评 美国司法部正式发布NPRM，标志着美国政府对数据跨境传输政策的重大调整。NPRM重点保护“美国大量敏感个人数据”和“美国政府相关数据”，明确了受管辖的国家、个人和实体，规定了交易类别、许可程序及合规义务等内容。这对中国企业，尤其是从事跨境数据业务的企业，产生深远影响。中国 （包括港澳）被列为“受关注国家”，与中国相关的数据交易将受到更严格的审查与限制。涉及敏感数据和美国政府相关数据的交易可能被禁止或严格控制，这将影响中国企业在美的数据业务。同时涉及大量敏感数据的中国投资和并购可能面临更多障碍。在更广泛层面上，此规定或将加剧中美科技与数据领域的脱钩，影响数字经济合作。 7.道琼斯和《纽约邮报》起诉AI初创公司Perplexity侵权 发布日期：2024年10月22日来源：澎湃新闻官网 链接：https://www.thepaper.cn/newsDetail_forward_29109736 摘要： 当地时间10月21日，新闻集团（Nasdaq：NWS）旗下的道琼斯和《纽约邮报》在美国纽约南区联邦地区法院对Perplexity提出侵权诉讼，指控后者使用受版权保护的新闻内容训练AI大模型，并利用这些新闻内容生成对用户提问的回复，从而抢走了原本属于这两家出版商网站的流量。 Perplexity由OpenAI前员工AravindSrinivas和另外两人成立于2022年8月，获得了亚马逊创始人杰夫·贝佐斯（JeffBezos）以及AI芯片龙头英伟达的支持。Perplexity利用AI技术开发生成式搜索引擎，为搜索查询提供直接答案，而不是 提供网站链接列表。据报道，Perplexity已经开始年内第四轮融资谈判，计划筹集约5亿美元。公司希望将其估值提高一倍以上，超过80亿美元。就在几个月前，Perplexity刚刚完成了一轮2.5亿美元的融资，投资者还包括软银的愿景基金 （VisionFund2）