植德人工智能月报

2024年12月 人工智能月刊 （2024.12.1-2024.12.31） 植德律师事务所人工智能与数字经济行业委员会 AIGC研究小组 导读 最新法律与监管动态 1.教育部部署加强中小学人工智能教育 2.南昌市网信办依法处置违规从事生成式人工智能服务企业 3.犹他州签署美国第一份人工智能监管协议 4.西班牙要求披露在法律服务相关数字平台中使用人工智能的情况 5.国家信息中心发布《人工智能行业应用建设发展参考架构》 6.广电总局要求规范AI“魔改”短视频 7.巴西通过人工智能法案 8.工信部成立人工智能标准化技术委员会 9.全国网安标委就《生成式人工智能服务安全应急响应指南》公开征求意见 10.深圳发布《深圳市打造人工智能先锋城市的若干措施》的通知 11.上海发布《关于人工智能“模塑申城”的实施方案》 12.韩国国会通过《AI框架法案》 13.《人工智能相关发明专利申请指引（试行）》公布：人工智能不具备发明人主体资格 最新行业动态 1.中国互联网络信息中心发布《生成式人工智能应用发展报告（2024）》 2.Meta计划投资100亿美元新建AI数据中心 3.美国Palantir与Anduril合作将国防数据用于人工智能训练 4.谷歌发布Gemini2.0 5.软银集团宣布未来4年向美国投资1000亿美元，或涉人工智能领域 6.Kimi发布视觉思考大模型k1 7.英伟达发布生成式AI超级电脑 8.AI数据供应商Databricks获得100亿美元天价融资 9.英伟达收购Run:ai获欧盟无条件批准 一、最新法律与监管动态 1.教育部部署加强中小学人工智能教育发布日期：2024年12月2日 来源：中华人民共和国教育部 链接：http://www.moe.gov.cn/jyb_xwfb/gzdt_gzdt/s5987/202412/t20241202_1165500.html 摘要： 为深入贯彻党的二十大及后续全会精神，落实习近平总书记关于教育的重要讲话，培养适应新时代要求的创新型人才，教育部办公厅发布了《关于加强中小学人工智能教育的通知》（教基厅函〔2024〕32号，以下简称“通知”）。 通知强调了人工智能教育的总体要求，包括立德树人、全面发展、激发兴趣和鼓励探索以及统筹谋划和稳步推进等方面，明确2030年前在中小学基本普及AI教育。同时，提出了六大主要任务和举措，包括构建系统化课程体系、实施常态化教学与评价、开发普适化教学资源、建设泛在化教学环境、推动规模化教师供给和组织多样化交流活动。 为了保障这些任务的有效实施，通知还从加强组织领导、经费保障、城乡统筹和加强评价引领四个方面制定了具体的保障措施。整个通知旨在通过推进中小学人工智能教育，培养具有创新潜质的青少年，以满足未来社会发展的需要。 2.南昌市网信办依法处置违规从事生成式人工智能服务企业发布日期：2024年12月2日 来源：南昌市网信办 链接：https://mp.weixin.qq.com/s/tZHtPXBCXAGsNk3jrGGN6Q摘要： 2024年12月2日，在省委网信办的指导下，南昌市网信办依法对属地网站“阿水AI”的运营主体南昌阿水科技有限公司存在内容审核管理不严、主体责任落实不到位等问题进行处置。 经查，该企业运营的“阿水AI”网站违规生成法律法规禁止的信息，未尽内容审核的主体责任，违反了《中华人民共和国网络安全法》《生成式人工智能服务管理暂行办法》等相关法律法规。南昌市网信办依据相关法律法规，对南昌阿水科技有限公司下达了《责令限期改正通知书》，责令立即关停相关服务，并对照相关法律法规要求其开展自查整改，加强信息内容审核，健全信息内容安全管理相关制度。 植德短评 近日，南昌市网信办依法对“阿水AI”的运营主体南昌阿水科技有限公司进行了处置，因其存在内容审核管理不严、主体责任落实不到位等问题，导致该平台违规生成法律法规禁止的信息。这一事件不仅对涉事企业产生了直接影响，也为其他人工智能企业敲响了警钟。 首先，此次事件凸显了人工智能企业在内容审核方面的薄弱环节。阿水AI平台未能有效履行内容审核的主体责任，导致生成了违法信息，违反了《中华人民共和国网络安全法》和《生成式人工智能服务管理暂行办法》等相关法律法规。这反映出部分企业在追求技术发展和业务扩张的过程中，忽视了对生成内容的严格把关，缺乏健全的内容安全审核制度和有效的技术手段来及时发现和处理违规信息。 其次，事件也暴露了相关企业在算法备案和合规性方面的不足。据查，阿水AI平台的AI服务来源于OpenAI的ChatGPT4.0，但在其大模型算法备案公示信息中，并未发现与ChatGPT有关的内容。实际上，在算法备案实践过程中，若涉及GPT服务，根本无法获得网信部门的正式审批。这表明该平台在算法备案方面存在明显的违规行为，未按照相关法律法规的要求进行备案，增加了自身的法律风险。 此次事件的处置结果也给其他人工智能企业敲响了警钟。南昌市网信办依据相关法律法规，对南昌阿水科技有限公司下达了《责令限期改正通知书》，责令立即关停相关服务，并对照相关法律法规开展自查整改，加强信息内容审核，健全信息内容安全管理相关制度。这说明监管部门对于相关企业的违规行为将采取严厉的处罚措施，企业一旦违规，不仅面临业务停摆的风险，还可能遭受更严重的法律制裁，多年的投入和努力可能会因此付诸东流。 因此，相关企业必须从此次事件中吸取教训，切实加强业务合规及内容审核管理。一方面，要建立健全内容安全审核制度，采用先进的技术手段和专业的人才队伍，对生成的内容进行严格把关，确保其合法合规。另一方面，要严格按照相关法律法规的要求进行算法备案，如实披露算法的相关信息，确保企业的运营在法律框架内进行。同时，企业还应加强对员工的法律法规培训，提高全体员工的法律意识和合规意识，形成全员参与、共同维护企业合规的良好氛围。 3.犹他州签署美国第一份人工智能监管协议 发布日期：2024年12月2日来源：犹他州商务部 链接：https://blog.commerce.utah.gov/2024/12/02/news-release-utah-department-of-commerces-office-of-artificial-intelligence-announces-first-regulatory-mitigation-a greement/ 摘要： 当地时间2024年12月2日，犹他州人工智能政策办公室（OAIP）与 ElizaChat签署美国第一份人工智能监管协议。 该协议由犹他州专业许可部于11月18日签署，并由OAIP于12月2日宣布。这项首创性协议使犹他州能够规定像ElizaChat这样的公司如何在该州内使用人工智能。 据悉，ElizaChat是一家应用程序开发公司，其产品旨在帮助青少年改善在校期间的心理健康状况。 该协议要求ElizaChat实施一项严格的内部安全协议，以便将严重情况上报给可信赖的成年人。它还给予公司30天的时间来纠正应用程序意外参与属于“心理健康治疗实践”范畴的对话的情况，而此类对话需要获得州执照才能进行。 4.西班牙要求披露在法律服务相关数字平台中使用人工智能的情况发布日期：2024年12月4日 来源：西班牙国家官方公报 链接：https://www.boe.es/buscar/doc.php?id=BOE-A-2024-23630摘要： 当地时间2024年12月4日，西班牙关于辩护权的第5/2024号组织法正式生效。 该法案根据《西班牙宪法》第24条，对作为基本法律保护措施的辩护权制定了全面规定。它要求披露在法律服务相关数字平台中使用人工智能（AI）的情况，并强制公开AI系统如何提出建议或作出决策的信息。 5.国家信息中心发布《人工智能行业应用建设发展参考架构》发布日期：2024年12月6日 来源：国家信息中心 链接：http://www.sic.gov.cn/sic/83/260/1206/20241206080139597920003_pc.html摘要： 近日，国家信息中心公共技术服务部研究编制的报告《人工智能行业应用建设发展参考架构》（以下简称“报告”）正式对外发布。 报告从算力基础、数据服务、模型服务、应用开发、运维平台、运营平台等六个方面，提出人工智能行业应用建设的共性能力和特性能力。通过构建一套技 术架构统一、数据规范统一、标准体系统一的参考架构，摆脱企业服务模式不同带来的限制，降低供需边际成本，有效发挥规模效应，促进应用创新，激发市场活力，持续推动产业健康高效发展。 报告旨在研究推进行业应用发展标准化的参考架构，期望为各行业主体明确人工智能应用建设发展的重点和目标，降低应用开发和复制的边际成本，促进人工智能技术的创新成果与产业深度融合，为加快推进人工智能行业应用规模化落地提供有益参考。 植德短评 近日，国家信息中心公共技术服务部发布的《人工智能行业应用建设发展参考架构》报告（以下简称“报告”），为人工智能行业的发展提供了重要的指导框架。这份报告不仅为行业应用提供了技术指导，也为相关法律规范的制定和实施提供了有益的参考。 首先，报告强调了技术架构的统一性和标准化。在人工智能行业，技术的碎片化和不兼容性一直是制约行业发展的重要因素。这种技术上的不统一不仅增加了企业的运营成本，也给法律监管带来了挑战。例如，缺乏统一的数据标准和格式，使得数据在不同系统间的流通受到阻碍，进而影响了对数据隐私和安全的法律保护。因此，报告提出的统一技术架构和数据规范，有助于为法律监管提供更为明确的依据，降低监管的复杂性和成本。 其次，报告对数据服务和模型服务的重视，也对法律合规提出了新的要求。在人工智能应用中，数据是核心资源，而模型则是关键工具。报告指出，数据服务和模型服务需要具备高度的安全性和可靠性。这意味着，相关企业在处理数据和开发模型时，必须严格遵守数据保护法律法规，确保数据的合法获取、使用和存储。同时，模型的开发和应用也需要符合公平性、透明性和可解释性等法律要求，防止算法歧视等问题的发生。 此外，报告提出的运维平台和运营平台的建设，也对企业的合规管理提出了更高标准。运维和运营平台是人工智能应用的重要支撑，其稳定性和安全性直接关系到整个系统的合规性。企业需要建立健全的内部合规管理体系，确保在运维和运营过程中，能够及时发现和处理潜在的法律风险。例如，建立有效的监控机制，对系统的运行情况进行实时监控，确保其符合相关法律法规的要求。 综上所述，《人工智能行业应用建设发展参考架构》报告的发布，为人工智能行业的合规发展提供了重要的指导和参考。企业应积极响应报告的建议，加强技术标准化建设，严格遵守数据保护和模型开发的法律要求，建立健全的合规管理体系，以确保在人工智能应用的各个环节中，都能够合法合规地开展业务。这不仅有助于企业自身的可持续发展，也为整个行业的健康有序发展提供了有力保障。 6.广电总局要求规范AI“魔改”短视频 发布日期：2024年12月9日来源：国家广播电视总局 链接：https://www.nrta.gov.cn/art/2024/12/10/art_3731_69779.html摘要： 记者12月9日从国家广播电视总局网络视听节目管理司获悉，广电总局网络视听司日前发布《管理提示（AI魔改）》指出近期AI“魔改”视频以假乱真、“魔改”经典现象频发，要求各相关省局督促辖区内短视频平台排查清理AI“魔改”影视剧的短视频。 管理提示指出，这些AI“魔改”经典包括《甄嬛传》变身“枪战片”，《红楼梦》改成“武打戏”，孙悟空骑着摩托车扬长而去等。管理提示认为，这些视频为博流量，毫无边界亵渎经典IP，冲击传统文化认知，与原著精神内核相悖，且涉嫌构成侵权行为。 植德短评 近日，国家广播电视总局发布《管理提示（AI魔改）》，要求规范AI“魔改”短视频的现象。这一举措引发了广泛关注，其背后蕴含着复杂的法律与社会问题，值得深入分析。