植德人工智能月报

2024年9月 人工智能月刊 （2024.9.1-2024.9.30） 植德律师事务所人工智能与数字经济行业委员会 AIGC研究小组 导读 最新法律与监管动态 1.国务院发布《网络数据安全管理条例》 2.AI伪造声音谣言犯罪第一案诞生，警方通报三只羊卢某某录音事件 3.美国参议员提交《2024年人工智能民权法案》 4.新加坡最高法院发布《法院用户使用生成式人工智能工具指南》 5.美国国务院发布《全球人工智能研究议程》（GAIRA）和《人工智能在全球发展中的作用》（Playbook） 6.联合国宣布通过《全球数字契约》 7.小国论坛（FOSS）宣布出版《小国人工智能手册》 8.比利时数据保护局（BelgianDPA）发布人工智能和数据保护指南 9.俄罗斯国家人工智能发展中心宣布423个组织签署《人工智能领域国家道德准则》 10.加州州长GavinNewsom最新签署的五项人工智能相关法案，严厉打击深度伪造（Deepfake）和影视行业人工智能克隆行为 11.国家互联网信息办公室发布《人工智能生成合成内容标识办法（征求意见稿）》 12.爱尔兰数据保护机构对谷歌人工智能合规性展开调查 13.欧盟人工智能委员会举行首次会议启动《人工智能法案》实施等工作 14.英国上议院提出《公共机构算法和自动决策系统法案》 15.全国网络安全标准化技术委员会发布《人工智能安全治理框架》1.0版 16.欧盟委员会宣布《人工智能与人权、民主和法治框架公约》开放签署 17.澳大利亚新南威尔士州信息和隐私委员会发布《人工智能系统和项目隐私影响评估指南》 18.经济合作与发展组织发布关于金融领域人工智能的政策文件 19.澳大利亚工业、科学和资源部发布人工智能自愿安全标准 最新行业动态 1.Cloudflare将推出数据市场，向人工智能大模型提供有偿服务 2.OpenAI向白宫推介前所未有的数据中心建设 3.英伟达的Earth-2交易标志着阿联酋与美国人工智能合作的里程碑 4.微软与ConstellationEnergy签订20年合作协议，重启宾夕法尼亚州的三哩岛核电站 5.阿里云Qwen2.5发布，性能超越Llama 6.美国国家标准与技术研究院（NIST）宣布启动解决人工智能的网络安全和隐私风险的计划 7.联合国人工智能高级咨询机构发布《为人类治理人工智能》报告 8.微软和贝莱德将推出300亿美元人工智能基础设施基金 9.OpenAI发布o1大模型，强化学习突破LLM推理极限 10.英国数据保护机构（ICO）对Meta恢复用户数据训练人工智能发表声明 11.顺丰发布物流行业大语言模型“丰语” 12.微软用AIAgent生成2500万对高质量数据，极大提升大模型性能 13.X公司同意永久停止使用欧洲经济区用户个人数据进行人工智能模型训练 一、最新法律与监管动态 1.国务院发布《网络数据安全管理条例》发布日期：2024年9月30日 来源：中华人民共和国中央人民政府官网链接： https://www.gov.cn/zhengce/zhengceku/202409/content_6977767.htm https://www.gov.cn/yaowen/liebiao/202409/content_6977785.htm 摘要： 2024年9月30日，国务院总理李强日前签署国务院令，公布《网络数据安全 管理条例》（以下简称“《条例》”），《条例》自2025年1月1日起施行。 《条例》旨在规范网络数据处理活动，保障网络数据安全，促进网络数据依法合理有效利用，保护个人、组织的合法权益，维护国家安全和公共利益。《条例》共9章64条，主要规定了以下内容：提出网络数据安全管理总体要求和一般规定、细化个人信息保护规定、完善重要数据安全制度、优化网络数据跨境安全管理规定、明确网络平台服务提供者义务。 植德短评 《条例》第十九条规定“提供生成式人工智能服务的网络数据处理者应当加强对训练数据和训练数据处理活动的安全管理，采取有效措施防范和处置网络数据安全风险。”其从数据安全管理视角对训练数据及其处理活动进行了规范。此外，《条例》还就自动化采集技术、自动化决策方式等进行了进一步规范，明确对于个人信息保护以及用户体验的相关规范。 2.AI伪造声音谣言犯罪第一案诞生，警方通报三只羊卢某某录音事件 发布日期：2024年9月26日 来源：Bloomberg官网 链接： https://www.bloomberg.com/news/articles/2024-08-02/meta-is-offering-hollywood-stars-millions-for-ai-voice-projects 摘要： 2024年9月26日，安徽省合肥市公安局高新分局通报“三只羊卢某某录音事 件”称，经侦查，网络流传音视频系人工智能工具训练生成，犯罪嫌疑人王某某 （男，25岁）已被依法采取刑事强制措施。通报内容如下： 9月20日，合肥市公安局高新分局接三只羊公司报警称，网上传播涉卢某某的音视频不实，严重侵害其合法权益。合肥市公安局高新分局立案开展调查，现将有关情况通报如下：在市局刑警支队指导下，经过侦查，9月22日晚，合肥市公安局高新分局将犯罪嫌疑人王某某（男，25岁）抓获，并在其电脑、手机和制作人工智能音频的网站中发现伪造相关音视频的证据；结合其供述、调查取证，并经部、省专业机构检验鉴定，认定报案所涉网络流传音视频系伪造。 植德短评 “Reecho睿声”官网显示，平台的语音大模型已预先经过海量中文音频的训练，训练的内容涵盖多种类型，但最多的是有声读物与常规对话音频。如果用户提供的克隆音频样本以及目标文本是此类内容，在生成语音时通常会取得较好的效果。“Reecho睿声”所属的言域科技也表明其已经采取了风控合规措施：首先是严格要求用户用国内手机号进行实名认证，甚至结合人脸认证，确保是本人在使用该账号；其次，公司也引入敏感词监测和预警系统，如果用户输入一些涉黄、涉暴、涉政的敏感词，后台系统可以预警和拦截；另外，平台为生成的音频添加了隐形可溯源的“数字水印”，可以直接追踪到生成者的具体身份。 该事件表明随着人工智能的发展，加强人工智能内容标识、控制人工智能及深度伪造带来的风险，成为监管部门当前的治理重点方向之一。9月14日，国家网信办发布《人工智能生成合成内容标识办法（征求意见稿）》旨在细化网络平台和用户的人工智能内容标识义务，避免公众混淆误解。具体到音频， 《标识办法》拟要求在音频的起始、末尾或中间适当位置添加语音提示或音频节奏提示等显式标识。但是实践中显式标识非常容易被篡改，如果直接铺满整个音频，又会影响到生成音频的可用性。所以，实践中更多依靠隐式标识来防范，将一些隐藏的身份信息通过技术手段穿插到整个音频的频谱，能抵抗加速、减速、剪切等音频编辑操作。 现已查明，9月16日，王某某利用从互联网下载的音视频资料，杜撰卢某某酒后言论脚本，先使用人工智能工具训练生成假冒卢某某的音频（其中出现的女声也系人工智能工具训练生成），后用“Reecho睿声”软件合成音视频，并通过网络发布，形成谣言大量传播。目前，王某某已被依法采取刑事强制措施，案件正在进一步侦办中。 3.美国参议员提交《2024年人工智能民权法案》（提案） 发布日期：2024年9月24日 来源：美国参议员EdMarkey个人主页 链接： https://www.markey.senate.gov/news/press-releases/senator-markey-introduces-ai-civil-rights-act-to-eliminate-ai-bias-enact-guardrails-on-use-of-algorithms-in-decisions-impacting-peoples-rights-civil-liberties-livelihoods 摘要： 2024年9月24日，美国参议员EdMarkey宣布向美国参议院提交《2024年人工智能民权法案》（提案）（以下简称“《法案》”）。《法案》针对自动化决策、危害行为、覆盖算法、部署者、开发人员和受保护的特征的定义进行规定，明确开发人员或部署人员在部署、许可或提供覆盖算法之前，包括对过去部署的覆盖算法进行重大更改或在部署之前进行重大更改的，对于后续行动必须进行部署前评估。 此外，《法案》规范了覆盖算法的开发人员和部署人员之间的关系。双方之间需要签订书面合同，其中必须概述具体的数据处理程序，如使用说明、要处理的数据类型、权利和义务，以及禁止超出所覆盖算法预期目的的使用。 《法案》规定了个人的私人诉讼权，并规定了联邦贸易委员会（FTC）和州 总检察长负责执行该法案。 植德短评 人工智能时代需要通过审计、外部评估等外部评估和验证控制人工智能的算法黑箱带来的风险。《法案》要求至少进行六种强制性评估，其中主要形式是第三方审计，并要求在30天内提交给美国联邦贸易委员会。相比同类立法 （如科罗拉多州的人工智能法案），《法案》的适用范围显著扩大，数据权利 更强，透明度义务也得到了加强。 4.新加坡最高法院发布《法院用户使用生成式人工智能工具指南》 发布日期：2024年9月23日来源：新加坡最高法院官网链接： https://www.judiciary.gov.sg/news-and-resources/registrars-circulars/circular-details/registrars-circular-no.-9-2024-state-courts 摘要： 2024年9月23日，新加坡最高法院发布了2024年第9号注册官通告《法院用户使用生成式人工智能工具指南》（以下简称“《指南》”），规定了在诉讼程中使用生成式人工智能工具的一般原则和指南。该《指南》将自2024年10 月1日起适用于新加坡最高法院、州法院（包括小额索赔法庭、就业索赔法庭和 社区纠纷解决法庭）和家事法庭的所有事项。 《指南》规定，法院在司法实践中作为用户不禁止使用生成式人工智能。如果组织选择使用生成式人工智能，他们必须评估生成式人工智能产生的输出是否适合特定的用例，确保法庭文件中使用的任何人工智能生成的输出都是准确的、相关的，并且不侵犯知识产权。《指南》明确指出，生成式人工智能不应用于生成任何在法庭上可依赖的证据，例如创建、捏造、美化、强化或淡化的证据。可以使用生成式人工智能来起草宣誓书或声明，但使用生成式人工智能来伪造或篡改证据是不可接受的。 植德短评 《指南》为法院在司法实践中作为用户使用生成式人工智能提供了明确的指导和规范，确保技术的应用不会违反法律和道德标准。通过规定生成式人工智能不应用于生成可依赖的证据，有助于维护法庭的公正性，防止伪造或篡改证据。 《指南》有助于确保生成式人工智能技术在司法系统中得到合理、负责任和透明地使用，同时保护了法律程序的公正性和完整性。作为领先的司法管辖区之一，新加坡的这一举措可能会对其他国家的司法系统产生示范效应。 5.美国国务院发布《全球人工智能研究议程》（GAIRA）和《人工智能在全球发展中的作用》（Playbook） 发布日期：2024年9月23日 来源：美国国务院官网链接： https://www.state.gov/global-ai-research-agenda/ 摘要： 2024年9月23日，美国国务院发布《全球人工智能研究议程》（GAIRA）和《人工智能在全球发展中的作用》（Playbook）。美国国务院强调，这两份文件是在颁布《关于安全、可靠、值得信赖地开发和使用人工智能的行政命令》之后发布的，这两份文件为其的互补性文件，旨在促进未来在人工智能领域的研究合作，并指导发展共同体推动利用人工智能解决全球发展挑战。 《全球人工智能研究议程》通过三项原则来指导人工智能研究：包容与公平、负责任的研究行为、伙伴关系与合作。这些原则旨在维护自主性和隐私的标准，并细化和确认遵守经济合作与发