植德人工智能月报5月刊

2023年5月刊 植德人工智能月刊 （自2023年5月1日至2023年5月31日） 导读 最新立法动态 1.北京发布《北京市促进通用人工智能创新发展的若干措施》和《北京市加快建设具有全球影响力的人工智能创新策源地实施方案（2023-2025年）》两份政策文件 2.深圳发布《深圳市加快推动人工智能高质量发展高水平应用行动方案 （2023—2024年）》 3.国家标准《信息安全技术人工智能计算平台安全框架（征求意见稿）》发布 4.欧洲议会两个委员会通过《人工智能法案》谈判授权草案 最新监管动态 1.工信部科技伦理委员会、工业和信息化领域科技伦理专家委员会成立 2.美国白宫发布关于进一步推动美国在人工智能领域负责任创新的新举措 3.美国白宫总统科技顾问委员会成立生成式人工智能工作组 4.美国众议院举行“AI产业发展与版权的协调”专题听证会 5.OpenAI首席执行官参加美国参议院“AI监管：人工智能规则”听证会 6.美国平等就业机会委员会发布雇佣选择程序中评估算法不利影响的技术援助文件 7.法国国家信息与自由委员会发布人工智能行动计划 8.新西兰信息专员办公室发布《生成式人工智能指南》 最新司法动态 1.甘肃侦破首例利用AI人工智能技术炮制虚假信息案 2.南京法院审结一起AI换脸引发的肖像权纠纷案件 3.美国地区法院将举行关于制裁使用ChatGPT编造在先案例律师的听证会 最新行业动态 1.抖音发布关于人工智能生成内容的平台规范暨行业倡议 2.谷歌开发者大会发布多项生成式人工智能治理工具 3.微软承诺为AI生成的图像和视频加水印 4.AI孙燕姿火爆全网，侵权问题引发争议 5.360在世界智能大会上展示两款大模型产品360智脑、AI生图工具360鸿图 6.ChatGPT官方应用在AppStore上线 7.TikTok正在测试名为“Tako”的应用内AI聊天机器人 8.医联发布国内首个医疗领域自研大语言模型MedGPT 9.Huggingface榜首开源模型因修改Apache开源许可引发争议 10.百度设立10亿基金推进大模型生态繁荣 一、最新立法动态 1.北京发布《北京市促进通用人工智能创新发展的若干措施》和《北京市加快建设具有全球影响力的人工智能创新策源地实施方案（2023-2025年）》两份政策文件 发布日期：2023年5月30日来源：北京市人民政府官网政策原文： https://www.beijing.gov.cn/zhengce/zhengcefagui/202305/t20230530_3116869.html https://www.beijing.gov.cn/zhengce/zhengcefagui/202305/t20230530_3116889.html 政策解读： 一图读懂：《北京市促进通用人工智能创新发展的若干措施》 https://www.beijing.gov.cn/zhengce/zcjd/202305/t20230530_3116908.html 解读《北京市促进通用人工智能创新发展的若干措施》 https://www.beijing.gov.cn/zhengce/zcjd/202305/t20230530_3116900.html 一图读懂：《北京市加快建设具有全球影响力的人工智能创新策源地实施方案（2023-2025年）》https://www.beijing.gov.cn/zhengce/zcjd/202305/t20230530_3116923.html 解读《北京市加快建设具有全球影响力的人工智能创新策源地实施方案（2023-2025年）》https://www.beijing.gov.cn/zhengce/zcjd/202305/t20230530_3116919.html 摘要： (1)《北京市加快建设具有全球影响力的人工智能创新策源地实施方案（2023-2025年）》（以下简称“《实施方案》”） 为贯彻落实国家发展新一代人工智能的决策部署，高水平建设北京国家新一代人工智能创新发展试验区和国家人工智能创新应用先导区，北京市人民政府制定了《实施方案》。主要内容如下： 工作目标 到2025年，基本建成具有全球影响力的人工智能创新策源地： 布局一批前沿方向，技术创新实现新引领推动一批国产替代，技术攻坚取得新突破构建一批产业方阵，产业能级完成新跃升塑造一批示范标杆，场景赋能驱动新应用营造一流创新环境，生态构建形成新成效 主要任务 着力突破人工智能关键技术，引领产业高水平发展全力夯实人工智能底层基础，筑牢产业创新发展底座加快构建人工智能产业方阵，全面提升产业发展能级加快推动人工智能场景建设，牵引创新成果落地应用持续构建人工智能产业生态，营造国际一流发展环境 (2)《北京市促进通用人工智能创新发展的若干措施》（以下简称“《若干措施》”） 为贯彻落实《实施方案》，充分发挥政府引导作用和创新平台催化作用，整合创新资源，加强要素配置，营造创新生态，重视风险防范，推动本市通用人工智能实现创新引领和理性健康发展，北京市人民政府制定了《若干措施》，提出21项具体措施，主要包括： 主要内容 具体措施 加强算力资源统筹供给能 1 组织商业算力满足本市紧迫需求 力 2 高效推动新增算力基础设施建设 3 建设统一的多云算力调度平台 提升高质量数据要素供给 4 归集高质量基础训练数据集 能力 5 谋划建设数据训练基地 6 搭建数据集精细化标注众包服务平台 系统构建大模型等通用人 7 开展大模型创新算法及关键技术研究 工智能技术体系 8 加强大模型训练数据采集及治理工具研发 9 建设大模型评测开放服务平台 10 构建大模型基础软硬件体系 11 探索通用人工智能新路径 推动通用人工智能技术创 12 推动在政务服务领域示范应用 新场景应用 13 探索在医疗领域示范应用 14 探索在科学研究领域示范应用 15 推动在金融领域示范应用 16 探索在自动驾驶领域示范应用 17 推动在城市治理领域示范应用 探索营造包容审慎的监管 18 持续推动监管政策和监管流程创新 环境 19 建立常态化服务和指导机制 20 加强网络服务安全防护和个人数据保护 21 持续加强科技伦理治理 植德短评 5月30日，两项政策重磅发布，对于推动北京市人工智能产业创新发展具有 重要意义。我们在此主要分析两项政策体现的合规要求和监管趋势： 产业发展主要目标： 《实施方案》提出了北京市人工智能产业发展的可量化目标，包括人工智能核心产业规模达到3000亿元，持续保持10%以上增长，辐射产业规模超过1万亿元等，体现了政府在产业政策层面对人工智能产业的高度重视。 合规关注要点： 结合两项政策的具体任务和实施措施，可以发现，政府强调对人工智能产品/服务以下三方面的合规监管： 1.数据和隐私安全 针对数据隐私保护问题，《实施方案》强调，要加强隐私保护策略与系统构建，开展底层密码算法和技术研发。研究模型算法可信性评测基准，构建人工智能系统可信分级分类评测体系 对于训练数据的来源问题，这是目前多数人工智能产品/服务技术研发企业的合规痛点，为此，《实施方案》和《若干措施》均提出，政府未来将积极提高公共领域存量数据的挖掘、清洗和隐私安全处理水平，并组织有关机构整合、清洗中文预训练数据，形成安全合规的开放基础训练数据集，研究建立数据集开放共享机制（如支持在依法设立的数据交易机构开展数据流通、交易等）。 2.算法安全评估和算法备案 《实施方案》和《若干措施》均强调了企业对于算法安全评估、算法备案等算法合规义务的落实。为促进产业合规发展，政府将建立常态化联系服务和指导机制，指导企业引入技术工具进行安全检测、按规定申报安全评估、履行算法备案等程序，引导企业树立安全意识，建立安全防范机制。 3.科技伦理审查 科技伦理审查同样是人工智能产品/服务的重要合规步骤之一。《实施方案》和《若干措施》还强调了要提升人工智能科技伦理治理能力，具体措施包括：要开展科技伦理审查及相关业务培训，强化各责任主体科技伦理规范意识；探索建立人工智能伦理高风险科技活动伦理审查结果专家复核机制，推动各责任主体遵守科研诚信和科技伦理规范。 政策监管趋势：包容+审慎 值得关注的是，两项政策文件没有一味强调对人工智能的法律监管，而是明确了“包容审慎”监管态度。在具体风险防范措施中，以促进人工智能产业发展为主，同时注重政府在引导人工智能企业合规发展过程中的积极作用。 随着人工智能飞速发展，监管政策难免存在过于宽泛或过于严格的情况，我们期待，借助政策的大力支持，相关合规要求的执行，能既注重规范化和合规性，又兼顾企业的实际情况，以推动人工智能产业快速发展和健康成长。 2.深圳发布《深圳市加快推动人工智能高质量发展高水平应用行动方案 （2023—2024年）》发布日期：2023年5月31日 来源：深圳市人民政府新闻办公室微信公众号“深圳发布”链接：https://mp.weixin.qq.com/s/JC1yJf6gzmOWxxUdotXxFw 摘要： 《深圳市加快推动人工智能高质量发展高水平应用行动方案（2023—2024年）》（以下简称“《行动方案》”）从强化智能算力集群供给增强关键核心技术与产品创新能力、提升产业集聚水平、打造全域全时场景应用、强化数据和人才要素供给、保障措施六个方面，提出十八项具体举措： 主要内容 具体措施 强化智能算力集群供给 从建设城市级智算平台、打造大湾区算力枢纽、建设企业级智算平台三个层次，着力解决算力紧缺问题。 增强关键核心技术与产品创新能力 从加强科技研发攻关、支持创新产品研发两个方面入手，提升创新能力。 提升产业集聚水平 从规划建设产业聚集区、大力培育企业梯队、搭建生态孵化平台三个方面入手，着力推动产业集聚发展。 打造全域全时场景应用 搭建场景开放供需对接平台，推动公共服务、城市治理以及千行百业广泛开放应用场景，提出26个落地场景。 强化数据和人才要素供给 从培育高质量数据要素市场、打造高水平人才汇聚高地两个方面入手，强化数据和人才要素供给 保障措施 从加强组织领导、加强资金保障、营造最好氛围、加强安全监管四个方面入手，强化工作保障。 3.国家标准《信息安全技术人工智能计算平台安全框架（征求意见稿）》发布发布日期：2023年5月15日 来源：全国信息安全标准化技术委员会 链接：https://www.tc260.org.cn/front/bzzqyjDetail.html?id=20230515154409898112&norm_id=20221102142806&recode_id=51281 摘要： 全国信息安全标准化技术委员会发布了《信息安全技术人工智能计算平台安 全框架（征求意见稿）》（以下简称“《征求意见稿》”），面向社会征求意见。 《征求意见稿》规定了人工智能计算平台安全框架的安全功能、安全机制、安全模块以及服务接口。其适用于指导人工智能计算平台的设计与实现，也为平台使用方应用人工智能计算平台安全功能提供参考。 《征求意见稿》期望达成两个成果：（1）使得AI计算平台提供方能够参考本标准设计、研发AI计算平台，保障AI计算平台自身安全，并提供相关安全功能及服务接口辅助AI计算平台使用方保障AI核心资产传输、存储、训练、推理全流程安全；（2）使得AI计算平台使用方，包括数据提供方、模型提供方、应用开发方等，能够参考调用本标准定义的安全功能模块，加强对AI核心资产的安全保护。 4.欧洲议会两个委员会通过《人工智能法案》谈判授权草案发布日期：2023年5月11日 来源：欧洲议会（Europeanparliament）官网 链接：https://www.europarl.europa.eu/news/en/press-room/20230505IPR84904/ai-act-a -step-closer-to-the-first-rules-on-artificial-intell