欧盟 AI 法案 ： 是时候开始准备了

欧洲联盟AI法案：开始准备

主要内容与关键数据

1. AI的影响

   • 人工智能（AI）和生成式AI（gen AI）将对经济增长和生产率产生重大影响。据麦肯锡调查，许多组织计划利用这些技术来改变其运营方式。
   • 实现AI的好处需要确保基础模型及其使用安全、可靠和值得信赖。实施强大的数据治理、模型风险、安全和个人权利管理对于负责任的AI治理至关重要。

2. AI风险管理现状

   • 2024年初，麦肯锡对180家欧盟组织进行了调查，结果显示71%的受访者认为其AI风险管理尚不成熟，但65%的受访者已经在使用gen AI。
   • 在数据、模型输出、安全、第三方和社会风险五大领域，参与者表达了担忧。具体而言，偏见涉及模型输出、数据和第三方风险；其他潜在问题包括歧视、不良输出、个人数据泄露、知识产权滥用、安全漏洞和恶意使用等。

3. 欧盟AI法案

   • 欧盟AI法案于2024年5月生效，是全球首个全面实施的AI法规。
   • 该法案旨在“促进以人为本和可信的AI，同时保护健康、安全和基本权利”。它涵盖了广泛领域，包括治理、数据管理、模型风险管理和个人权利。
   • 根据风险分类和在AI价值链中的角色，不同组织的合规要求有所不同。AI系统被定义为禁止、高风险或非高风险。

4. 实施初期

   • 虽然实施努力仍处于早期阶段，但已有超过一半的受访者表示不清楚AI法案的具体要求以及其AI用例的风险分类。
   • 数据管理仍然是主要关注点。57%的受访者表示，仍有许多数据治理要求未得到满足。
   • 少于10%的受访者表示已经完全满足了四个领域的所有要求。

5. 各行业的准备情况

   • 各行业在AI风险管理方面的准备程度参差不齐。例如，金融行业和能源与材料行业相对较为成熟，而科技、媒体和电信行业则较为落后。

总结

欧盟AI法案的出台标志着AI监管的重要一步，预计将对所有受影响组织产生广泛影响。尽管许多组织已开始采用AI技术，但在数据治理、模型风险管理和个人权利管理方面仍存在不足。目前，大多数组织尚未完全满足AI法案的要求，特别是在数据管理方面面临较大挑战。未来两年内，随着指导方针的逐步实施，各组织需要进一步加强相关措施以符合法规要求。