人工智能系统的开发和使用的战略愿景（英）

欧盟委员会 布鲁塞尔，24.1.2024 C(2024)380决赛 与委员会的沟通 欧盟委员会的人工智能（AI@EC） 促进欧盟委员会开发和使用合法，安全和值得信赖的人工智能系统的战略愿景 ENEN 目录 1.I介绍2 2.C确保合法的行动,安全和值得信赖AI4 2.1.委员会作为人工智能法案基于风险的方法的早期采用者4 2.2.确保在委员会中采用值得信赖的AI的运营和组织行动4 3.STATEOFPLAY:现有和信仰AI在委员会7 3.1.在委员会中使用的AI系统示例8 3.2.欧盟委员会AI系统的潜在新用例9 3.3.横向企业AI推动者10 4.NEXT步骤10 ForthepurposesofthisCommunication,thedefinitionof人工智能(AI)systemintheArtificialIntelligenceAct1applies.AllrelateddefinitionsfoundintheArtificialIntelligenceActalsoapply.AllreferenceswillbeupdatedasnecessaryfollowingtheActoftheAct. 1.I介绍 人工智能技术已经对我们所有人产生了重大影响，无论是个人还是组织，包括委员会。生成AI的出现标志着一个变革性的转变：支持我们的工作人员，减轻行政负担，提高委员会工作的质量和影响的前所未有的可能性，但也显然需要增加我们对AI的理解以及识别和解决风险的能力，以确保AI的使用是安全，透明，值得信赖和以人为本的。该委员会致力于支持，加速和促进委员会内部值得信赖的人工智能的开发和部署，并在可能的情况下与公共和私营部门的合作伙伴，特别是初创公司和创新者。 与《人工智能法》一致，术语“人工智能系统”用于基于机器的系统的通信，这些系统旨在以不同级别的自主性运行，并且在部署后可能表现出适应性，对于明确或隐含的目标，从它收到的输入中推断如何生成可能影响物理或虚拟环境的输出，如内容、预测、建议或决策2。 从这个角度来看，人工智能是委员会及其工作人员在日常工作流程和服务中变得更加有效和高效的一个可喜的机会，包括迄今为止不可能实现的新服务。这些新服务可以包括分析、起草、政策准备和决策方面的支持，或者与公众互动的新形式。在鼓励使用人工智能方面，委员会仍然毫不妥协地关注人。人工智能必须成为支持员工和以人为中心的政策制定的工具，符合欧盟法律和基本权利3 。委员会工作人员将获得他们成为AI工具熟练用户所需的指导和培训。 目的是确定人工智能使用对员工日常工作体验产生最大积极影响的领域，例如减轻重复和耗时的任务带来的负担，或者为同事提供改进政策设计和促进政策实施的工具。目标还在于优先考虑可在各种政策领域和用例中重复使用或应用的工具的投资，例如分析大型和多样化的数据源，汇总和模式识别，或支持与公众的多语言互动。 自2018年以来，委员会一直积极参与：（i）制定与人工智能相关的政策4和内部系统，以及 （ii）提供资金以支持 1在《人工智能法》通过和生效之前，本文件中的引用应理解为对委员会提案的引用（COM（2021）206final，https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=3A52021PC0206）。一旦《人工智能法》获得通过，这些引用应理解为对该法案的引用。 https://www.europarl.europa.eu/legissional-train/theme-a-Europe-fit-for-the-digital-age/file-regulation-on-人工智能 https://digital-strategy.ec.europa.eu/en/library/proposal-regulation-laying-down-harmonised-rules-artificial-intelligence https://commission.europa.eu/business-economy-euro/doing-business-eu/contract-rules/digital-contracts/liability-rules-interal-intelligence_en https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX:52020DC0065 2在通过《大赦法》后根据需要进行调整。 3https://digital-strategy.ec.europa.eu/en/library/European-declaration-digital-rights-and-principles 4EuropeanCommission,ArtificialIntelligenceforEurope,COM(2018)327final,2018.EuropeanCommission,CoordinatedPlanonAI,2018.EuropeanCommission,CommunicationfromtheCommissiontotheEuropeanParliament,theCouncil,theEuropeanEconomicandSocialCommitteeandthe 欧盟值得信赖的人工智能技术。人工智能是使欧洲适应数字时代5并将未来10年转变为欧盟数字十年6战略的关键要素，正如委员会的“数字指南针”通信7中所述。 公共部门可以而且应该在这一数字AI转型中发挥关键作用8。委员会明确要求在公共部门加速采用值得信赖的人工智能技术。委员会与成员国商定的2021年人工智能协调计划9，特别概述了可以促进公共部门采用人工智能的好处和行动。在这方面，委员会旨在实现其系统现代化，并以身作则 ，在公共部门部署和使用值得信赖的人工智能技术。 然而，人工智能技术也存在风险和局限性。这些技术可能会：（i）损害公共和私人利益，（ii ）违反数据隐私，信息安全和受联盟法律保护的知识产权，以及（iii）在信息和工作流程中引入偏见。安全地部署AI并在避免风险的同时获取收益，构成了重大挑战。 为了应对这一挑战，欧盟立法者目前正在敲定议会和理事会关于人工智能协调规则的条例（“人工智能法案”）。人工智能法案遵循基于风险的方法，为对安全和基本权利构成高风险的人工智能系统设定要求，并禁止某些违反欧盟价值观的做法。它将补充欧盟在产品安全方面的法律，以确保在欧盟市场上投放的AI系统是值得信赖的。然而，这项立法要完全适用还需要一段时间。为了缩短 《人工智能法》生效之前的期限，委员会宣布了一项人工智能公约，邀请人工智能开发人员准备并预期《人工智能法》的要求。充分拥抱人工智能技术的好处和机会，委员会本身现在已经树立了一个积极的榜样，并遵守设想的规则。 委员会欢迎七国集团领导人10就《人工智能国际指导原则》和《广岛进程下人工智能开发者自愿行为准则》达成协议。这些原则和《自愿行为守则》将在国际一级补充《人工智能法》的具有法律约束力的规则。本通讯概述了一个愿景，并介绍了具体行动。委员会将建立机构和运营能力，以 确保开发和使用值得信赖的AI技术。它建立在人工智能的内部经验以及委员会提出的法律和政策 框架的基础上，并确定了人工智能对委员会及其工作人员最有利的重要领域。 区域委员会，建立对以人为本的人工智能的信任，COM(2019)168决赛，2019年。欧盟委员会，《人工智能白皮书-欧洲追求卓越和信任的方法》，COM（2020）65fial，2020;欧盟委员会，欧盟委员会与欧洲议会，理事会，欧洲经济和社会委员会和地区委员会的沟通，促进欧洲人工智能方法，COM（2021）205fial。 5https://commission.europa.eu/战略和政策/优先事项-2019-2024_en 6https://commission.europa.eu/战略和政策/优先事项-2019-2024/Europe-fit-digital-age/europes-digital-decade-digital-targets-2030_en7https://eur-lex.europa.eu/legal-content/en/TXT/?uri=CELEX%3A52021DC0118 8https://ai-watch.ec.europa.eu/publications/ai-watch-European-landscape-use-人工智能-public-sector_en https://publications.jrc.ec.europa.eu/repository/handle/JRC129100 https://joint-research-centre.ec.europa.eu/jrc-science-and-knowledge-activities/trusted-artificial-intelligence -ai_en 9https://digital-strategy.ec.europa.eu/en/library/coordinated-plan-人工-智能-2021-审查10https://ec.europa.eu/commission/presscorner/detail/en/ip_23_5379 11https://digital-strategy.ec.europa.eu/en/library/广岛-process-international-guiding-principles-advanced-ai-system 人工智能将给我们的工作方式带来深刻的变化，加强了对委员会完全数字化的承诺，这是预算和行政专员使命的关键部分。数字技能对于所有员工，组织的各个级别和各个年龄段的员工都至关重要 。它们是我们工作方式的基础，人工智能技能将是这种转变的核心部分。我们都需要接受新技术。这种过渡需要以包容性的方式进行，同时考虑到当前工作人员在数字素养和能力方面的差异。将通过有针对性的培训和指导，包括通过重新培训和提高技能的机会来支持工作人员。 委员会还将制定关于开发和使用合法、安全、值得信赖人工智能系统以人工智能法案、现有相关立法、委员会政策和规定、人工智能高级别专家组制定的可信人工智能12道德准则以及其他来源的最佳实践为基础，实现本通信中提出的目标和行动。 这一愿景和这些运营解决方案必须具有生命力，将定期对其进行审查和更新，以反映：（i）人工智能技术的动态性质；（ii）经验教训；（iii）适用的监管和政策框架的变化。 2.C确保合法的行动,安全和值得信赖AI 2.1.委员会作为人工智能法案基于风险的方法的早期采用者 随着这份来文的通过，委员会开始为即将出台的规则做准备，并在《人工智能法》获得通过并生效后，为实施该法案采取了第一批行动。这需要采取以下行动: 制定内部运营指南，为员工（AI系统的用户，开发人员或采购人员）提供清晰而务实的指导，以指导如何将此类系统投入运营。 根据基于风险的方法并使用委员会的操作指南，对正在使用或计划由委员会使用的AI系统进 行分类和评估。 避免使用任何被认为与欧洲价值观不符或对人们的安全，安全，健康和基本权利构成威胁的 AI系统。 建立组织结构（治理），以履行委员会在人工智能方面的义务。 在此过程中，委员会将考虑：（i）计划中的欧盟政治和立法举措； （ii）所有适用的现行立法，包括关于不歧视、可访问性、信息安全和数据保护的立法；（iii ）行业以及国家和国际层面的最佳做法和范例。 2.2.确保在委员会中采用值得信赖的AI的运营和组织行动 为了促进在委员会中发展和采用值得信赖的人工智能，委员会将采取以下组织和业务行动。 2.2.1.组织行动 委员会建立了专门的内部AI治理，其任务是： o评估新IT投资中