2024-2025年人工智能初步战略与部署路线图

Contents 导言5 使用AI进行审计/审计AI7 审计中的AI：增强能力7 审计AI：确保完整性和有效性8 目标和目的10 目标1：通过AI工具提高审计的运营效率10 目标1.1：增加ECA工作人员关于如何使用人工智能的知识10目标1.2：确保ECA在技术上为人工智能做好准备10 目标1.3：引入AI工具来支持审计过程11 目标2：建立ECA审计基于AI的项目、系统的能力 和过程11 目标2.1：提高ECA工作人员对AI工作方式及其相关风险 的了解12 目标2.2：在我们的审计方法中增加人工智能方面12 目标3：增加价值并为欧盟范围和国际上关于人工智能的 讨论做出贡献12 目标3.1：积极为欧盟和国际工作组作出贡献12 目标3.2：使ECA的AI知识可用于其他欧盟SAI13 风险分析和缓解策略14 一般AI风险14 对AI逻辑的透明度和监督有限14有偏见或歧视性的产出14 隐私、数据保护和安全问题15 与实施有关的风险15 资源和技能不足，无法进行有效部署15 部署已经过时的服务16 声誉风险16 AI路线图提案17 行动1：制定并跟进详细的沟通计划19行动2：为ECA员工创建AI培训路径22行动3：加强提供的数据服务22 行动4：为新工具或增强工具建立项目提案组合 24 行动4.1：创建“审计草稿助理”工具25 行动4.2：定制并部署一个工具，用于从大型文档集中检索信息，采用基于问题与答案的交互式方法。26 行动4.3：使用AI后端扩展DORA工具，用于摘要和其他自 然语言处理任务27 行动4.4：ECA自己生产的语义搜索引擎27 Action4.5:Trainingachatbotwithinternalknowledgeofauditmethodology 来自AWARE和其他质量受控来源29 行动4.6：评估用于调查分析的ECDORIS工具29 行动4.7：将AI组件添加到机器人流程自动化(添加 智能到重复性任务的自动化)30 行动4.8：向现有的数据科学和可视化工具添加对AI的访问权限30 行动5：在非洲经委会建立人工智能能力中心 及相关治理30 行动6:促进机构间和国际合作31 闭幕词34 附件一-主要监管框架概述35 全球主要监管方法35 监管AI安全和安保38 对非洲经委会的影响39 附件二-其他机构在人工智能方面做了什么？40 机构间和国际工作组40 EuropeanCommission42 其他欧盟机构43 欧盟最高审计机构43 其他非欧盟审计机构46 附件三-开发还是购买？基于云的商业产品与本地工具 48 介绍和定义48 可用选项，截至2024年2月50 结论和建议：在AI部署中启动双重方法(开发和购买) 50 附件四-风险绘图和分析52 Introduction 01在2023年10月，随着人工智能（AI）领域一系列突破性进展的出现，欧洲审计法院（ECA）开始就其在机构内的应用进行内部反思，并发布了题为“应对和利用人工智能的机会与挑战”的论文。作为后续工作，本文件进一步分析了关键 问题，并概述了初步的AI战略及部署路线图。 02当前的ECA战略涵盖2021年至2025年的时期。下一战略的准备工作很可能即将开始，并且需要全面反映AI方面的内容。这一初始战略应允许以结构化的方式启动AI活动的实施，并为下一届ECA战略提供输入。 03人工智能是一种深刻变革的技术，但它不会替代我们审计师的批判性思维和专业判断。我们设想一种利用人工智能的方式，以协助我们的工作人员并增强其能力，从而实现更加及时、高效且基于坚实依据的审计。我们将秉持最高道德标 准，在部署和使用人工智能系统时防止偏见，优先确保透明度，并保持谨慎和职业怀疑态度。我们将忠于我们核心的价值观：独立性、客观性、正直、透明度和专业性。我们的愿景是利用人工智能作为助力，最终推动欧盟范围内更大的问责制、透明度和信任。 04在本文件中，我们解释了人工智能在审计中的应用以及对人工智能系统的审计，并澄清了两者之间的区别。随后，我们提出了一套欧洲议会审计处（ECA）的目标和目标，在风险分析之后，提出了一个包含具体行动的人工智能路线图。 05我们认为提议的行动是现实可行的，基于成功的测试和验证的概念证明，以及在其他机构中的经验。然而，由于该领域仍处于初级阶段，且很少有专业人士获得了足够的这些技术的经验，我们无法提供一个足够可靠的时间和成本估算， 以满足所需的IT开发需求。因此，我们建议启动正式的IT项目，这些项目将由相关的IT治理机构进行分析、优先级排序和批准。 06为了提供本文档的必要背景，我们简要回顾了当前的人工智能监管框架(请参阅附件一),我们收集了其他机构和欧盟最高审计机构（SAIs）在人工智能领域所开展工作的信息（详见 附件二)并进行了初步的“自制或采购”分析，特别是针对基于云或本地解决方案之间的差异（详见 附件三). 07尽管当前充满热情，我们并不认为（生成型）AI会在短期内或中期内彻底改变我们的核心流程或大幅提高生产力。我们认为，在未来几年内，许多甚至可能是所有专业日常任务都可以得到AI的帮助，预计生产力将提高约10%。1.虽然 这一数字可能看似微小，但如果横向应用，累积的效果在效率和有效性方面将显著提升。 08人工智能领域正在快速发展，因此可用于本文件的内容也在不断增多。我们选择了2024年2月作为包含新信息的实用截止日期。然而，我们制定了一个沟通计划，说明ECA同事将如何定期接收更新的信息。 1例如，请参见“”生成AI的经济潜力：下一个生产力前沿“，麦肯锡，2023年1月。 使用AI进行审计/审计AI 09人工智能在审计领域的影响是两方面的：一方面，人工智能有潜力提高审计过程的效率和效果；另一方面，当被审计方使用此类技术时，审计师需要重新思考并适应其方法。与任何技术创新一样，人工智能带来了自身的挑战，并需要深 入的理解。本章探讨了人工智能对公共审计机构的双重作用，包括使用人工智能进行审计以及未来审计基于人工智能系统的挑战。 审计中的AI：增强能力 10AI可以显着增强审计团队的能力，特别是通过帮助耗时的任务，例如： o文档分析：人工智能算法可以高效地筛选大量多语言文档集，识别模式、异常和关键信息，这可能需要人类审计员花费更长的时间处理，并且结果可靠性较低； o风险评估AI可以通过快速分析数据趋势并帮助识别潜在的关注领域，从而增强风险评估程序，使审计计划更快捷且更具相关性； o例行任务自动化常规任务使审计人员能够专注于审计过程中的更复杂方面，从而提高整体效率。 11此外，生成式AI可以协助审计人员起草文件，并指导他们在应用我们的方法论方面的工作。我们在反思论文《应对和利用人工智能的机会与挑战》中概述了几个实际的应用案例。 12为了充分利用AI在审计中的应用，对审计人员进行全面培训至关重要。培训不应仅侧重于AI工具的操作方面，还应包括： o理解AI输出员工必须具备准确解读AI输出的能力，认识到其局限性和潜在偏差，并理解AI辅助但不能替代人类判断； o伦理考虑培训应涵盖AI使用中的伦理考虑，确保自动化过程的透明性和公平性。 审计AI：确保完整性和有效性 13随着人工智能系统成为被审计方业务流程不可或缺的一部分，我们必须做好审计准备。 14一个关键问题是审计实体是否以及如何在其业务活动中处理人工智能（AI） ，特别是它们是否制定了AI战略并建立了相关治理措施。如果它们未使用AI，我 们应评估这给被审计单位的业务流程带来的风险。此外，还需要验证我们的被审计单位如何应对与他们有合同关系的第三方在使用AI方面带来的一些风险。 15审计AI可以作为一般IT审计方法的一个新组成部分；这涉及评估AI的使用情况、输出影响、运行效果、决策过程，以及是否符合被审计方的伦理标准和其他相关标准。表1提供了审计师需要考虑的要素的非详尽列表： 表1-审计AI系统时要考虑的主要元素 关键要素 Description 数据完整性和偏见缓解措施 AI模型和他们训练的数据一样好。AI系统的操作员应确保所使用的数据准确、有代表性，没有可能扭曲的偏见输出。 合规性有法规和标准 AI系统必须遵守相关的法律和道德标准，从而确保使用此类系统负责任地保护敏感数据和维护公众信任。 透明度and可解释性 为了保持信任和问责制，人工智能系统应该透明和他们的决策过程可以解释。在换句话说，应该有可能理解人工智能是如何模型产生输出并得出结论。 性能监测和评价 定期评估AI系统是必要的，以确保他们有效地执行并继续实现他们的目标time. 影响关于劳动力和过程 审计AI也可能包括对被审计方的影响劳动力和流程。人工智能的集成不应该损害工作质量或导致关键技能的丧失过程和程序。 16准备审计AI系统包括： o建立AI素养通过对员工和管理层的专门培训； o调整我们的审计框架通过包括AI特定的清单和程序； o监测和协作与专业协会和国际工作组制定审计标准和框架； o持续学习以确保我们的方法随着技术、法规和政策的进步而发展。 目标和目的 目标1：通过AI工具提高审计的运营效率 17审计中技术的应用是实现ECA在2021-2025战略中提出目标的关键推动因素 。通过有效利用人工智能，我们旨在逐步提高审计程序的效率，增强我们的分析 能力，并促进一种更加动态的审计方法。 目标1.1：增加ECA工作人员关于如何使用人工智能的知识 18为了利用人工智能在审计过程中的潜力，我们必须提升员工的人工智能素养 。我们已经启动了一项全面的培训计划，旨在不仅提供人工智能技术及其运作的 基本理解，还提供在审计过程中所需的实际指导和技巧。员工适当的人工智能素养是成功部署人工智能工具的必要前提条件。 目标1.2：确保ECA在技术上为人工智能做好准备 19为整合AI准备我们的技术基础设施、政策和程序是实现主要目标的关键步骤 。我们将对现有系统和流程进行全面审查和改进。这可能包括升级技术支持AI能 力的基础设施、修订政策以纳入AI伦理和治理，并调整程序以优化AI的实施。 20最近，国际标准化组织发布了新的人工智能管理系统标准。2。ECA应考虑实施标准中相关的部分。 2ISO/IEC42001: 2023。 Box1 什么是ISO/IEC42001？ ISO/IEC42001是全球首个AI管理系统标准，为这一快速变化的技术领域提供了宝贵的指导。它解决了AI带来的独特挑战，如伦理问题、透明度和持续学习。对于组织而言，它提供了一种结构化的方法来管理与AI相关的风险和机遇，平衡创新与治理。 资料来源：https://www.iso.org/standard/81230.html。 目标1.3：引入AI工具来支持审计过程 21在审计过程中引入人工智能工具与我们通过技术提升审计质量的战略目标相一致。我们将识别并实施最先进的AI工具，这些工具能够处理和起草文本、高效 分析大数据集、识别模式并提供超越传统审计方法范围的见解。这些工具将协助我们的审计人员并增强其能力，提高审计程序的效率，并可能允许进行更深入的审计。我们将致力于确保在部署AI工具时严格遵守数据保护及其他相关法规。我们将通过在相关页面引入链接，在AWARE中提供这些工具。 目标2：建立ECA审计基于AI的项目、系统和流程的能力 22TheECA致力于在其审计能力与能力方面发展以审查基于AI的项目、系统和流程，以在充满挑战和变化的环境中提供强有力的可靠证据。这一目标与我们更 广泛的策略——适应数字化转型趋势——相一致。随着AI开始在欧盟内的金融和政策倡议中被使用，我们必须相应地演进我们的IT审计方法和工具。 目标2.1：提高ECA工作人员对人工智能及其工作原理✁了解相关风险 23在审计基于人工智能系统✁旅程中，第一步是确保我们✁员工深入理解人工智能技术及其应用，并意识到相关风险。我们将启动有针对性✁培训和研讨会，以加深审计人员对人工智能算法、数据依赖性和潜在偏见✁理解。我们还将为员 工提供质疑和