利用数字信任生态系统框架实现可信的人工智能

目录 4导言6DTEF概览易AI生命周期9/设计9/了解间题9/教据收集研探案9/数据整理和准备9/开发9/连校9/评估10/部界10/投入生10/监控AI模型薪出 I专注AI的DTEF实施 11/了解业务环境11/了解数字环境12／制定数字信任战略12／规划和实施数字信任12/监控、德最利改进12/治理和监督 13DTEF的应用 13/用例：客户服务聊天机器人14/DTEF何提供帮助？15/文化15/人为因案16/架构17/指导和监控18/潮理18/能和支持 19结论21 致谢 摘要 本白皮书探讨了企业在采用人工智能（AI）技术和服务时使用ISACA数字信任生态系统柜架（ITHF）的优势，它帮助理解I)IHF如何支持新兴技术风险评估，并提供建立治理结构的指导，以在整个AI生命周期内为组织带来帮助，白皮书重点介绍了数字信任关链要素，它们被视为成功整合AI技术和服务交付的基础，并通过典型用例场景展示组织通常遇到的情况。 导言 人T暂能（AI）无处不在，具体实例包活聊天机器人、金融欺诈检测和导航软件。AI涵盖机器学习（ML）、深度学习和生成式AI（图1）。总体而言，它继续革新所有行业，以速度和规模提供效率和利益。例如，在医疗保偿领域，AI支持个性化治疗方案和预测诊断管理；在金融服务领域，AI通过数据驱动的洞察效益。 人工智能的广泛影响不仅体现在企业的明确采用，还体现在它与各种第三方应月程序（如主流的办公生产力软件和日常任务）的集成。此外，某些部门（如人力资源、市场营销）的员工可能已经在使用基于网络的款终，未被明确允许用于商业用途的生成式AI产品数量的增加，代表了一种影子IT的演变。 利用数字倍任生态系统担架实现可信的人工智能 尽管A能能提升和优化业务，但在许多情况下，它也可能增加风险。和在何技术样不法分了很快便开始度产同时降低了实施B以攻击所需的技术能力，2此外，AI还被用于地缘政治报道、基于图像的滥用和政治潜动，并且成功实施了数白万美元的诈响。“总的来说，AI对不同的人意味老不同的东西，并且每种AI所关联的风险也是高度变化的。 AI的普及程度不可低估。根据德勤的报告，全球正经历一场前所未有、最易获取的技术革命，这场革命以生成式AI的形式出现，其规模堪称史诗级。7尽管AI的概念早在1950年就已提出，"但其进展的规模和速度以及相关影响还远未完全显现。像过去的技术变革一样，许多人一听到AI就会产生恐供、怀疑和不信任。然而，值得注意的是，人们认为，生成武A1将释放人类潜力，而非取代人类。因此，当前以及未来的挑减在于合理分配和管理机器和人类各自拉长的任务。使用AI不仅需要关注传统的人员、流程和技术因索、还需要跨职能部门的领导力以及仔细考量其对业务和社会的影响。在此结合ISACA的数字信任生态系统框架<(DTEF) 叫的普及程度不可低店。根据德勤的报告，全球正经历一场前所未有，夏易获敏的技素草命，这场革命以，生战式的形式出现，其规模讲称史诗级。 D1HH支持从所有组织利益相关者的角度建立和维扩数字信任，数字信任不仅仅是技术间题：它适用于整个组织及其所有外部利益相关者。 选择、建立和维护数字关系而要各方的信心和透明度。供应商和消费者的需求、原则、价值观和目标影审所一这是一个与所有AI种类推关的概念。 本白皮书损讨了组织如何利用ISACA的DTE框架实现由AI致能的技术和服务解决方案的激字信任可策性 Fr Kelley, D.; " WouPT-网路犯年分了用于发起商业电了邮件许男攻吉的生惠式AI工共，SlashNext，2023年7月13日，hps saslmextcombbog/wugpt-e-gelrtative-di-leol-eybeinunals-dre-using-o-auuch-hsuess-uail-compromize-atacks/, Slietler, D,*生成式A使感行为省能多创造更多（更复象）电子邮件击"AbuuuralSecuity，2023年6月14日，htfps:/abearmalsccarity.com.hlog/generative-ni-chargpt-ennhle-thraf-actors-more-tthacks Klepper,D；“查假要儿，真实卷情：加沙最学中的保度伪造技术如则了对AT误导能力的担忧”，APNews，2023年1I月28日，https://apoewa.ccon'article'satificial-inieLligeuce-lauas-jstael-misinfocuxatioe-ai-g8z3-a1bb303b637ffbtbcbe5sale00ldo17 TTickey,M；“改拉斯克速团快题责发布到挂特上的器度势造视额，CnsNeas，2023年2月27日，hps:unw.cbanewaennichicagancws/nliaganphiepdeepfake-vidn;Harpar,AGchken,R;ctal；“在政治亮选中使AI引发对2024年运学的管示“ARCNews，202年适，美同2024年x与4T热润磁蓬"，路社，2023每5月30日，hrpe/uwwrmiterseoowwpeldisodeepfakfng-ir-amzrica8-2124-eleerian11 8 日, htps-5nhetews.po.ccn/Politicsni politieal-campaigns-raising-Ted flags-2124 glecrite/stony?id-tg24804h4g iner, A; Tong, A; *深度eulides~wslli-at-boon-2023-U5-30. Edaards，B；“梁度伤造诈编者通过百例AT盗寄案端胶250万美元”，ARSTechnica，2n24年2月5日，hrps-jarsrchnicrcnm/infomntianlecheology:2024/02/deeplake-seatw-walks-elf-witl-25-qmlliut-iz-lirst-ul-ils-kind-u-h/iset ."生成式AI与末来的工作”bltys./www2.deloite.cuueute/dapDeleiteus/Lembsuls/ousulingus-ai-iLstitutefithzre-nf-wark.pdlfsueauve--ark-th [国],A.M:"i计算器与f",Mid 19,195Uu 年,lutps,/aditecl.es.tunbc.edeourses/47I/papers/tuting.pdf ISACA:“效字信任生态东统拖架”，美用，2022年，WWianc.ora'drcf-chcok DTEF 概览 DTEF定义了创建数字信任生态系统的核心要素，该框架考虑到所有利益相关者，以确保所有敏字互动和交易的合法性、可信度，并涵盖完整性、安全性、隐私、韧性、质量、可靠性和信心等要素。信任是任何全业在采用和部署AI策略时必须纳入的重要原则。例如，信任AI输山的能力将取决于数据质量和数据保护的水平，AI模型必须基于可信代码和透明性开发，包括操作决策。人工智能服务的最终用户或消费者相信，驱动决策的人工智能算法经证明是准确的，保护了最终月户的隐私，是安全的，并且没有偏见。最后，适当的人工智能治理将有助于高级管理层和主要利益相关者拒信人工智能决策是可以释释的，公平和道德规范得到遵守，并月能够证明符合监管和法律规定： IDTEF创建了一个知识体系，有助于应对动态变化的法律、监管和技术环境、现代商业要求、外部/内部影响和新兴因素、以及创建和撰作数字信任环境需要面对的风险和需要采取的控制措施。 DIEI是一个三维模型，其理论基础是人员、流程、技术和组织这四个主要基本节点之间存在多依巅关系，节点之间通过多种动态互动进行交五，在该模型中，这些节点是最高级别的。这四个节点通过六个域相互关联一文化、酒现、赋能和支持、人为因素、指导与监控以及架构：图2展示了节点与域之间的关系。 利用数字信任生态系统框架实现可信的人工智能 域会影响一个或多个节点。例如，架构域的变化必然会影响组织节点利/或技术节点。域之间也以系统的方式相互作用。域在管理组织内部存在的相互联系和复杂性方面发挥若至关要的作用，因为它们与不断变化的法规、新兴技术、新威助、程序变化等协同工作，域出一系列构成要素和结构要素组成 DTEF使用信任因素在每个域内建立内容基础。例如，架构域分为以下四个信任因素： 创建企业信任架构管理信息利技术架构管理数字信任资源4.根据组织需求调整数字信任技术 信任因素描述了维护数字信任所需的总体行动，有助于避免或减少偏见。该架的组成部分（见图3）可用于确保在任何A应用中展示数字信任原则。 IIHF提了一个支持整个生态系统中数字信任的结构，考虑了各种关系如何影响与消费者、客户和用户的五动水平。图4展示了DTEF的关链结构要素。 图4:DTEF层次结构 改字信任1不仅仅涉及数字信总和技术。数字信任影响者整个企业：因此，能够展示数字可信度的企业可以获得相当大的竞争优势，并与消费者建立更好的关系。12 AI生命周期 无节制地使AI产品会带来相当大的风险。由于AI可能会对格个企业造成不利影响（如知识产权损失、品牌损害、诉讼），企业不仅必须了解可能口经在使用的AI产品，还必须了解员工试图通过用AI解决睡些业务问题。在许多方面，AI只是另一种技术，但其细微差别却要求在其生命周期的所有方面进行深患熟的治理和风险管理。AI生命周期是一个从业务问题到基于AI的解决方案的选代过程。13 图5中显示的每个步骤在设计、开发和部署阶段不断送代：读者可能熟悉其他AI生命周期，这些生命周期可能包含更多的细节。无论有什么不同，AI生命周期一股都包括四个组成部分：业务需求和日标、数据收集和准备、模型开发和评估、以及运营部署和监控。ISACA 设计 了解问题 AI流程和系统负赤人及其他推关利益者负责确定关键项目目标和要求，以有效定义预期的业务成果。组织必须明确定义他们希些AI辩决什么业务问题。如果不能清楚准确地了辩所要解决的业务挑战和预期的结果，任何AI解决方案都不会成功。 数据收集和探索 数据足任何AI决方案的基础。在此步骤中，要收集数据并评估其是否适合用于拟议的AI应用：这需要发现可用的数据类，找出数据质量问题，并对数据和数据计划的观点有初步的了解：AI模型只能在清楚了解所需数据和数据构成的情况下使用数据。 数据整理和准备 此步骤包括将工作数据集从最初的原始数据转换成AI模型可以使用的格式的所有活动。这一步可能既耗时又乏味，但对十开发AI模型以实现解决第一步中确定的问题这一日标来说，却是至关重要的，开发 建模 此步暴专注于对数据进行实验，以确定正确的AI模型，在这一阶段，团队通常会对许多不同的AI模型进行训续、测试、评估和再训练，以确定实现预期结果的最佳AI模型和设置。AI模型的训练和选择过程是互动的。没有量个AI模型在等一次谢练时就能达到最佳性能。只有通过反复的微调，才能使模型达到预期效果根据所使用数据的数量和类型，这一训练过程的计算成本可能会非常高：可能需要特殊的设备来提供足够的算力，因为它不可能在普通的笔记本电脑上进行。 评估 一且构建了一个或多个基于相关评估指标表现良好的AI模型，就会在新数据上对AI模型进行测试。以确保它们能很好地泛化并达到业务目标， 部署 投入生产 且开发的A1模型达到了预期的结果，并在实时数据上达到了可以使用的水平，就可以将其部署到生产环境中。在这种情况下，AI损型将采用不属于训练周期的新数据。 监控AI模型输出 ·旦部若完毕，就必须对AI的生产输出进行监控，以确保其能够充分产生预期结果-这一过程被称为泛化，即AI模型对新数据的适应能力。在生产过程中，AI模型可能会“漂移”，这意味若其性能会随若时间的推移而发生变化：存