利用数字信任生态系统框架实现可信的人工智能

ISACA 利用数字信任生态系统框架实现可信的人工智能 治理 ?2024ISACA。保留所有权利。 2/利用数字信任生态系统框架实现可信✁人工智能 目录 4导言 6DTEF概览 易AI生命周期 9/设计 9/了解间题 9/教据收集研探案 9/数据整理和准备 9/开发 9/连校 9/评估 10/部界 10/投入生 10/监控AI模型薪出 I专注AI✁DTEF实施11/了解业务环境 11/了解数字环境 12／制定数字信任战略 12／规划和实施数字信任 12/监控、德最利改进 12/治理和监督 13DTEF✁应用 13/用例：客户服务聊天机器人 14/DTEF何提供帮助？ 15/文化 15/人为因案 16/架构 17/指导和监控 18/潮理 18/能和支持 19结论 21致谢 学20741SACA。保留所有权利。 利用数字信任生态系统框架实现可信✁人工智能 ISACA 摘要 本白皮书探讨了企业在采用人工智能（AI）技术和服务时使用ISACA数字信任生态系统柜架（ITHF）✁优势，它帮助理解I)IHF如何支持新兴技术风险评估，并提供建立治理结构✁指导，以在整个AI生命周期内为 组织带来帮助，白皮书重点介绍了数字信任关链要素，它们被视为成功整合AI技术和服务交付✁基础，并通 过典型用例场景展示组织通常遇到✁情况。 9ISACA 哆20241SACA。保窗所有权利 利用数字信任生态系统框架实现可信✁人工智能 导言 人T暂能（AI）无处不在，具体实例包活聊天机器人、金融欺诈检测和导航软件。AI涵盖机器学习 （ML）、深度学习和生成式AI（图1）。总体而言，它继续革新所有行业，以速度和规模提供效率和利益。例如，在医疗保偿领域，AI支持个性化治疗方案和预测诊断管理；在金融服务领域，AI通过数据驱动✁洞察 效益。 人工智能✁广泛影响不仅体现在企业✁明确采用，还体现在它与各种第三方应月程序（如主流✁办公生产力软件和日常任务）✁集成。此外，某些部门（如人力资源、市场营销）✁员工可能已经在使用基于网络✁款 终，未被明确允许用于商业用途✁生成式AI产品数量✁增加，代表了一种影子IT✁演变。图1：AI、机器学习、深度学习和生成式A1✁比较视图 及食计算打境拟人类行方✁技术，使共能够学 机学习（1） 人工智能 教招集中检装式，快机器连务务和后证，机咨品机器学习 深度学习 深度学习（） 保漫学习是乱需学月✁一个了集，使月冲经网路进行保入✁数据处车和分新任务，保度学习酒客员人工 神经网终从厚价教培中提政高级特江，境科人国脑知 和想解世界✁为式 生成式AF 生成式AI是决度孕习型前全手集，它根男提供✁输入中成支、民原或代活与内客，这选模母在质大 ✁教就集上过行认乐，格测提式并在没有时确有小✁ 情说下生成给出，吴用引无生害学习✁混合方 生成式 人工智能 资料来源：揭开AI复杂性✁面纱-AI、机器学、深度学习和生或式A✁比较视图， hifs/cormmnnswikimedlinorg/wikivlile-Unaveling_Al_Complexity_: ACoupuratiteViewofALMachineLeaming,DoepLaning.andGenerariveALipg-本图由CreotiveConimowsAttribezion- Shcare4e4.0jntenationof许可证供, 8920741SACA，保留所有权利 利用数字倍任生态系统担架实现可信✁人工智能 尽管A能能提升和优化业务，但在许多情况下，它也可能增加风险。和在何技术样不法分了很快便开始 度产同时降低了实施B以攻击所需✁技术能力，2此外，AI还被用于地缘政治报道、基于图像✁滥用和政治潜动，并且成功实施了数白万美元✁诈响。“总✁来说，AI对不同✁人意味老不同✁东西，并且每种AI所关 联✁风险也是高度变化✁。 AI✁普及程度不可低估。根据德勤✁报告，全球正经历一场前所未有、最易获取✁技术革命，这场革命以生 成式AI✁形式出现，其规模堪称史诗级。7尽管AI✁概念早在1950年就已提出，"但其进展✁规模和速度以 及相关影响还远未完全显现。像过去✁技术变革一样，许多人一听到AI就会产生恐供、怀疑和不信任。然 而，值得注意✁是，人们认为，生成武A1将释放人类潜力，而非取代人类。因此，当前以及未来✁挑减在于合理分配和管理机器和人类各自拉长✁任务。使用AI不仅需要关注传统✁人员、流程和技术因索、还需要跨职能部门✁领导力以及仔细考量其对业务和社会✁影响。在此结合ISACA✁数字信任生态系统框架 <(DTEF) 叫✁普及程度不可低店。根据德勤✁报告，全球正经历一场前所未有，夏易获敏✁技素草命，这场革命以 ，生战式✁形式出现，其规模讲称史诗级。 D1HH支持从所有组织利益相关者✁角度建立和维扩数字信任，数字信任不仅仅是技术间题：它适用于整个 组织及其所有外部利益相关者。 选择、建立和维护数字关系而要各方✁信心和透明度。供应商和消费者✁需求、原则、价值观和目标影审所 一这是一个与 所有AI种类推关✁概念。 本白皮书损讨了组织如何利用ISACA✁DTE框架实现由AI致能✁技术和服务解决方案✁激字信任可策性 1SACA;(ISACASBCK),bttps/tws.iaaa.otg/teaees/gesssry FrKelley,D.;"WouPT-网路犯年分了用于发起商业电了邮件许男攻吉✁生惠式AI工共，SlashNext，2023年7月13日， AbuuuralSecuity，2023年6月14日， hpssaslmAextc使ombbo感g/wugp行t-e-gelr为tative-d省i-leol-ey能beinun多als-dre-创using-o造-auuch更-hsuess多-uail-co（mprom更ize-ata复cks/,Sli象etler,D）,*生成式电子邮件击" htfps:/abearmalsccarity.com.hlog/generative-ni-chargpt-ennhle-thraf-actors-more-tthacks Klepper,D；“查假要儿，真实卷情：加沙最学中✁保度伪造技术如则了对AT误导能力✁担忧”，APNews，2023年1I月28日， https://apoewa.ccon'article'satificial-inieLligeuce-lauas-jstael-misinfocuxatioe-ai-g8z3-a1bb303b637ffbtbcbe5sale00ldo17 Saner.T：“事物-斯大特深度传造册高内：选是另人在告一位有力量✁女性回创题✁框推里”，TheGnunrnian，2024年主月3[日， https/www.tbeguardianLcon.toclaafogy/2021.jimca1/m-do-the-laylof-swift-deepfako-gciundal-its-et-tellioe-t-powerfuj-woun-tciset-tack-an her-hax TTickey,M；“改拉斯克速团快题责发布到挂特上✁器度势造视额，CnsNeas，2023年2月27日，hps:unw.cbanewaennichicaga ncws/nliaganphiepdeepfake-vidn;Harpar,AGchken,R;ctal；“在政治亮选中使AI引发对2024年运学✁管示“ARCNews，202年 118日,htps-5nhetews.po.ccn/Politicsnipolitieal-campaigns-raising-Tedflags-2124glecrite/stony?id-tg24804h4giner,A;Tong,A;*深度 适，美同2024年x与4T热润磁蓬"，路社，2023每5月30日，hrpe/uwwrmiterseoowwpeldisodeepfakfng-ir-amzrica8-2124-eleerian eulides~wslli-at-boon-2023-U5-30. Edaards，B；“梁度伤造诈编者通过百例AT盗寄案端胶250万美元”，ARSTechnica，2n24年2月5日，hrps-jarsrchnicrcnm/infomntian lecheology:2024/02/deeplake-seatw-walks-elf-witl-25-qmlliut-iz-lirst-ul-ils-kind-u-h/iset ."生成式AI与末来✁工作”bltys./www2.deloite.cuueute/dapDeleiteus/Lembsuls/ousulingus-ai-iLstitute fithzre-nf-wark.pdlf sueauve--ark-th [国],A.M:"i计算器与f",Mid19,195Uu年,lutps,/aditecl.es.tunbc.edeourses/47I/papers/tuting.pdf ISACA:“效字信任生态东统拖架”，美用，2022年，WWianc.ora'drcf-chcok 85202A1S.ACA。保留所有权利。 6/利用数字信任生态系统椎架实现可信✁人工智能 DTEF概览 DTEF定义了创建数字信任生态系统✁核心要素，该框架考虑到所有利益相关者，以确保所有敏字互动和交易✁合法性、可信度，并涵盖完整性、安全性、隐私、韧性、质量、可靠性和信心等要素。信任是任何全业在采用和部署AI策略时必须纳入✁重要原则。例如，信任AI输山✁能力将取决于数据质量和数据保护✁水平，AI模型必须基于可信代码和透明性开发，包括操作决策。人工智能服务✁最终用户或消费者相信，驱动决策✁人工智能算法经证明是准确✁，保护了最终月户✁隐私，是安全✁，并且没有偏见。最后，适当✁人 工智能治理将有助于高级管理层和主要利益相关者拒信人工智能决策是可以释释✁，公平和道德规范得到遵 守，并月能够证明符合监管和法律规定： IDTEF创建了一个知识体系，有助于应对动态变化✁法律、监管和技术环境、现代商业要求、外部/内部影响 和新兴因素、以及创建和撰作数字信任环境需要面对✁风险和需要采取✁控制措施。 DIEI是一个三维模型，其理论基础是人员、流程、技术和组织这四个主要基本节点之间存在多依巅关 系，节点之间通过多种动态互动进行交五，在该模型中，这些节点是最高级别✁。这四个节点通过六个域相 互关联一文化、酒现、赋能和支持、人为因素、指导与监控以及架构：图2展示了节点与域之间✁关系。 图2:DTEF模型 组织 文化 人员 流程 技术 资料来源：ISACA，数字信任生杰系统框架，美国，2022年 2024SACA。保留所有权利。 利用数字信任生态系统框架实现可信✁人工智能 域会影响一个或多个节点。例如，架构域✁变化必然会影响组织节点利/或技术节点。域之间也以系统✁方式相互作用。域在管理组织内部存在✁相互联系和复杂性方面发挥若至关要✁作用，因为它们与不断变化✁ 法规、新兴技术、新威助、程序变化等协同工作，域出一系列构成要素和结构要素组成DTEF使用信任因素在每个域内建立内容基础。例如，架构域分为以下四个信任因素： 创建企业信任架构管理信息利技术架构管理数字信任资源 4.根据组织需求调整数字信任技术 信任因素描述了维护数字信任所需✁总体行动，有助于避免或减少偏见。该架✁组成部分（见图3）可用于确保在任何A应用中展示数字信任原则。 图3:DTEF组成 组织 文化指导和控 ·书界文化 -+ 森程 能和支持 人点拉术 人为团案 学为中心产 资料案源：IS4CA，数字信任牛态系统据架：关国，2022年 IIHF提了一个支持整个生态系统中数字信任✁结构，考虑了各种关系如何影响与消费者、客户和用户✁ 五动水平。图4展示了DTEF✁关链结构要素。 820741SACA。保窗所有投利。 利用数字信任生态系统椎架实现可倍✁人工智能图4