人智能的反应力 ： 社会创新责任人智能的 PRISM 框 （ 汉 ）

AI的影响：社会创新中负责任AI的PRISM框架 W H I T E P A P E RJ U N E 2 0 2 4 Contents 1采用途径：PRISM框架81.11.22能力和风险152.12.22.32.42.5 免责声明 本文件由施瓦布社会创业基金会出版 与世界经济论坛合作。此处表达的发现，解释 社会企业家精神或世界经济论坛，但其结果不一定代表施瓦布基金会和世界经济论坛的观点，也不代表其全体成员，合作伙伴或其他利益相关者。 © 2024施瓦布社会企业家基金会和世界经济论坛。保留所有权利。 本出版物可以以任何形式或任何方式复制或传播，包括影印和记录，或通过任何信息存储和检索系统。 前言 CathyLiAI、数据和Metaverse负责人；世界经济论坛执行委员会成员 吉莉安·欣德安永全球企业责任负责人，EYGS Jean - Philippe Courtois微软执行副总裁兼国家转型合作伙伴总裁 阻碍他们充分发挥潜力的能力。对于社会创新者来说，技术复杂性、技能差距、人工智能技术的获取以及平衡社会和业务目标等挑战可能会阻碍他们对技术的理解和部署。另一方面，技术组织和开发人员有责任开发符合道德和公平的人工智能功能，解决全球差异，并且不会加剧现有的偏见。这就需要在技术组织和社会创新者之间建立双向对话，整合社会创新者的声音，使他们能够影响技术路线图，并确保人工智能能力真正适合有影响力的企业。 现在，企业和组织比以往任何时候都更发现自己处于关键时刻，这迫使他们将社区和环境作为运营的核心。 持续的全球危机的动荡局面表明，照常营业不再是一种选择。在这种变化和挑战的背景下，社会创新者正在全球，跨部门，地区和社区中展示未来的资本主义是什么样子-一种模式，目的和利润不仅共存，而且相互加强，随着利润而蓬勃发展。 然而，随着2030年可持续发展目标的最后期限迫在眉睫，企业和政府为确保所有人的公正，公平和可持续的世界而设定的影响目标仍然存在巨大差距。实现这些目标需要采取集体行动和一定的跨越来加快 本文基于早期的努力，为社会创新者提供战略路线图，评估如何将人工智能纳入其运营或模型。它从世界经济论坛人工智能治理联盟发布的思想领导力中汲取灵感，并从变革前线的社会创新者和中介机构网络的专业知识中获得启发。特别感谢参与全球社会企业家人工智能促进社会创新工作流程的工作组的人员，他们的时间和专业知识为本文的发展做出了贡献，他们的生活经验可以在整个论文中找到。 哪些目标正在实现。人工智能（AI）的出现为社会创新者，非营利组织，企业和政府提供了变革性的机会。2024年4月发布的《人工智能在社会创新中的作用》报告探讨了目前正在全球部署人工智能的社会创新者的前景。这份报告的关键见解强调了人工智能的巨大潜力。 作为推动社会影响的工具，特别是在医疗保健、教育和经济赋权等关键领域。 本文将为与中介合作伙伴和其他生态系统合作者进一步开发社会企业培训和技能建设工具包奠定基础。我们的希望是，本文提出的框架和路线图，以及企业合作者的资源，可以帮助社会创新者实现人工智能驱动的社会变革的承诺。 为了实现大规模的影响，广泛的人工智能意识和战略性的、负责任的技术部署是必要的——无论是集成到运营模型中，还是作为实现变革的手段部署的产品。然而，内部和外部障碍仍然阻止社会创新者大规模采用人工智能。 执行摘要 PRISM框架使组织能够采用人工智能来产生影响，并突出了道德实施的技术缺陷。 人工智能（AI）能力的快速发展和传播为社会创新者提供了一种可行的解决方案，可以跨越结构性差距并扩展其解决方案。第一份报告 风险，低成本的AI应用程序，并强调组织准备程度相对于单纯的技术能力的重要性。它与AI治理联盟的Presidio框架等既定方法保持一致。它倡导迭代但在战略上使方法与实施AI的特定评估门保持一致。 在这个系列中，人工智能的影响：人工智能在社会创新中的作用，由施瓦布基金会的全球社会创业联盟与安永合作出版 PRISM框架概述了人工智能实施的三个层次：影响使命和战略，采用途径、能力和风险。从简单的内部用例到复杂的外部部署，每一层都涉及不同的准备和潜在应用程序元素。模块化方法允许组织根据其特定需求和能力定制其AI策略，确保AI的采用有影响力和可持续发展。丰富的案例研究，如SASBrasil的宫颈癌筛查和HighResolvesAI增强的教育计划，说明了该框架的使用。 和Microsoft。它提供了对AI在社会创新中的作用的全面分析，并提供了来自300多个社会创新者的见解。它展示了社会创新者如何已经接受技术以取得切实成果，主要是在诸如如医疗保健、环境行动、经济赋权或教育。 第二篇论文深入研究了人工智能应用过程中的最佳实践。它的特点是社会创新者，他们带头部署人工智能以产生影响，那些将其作为规模推动者实施的人，以及那些刚刚开始考虑使用人工智能进行运营的人。数据显示，目前超过50%的社会创新者应用人工智能来增强核心产品或服务。几乎三分之一的人利用人工智能来开发全新的解决方案，还有另一种解决方案。20%的人使用它来提高内部效率或实现组织规模。 该框架还强调了公平实施需要解决的风险和技术缺陷。例如，这包括数据偏见或技术结构，这些偏见或技术结构不适合允许AI决策的可解释性-这是社会创新者试图服务的社区之间建立信任的关键要素。因此，本文呼吁人工智能社会创新生态系统、技术领导者和社会创新者之间的积极参与，共同实现人工智能的道德采用，以产生积极影响。 在此数据集，研究和20多个深入访谈的基础上，本文介绍了PRISM框架，以指导社会创新者和其他组织通过AI集成的细微差别景观。该框架鼓励组织从低 Introduction 人工智能有可能在多个领域扩大影响，但需要合作来帮助社会创新者实现其最大潜力。 人工智能（AI）在解决复杂的社会挑战方面提供了变革性的潜力，并部署在从医疗保健到农业的各个领域。2024年4月，施瓦布基金会的全球社会企业家联盟与安永和微软合作发布了《人工智能影响力：人工智能在社会创新中的作用》报告。它分析了300多名社会创新者实施AI 并揭示了低收入/中等收入和高收入国家之间在实施方面没有差距，但实施部门的多样性很强：医疗保健和环境在人工智能实施中的份额最高。然而，80%的经济赋权解决方案是由低收入/中等收入国家的社会创新者部署的。 尽管实施广泛，但报告指出了阻碍更广泛采用的差距。只有13%的人工智能举措专注于教育工具包，主要在全球北部。性别差异仍然存在，只有25%的女性主导的社会企业使用 人工智能在更广泛的行业中占一半。道德和公平挑战也出现了。例如，大多数商业上可用的模型都是根据高收入国家的数据进行培训的，为低收入和中等收入国家提供了低于标准的结果。 与社会创新者和技术领导者进行的22次深入访谈和互动研讨会的见解，重点介绍了AI部署中细微的决策过程以及社会创新者面临的持续挑战。 本文基于先前的见解和框架，例如世界经济论坛AI治理联盟的Presidio框架，以强调在社会创新者中更广泛采用AI的途径。它结合了以前的数据 采用途径：PRISM框架 在现有概念的基础上，PRISM框架指导负责任地采用人工智能来产生影响。 2024年4月的《人工智能影响力：人工智能在社会创新中的作用》报告强调了社会创新者如何在人工智能采用方面处于领先地位，特别是在SAS Brasil的宫颈癌筛查和HighResolves在人工智能辅助教育中的举措等项目中，尽管存在连接挑战。第二篇论文利用他们的经验来说明人工智能如何推动社会和环境效益。它综合了300位社会创新者的见解和对PRISM框架的专家访谈。以迭代、负责任和有效的方式实施人工智能的指南。 准备工作通常超过技术和数据方面的考虑。该框架突出了基于组织准备的采用途径以及与这些途径相关的相关能力和风险。 该框架与世界经济论坛AI治理联盟的Presidio框架等其他概念保持一致，该框架支持通过人工智能负责任地提高生产力和重新定义行业的组织。Presidio框架首先确定和筛选与战略目标一致的最佳生成AI用例，并通过三个常见的评估门-业务影响，运营准备和投资策略-将它们汇集起来。这些评估门被设计为以任何顺序和迭代地应用。 1.1PRISM框架 PRISM框架建立在Presidio框架上。它强调了不同的采用途径如何与不同的组织、技术和数据准备水平相互依存。Italsoemphasestheneedforalignmentwithanorganizationsimpactambitionsateverystage(seeFigure6).Ithighlightsthatsocialinnovators从本质上讲，影响优先的组织及其对战略一致性的考虑（如AI治理联盟框架中概述的）超出了业务一致性。他们的考虑 优先考虑影响，并在应用AI时包括核心价值观和道德原则（例如在解决方案的设计中优先考虑社区声音）。这可能并不总是广泛的，高度设计的 和资源密集型战略过程，而是不断协调计划的用例与影响目标(例如，早期参与产品/服务开发中的社区，受益人之间的数据所有权或禁止在没有人为参与的情况下进行决策）。 图片来源：就业教育 在300个社会创新用例中，大多数创新者（54％）利用AI来增强产品供应（3.效率或4.交付），30％创造了全新的产品或服务，12％利用AI来解锁其解决方案的规模（5.核心资产），5％利用AI用于内部流程（1.修补和3.效率）。 4.技术：许多社会创新者都在为他们的用例确定正确的技术而苦苦挣扎。在早期的采用案例中，社会创新者可能只是简单地应用具有低实施复杂性和成本的现成解决方案。后来，模型复杂性，对强化培训的需求（尤其是对于需要上下文数据的用例），与生态系统参与者的互操作性或互联网访问问题也可能浮出水面。 在跨采用途径实施AI时，不同的能力和风险被认为具有不同的强度。这在PRISM框架的第三层中进行了描述： 5.成本和指标：鉴于人工智能技术的广泛可用性，在人工智能采用的早期阶段，成本并不是什么大问题。具有应用程序编程接口(API)的请求数量仍然很低，数据量往往受到限制，并且可能不需要考虑组织准备情况。但在后期实施中，可变成本迅速上升，间接费用增加，以确保人工智能实施保持影响力和道德责任。社会创新者可能需要考虑和监控成本。不仅限于软件或许可费，还包括数据采集、数据准备或硬件成本。 1.道德：除了考虑第1层的一般价值，原则和影响任务之外，这种能力和风险考虑还包括诸如考虑AI模型中的偏见，确保决策的透明度，对所做决策的问责制以及将道德AI作为商业原则在组织部署的后期阶段整合到组织中。 2.数据：在实施AI的过程中，数据策略可能会在不同方面应用，包括分析现有数据资产、清理和准备数据、管理数据获取以及使用数据时的数据隐私考虑因素——尤其是在医疗保健等高度敏感的影响领域。 The following section explains above - mentionedcapabilities and risks in more detail. The PRISMFramework offers a modular approach to considering theimplementation of AI for impact. 3.业务和组织：组织准备是实施AI的关键组成部分。这可能包括为使用AI设定清晰的愿景和领导力（特别是在利用AI作为核心资产或将组织转变为AI优先组织时），持续学习战略，技能和人才的发展以及变更管理以及AI或数据文化的发展。对于社会创新者来说，利益相关者管理对于在关键成员之间建立必要的购买和信任尤为重要。 一方面，具有强大组织准备能力的社会创新者-扎实的内部AI技能和能力，对技术的健康企业态度以及对其数据资产和道德问题的清晰表达和理解-可能会在整个框架中应用能力和管理风险。尚未构建此类内部功能的组织可能会利用该技术进行修补，因此。 使用低风险的入口点，