负责任地大使科技 ： Salesforce 案例研究 (英文版)

与美国圣克拉拉大学Markkula应用伦理学中心合作 负责任的技术使用： Salesforce案例研究 WHITEPAPER SEPTEMBER2022 图片：Getty，Unsplash Contents 1建立道德和人道使用技术的办公室5 1.1 1.2 1.3 2对Salesforce的政策和产品12产生影响 2.1 2.2推动影响：确定重点重点领域并确定其优先次序13 3将道德嵌入技术实际上是什么样的？14 3.1 3.2 3.3将道德纳入产品设计和开发17 3.4 3.5 3.6 3.7 免责声明本文档由 世界经济论坛是对项目，见解领域或互动的贡献 。此处表达的发现，解释和结论是世界经济论坛促进和认可的合作过程的结果，但其结果不一定 代表世界经济论坛的观点，也不是其成员、合作伙伴或其他利益攸关方的整体观点。 ©2022世界经济论坛。保留所有权利。本出版物的任何部分不得以任何形式或任何方式复制或传播，包括影印和记录，或通过任何信息存储和检索系统。 2022年9月 负责任的技术使用： Salesforce案例研究 前言 凯·费斯-巴特菲尔德 世界经济论坛人工智能和机器学习主管 布莱恩·格林 圣克拉拉大学Markkula应用伦理学中心技术伦理学主任 唐·海德 圣克拉拉大学Markkula应用伦理学中心执行主任 负责任地使用技术已成为第四次工业革命最紧迫的问题之一 。立异在赓续给世界带来伟大好处的同时，也带来了风险和伤害。好消息是，负责任地使用技术的挑战——引导技术走向最佳用途，远离最糟糕的用途——是许多人不仅在谈论而且在采取行动的挑战。 在这一挑战中，世界经济论坛于2018年启动了负责任的技术使用项目，以帮助将商业，民间社会和政府的世界聚集在一起，共同致力于使所有人受益的解决方案。该项目旨在为领导者提供实用工具，以： 1）教育和培训员工更多地考虑负责任的技术，2）设计组织以促进更多的道德行为和结果，以及3）设计和开发更负责任的技术产品。 考虑到这些目标，该项目采取了多管齐下的方法：对99个论坛成员和合作伙伴进行有关其组织道德文化的调查，举办由主要技术公司领导的多个研讨会 分享和收集有关其道德计划的反馈，并发表了几篇论文，包括负责任的技术使用，并与圣克拉拉大学的Markkula应用道德中心合作，设计道德：负责任的技术使用组织方法 ，以及两个先前的案例研究：第一个 这些案例研究分享了企业在技术伦理和负责任的技术方面的知识，并提供了将企业文化引向更深刻的伦理努力的经验宝库。 Inthispaper,wepresentSalesforce’sexperiencedevelopingitsOfficeofEthicalandHumaneUseofTechnology.WewishtothankSalesforceforsharingthemanydetailsofhowdefinedit 它对道德，负责任的技术和社会效益的承诺。我们希望由负责任的技术使用项目创造的资源，特别是这一系列 案例研究，将激励其他人将道德纳入自己的组织，从而导致更道德的决策，更负责任的技术，并最终创造一个更美好的世界。我们欢迎其他希望分享故事的公司加入本系列并为这项工作做出贡献 。 Introduction 毫无疑问，世界正在迅速变化，这种迅速变化正在人类努力的许多领域引发挑战：国际关系，政府和政治，经济，教育 ，医疗保健，通讯和媒体，运输等等。这种快速变化很大程度上是由于具有巨大社会影响的技术的加速发展：人工智能就是一个很好的例子。随着如此迅速的变化，机会和风险出现，如果不仔细考虑，风险有时会变成真正的危害。不用说 ，如果可以防止这些危害，社会会变得更好，但是可以做些什么来避免这些危害呢？一个解决方案是直接进入源头，在那里研究和开发新技术。 并分配给世界-特别是组织本身。 本文是公开介绍主要技术公司的道德和负责任的技术努力的系列文章中的第三篇。Microsoft和IBM已经参加，现在Salesforce正在介绍他们的努力。报告深入 进入实施技术伦理的故事 在Salesforce内部，这家公司从一开始就以强调道德、包容性、可访问性和产生积极影响为荣，但随着技术和周围社会的变化，仍然需要发展。 通过与Salesforce员工的合作以及对他们的许多道德资源的检查 ，本文揭示了Salesforce发生的转变过程，以及道德运作如何通过道德和人道技术使用办公室制度化。 改进的旅程永远不会完成，企业技术伦理领域正在迅速变化 。这些案例研究的目的不是将这些公司提升为无法达到的美德典范——事实上，在每一个案例中，这是一个绊脚石 ，导致每家公司进一步发展。相反，希望是 通过分享他们在环境中让技术伦理“真实”的经验，这些分享的经验可能会帮助那些希望参与类似努力的人。 1 建立伦理和人道技术使用办公室 Salesforce建立了一个积极主动的集中办公室，以管理技术设计，开发和使用中的道德问题。 1.1Salesforce的公司文化和核心价值观 Salesforce成立于1999年，是一家基于云的软件公司，使组织能够利用云，移动，社交，区块链，语音和人工智能 连接到客户的技术。自成立以来，Salesforce领导层一直寻求将业务用作积极变革的平台。创始人打算以价值观引领业务发展。如今，信任、客户成功、创新、平等和可持续发展这五个核心价值观(2022年新增)仍然是企业如何看待自身及其在塑造技术方面的作用的核心。1 然而，随着公司的发展，内部和外部的关键问题开始出现。技术在社会中的作用是什么？谁因使用某些 技术？企业如何真正倾听他们的利益相关者2（客户，员工 ，合作伙伴，社区，地球和社会）不仅仅是股东？ Salesforce除了价值观和良好意图外，还面临着需要资源和行动的问题。这导致了道德和人道技术使用办公室的发展。 BOX11-1-1模型 Salesforce从一开始就强调做好和做得好。1-1-1模式是价值观如何在定义Salesforce文化中发挥作用的一个早期例子。3在 最初，公司的领导者决定将其1％的时间，产品和资源用于慈善事业。这发起了1％的承诺运动，邀请其他企业做出同样的承诺。 今天，全球有超过15,000家公司加入了1%的承诺运动 副标题 。4虽然1%看起来并不多，但参与的规模 businessesenablesthisphanizicefforttomakeanimpact.AtSalesforcealone,morethan$530millioningrants,7000millionhoursofemployeevolunferieringandconductstomore 自公司成立以来，有54,000个非营利组织和教育机构来自1％的 承诺。除此之外，100个国家/地区的10,000多名成员使用了 Pledge 1%的框架产生5亿美元的新慈善事业。5此外，认捐1% 的潜在价值建立了一种社会文化 在公司内部的影响，为更雄心勃勃的积极变革举措铺平了道路。 1.2道德和人道办公室使用起源故事 2018年，科技行业迎来拐点。6在过去两年中，数据在政治和商业中的作用被披露后，人们对政府机构的信任受到侵蚀，这让公众寻求私营部门的答案-特别是在监管方向经常落后于当代技术的能力的情况下。专家，员工和公众提出了许多问题和担忧，可见性达到了历史最高水平。像Salesforce这样的公司不得不面对数据安全、政治两极分化和有争议的政府合同等问题。随着商业世界努力应对，价值观对高层商业决策变得很重要。 关于家庭分离、对寻求庇护者的严厉待遇及其在更广泛的政府使用武力机构中的地位的政策决定。 Salesforce的核心员工小组认为这份合同与公司的某些既定价值观不符，并给首席执行官马克·贝尼奥夫写了一封公开信。 “鉴于目前在边境发生的儿童与父母的不人道分离，”信中写道 。“我们认为平等的核心价值受到威胁，Salesforce应该重新审查我们与CBP的合同关系，并反对其做法。”8 Salesforce的核心员工群体确定了[美国海关和 边境保护]合同不兼容 与公司的一些既定价值。 Atthesametime,consumershadmoreaccesstoinformationaboutthebusinessestheysupportedandfeltmoreempoweredtoholdthemaccountablefortheiractions.Stakeholdershadconcerns, 随之而来的是对企业行为的期望。当人们花钱时，他们希望对与他们的价值观相一致的企业有更大的信心。采取行动的呼吁也来自专业领域，员工通过抗议，公开信和辞职表达了他们的担忧。7 对于Salesforce，最明显的地方之一是该公司与美国海关和边境保护局（CBP）联邦机构的持续合同。该机构是头条新闻 对于组织和签署这封信的人来说，这是一个关键时刻。公开信的作者之一艾米丽·威特回忆说，要求该公司研究如何使用其所有产品，打破不平等并建立护理基础。作为设计师和研究人员，威特和其他作者认识到技术设计会影响其使用，他们在信中不仅倡导道德使用政策，还倡导产品设计和开发过程。 凭借致力于这一愿景的资源，该公司的道德使用团队现在正在努力建立这些基础，以确保将道德和包容性实践融入其产品中。 这封信强调了Salesforce的员工对公司对世界的影响的兴趣。Salesforce与政府政策或政策实施的关系对其员工很重要；在这种情况下，他们积极地表明了自己的立场。 ThoughnotthefirstorlastsuchissuethatSalesforcewouldneedtonavigate,thiswasanimportantmoment.Withtheemployeeletterastheproductor,Benioffdecidedthattherightmovewasnottoplay“ethicalwhack-a-mole”(acommon 贝尼奥夫通过解决影响不同业务领域的个人问题来说明挑战） 。相反，最好创建一个能够主动识别新兴技术道德趋势并采取行动的集中式办公室。凭借投入的资源，该办公室可以确保员工有能力继续在Salesforce的决策中发挥积极作用，并更广泛地管理Salesforce技术的设计，开发和使用中的道德问题。 贝尼奥夫宣布成立道德和人道使用办公室，9被领导Salesforce的第一位首席道德和人道使用官。该办公室将在Salesforce的平等办公室内创建10首席平等官TonyProphet带头. 通过与首席执行官的直接联系，团队对最高水平的业务和影响力有了广泛的洞察力。先知被授权创建一个结构，以确保Salesforce的技术被用来帮助而不是伤害社会，并维护 每个人的基本权利。最终，公司的道德工作被嵌入到它今天生活的产品组织中。 作为这项工作的一部分，该公司采取了图1中概述的几个关键步骤。 技术在第四次工业革命中的道德和人道使用是前进的方向-不仅对我们的行业，而且对人类。我们必须确保技术加强我们的社会，而不是削弱社会。技术需要改善人类状况，而不是破坏人类状况。 MarcBenioff，Salesforce董事长兼联合首席执行官11 Figure1基础和组织时间表：2018 2018年6月 关于美国海关和边境保护局的员工公开信 2018年7月 马克·贝尼奥夫宣布平等办公室道德和人道使用办公室 2018年10月 消费者调查导致道德领导力和商业研究报告 November2018 SFDC在论坛上主持首次负责任地使用技术 2018年12月 聘请PaulaGoldman担任首席执行官 道德和人道使用办公室转向TMP组织内的产品战略和运营团队，以更直接地影响产品政策，设计和开发 Present 2016 AI研究组织开始形成道德AI实践 2018年8月 2018年10月 伦理使用原则和框架 全公