Salesforce案例研究(英文版)

与美国圣克拉拉大学马克库拉应用伦理中心合作 负责任的使用技术:Salesforce的案例研究 WHITEPPER SEPTEMBEr2022 图片:盖蒂,Unsplash 内容 1建立道德和人道的技术使用办公室5 1.1 1.2 1.3 2在Salesforce的政策和产品方面产生影响12 2.1 2.2推动影响。确定并优先考虑关键的重点领域13 3将伦理嵌入技术中实际上是什么样子？14 3.1 3.2 3.3在产品设计和开发中嵌入道德规范17 3.4 3.5 3.6 3.7 免责声明本文发表的 世界经济论坛作为对某一项目、洞察力领域或互动的贡献。本文所表达的结果、解释和结论是由世界经济论坛推动和认可的合作过程的结果，但其结果不一定是 代表世界经济论坛的观点，也代表其成员、合作伙伴或其他利益相关者的全部观点。 ©2022年世界经济论坛。保留所有权利。本出版物的任何部分均不得以任何形式或手段，包括影印和录音，或通过任何信息存储和检索系统进行复制或传播。 2022年9月 负责任的使用技术: Salesforce的案例研究 前言 凯Firth-Butterfield 世界经济论坛人工智能和机器学习部负责人 布莱恩绿色 圣克拉拉大学马克库拉应用伦理中心技术伦理主任 不海德 圣克拉拉大学马克库拉应用伦理中心执行主任 负责任地使用技术已成为第四次工业革命中最紧迫的问题之一。在创新不断给世界带来巨大利益的同时，它也带来了风险和危害。好消息是，负责任地使用技术的挑战--将技术引向其最佳用途并远离其最坏的情况--是许多人不仅在谈论而且在采取行动的问题。 在这一挑战中，世界经济论坛于2018年启动了负责任地使用技术项目，以帮助企业界、民间社会和政府一起努力实现有利于所有人的解决方案。该项目旨在为领导者提供实用的工具，以便：1:1）教育和培训他们的员工更多地思考负责任的技术，2）设计他们的组织以促进更多的道德行为和结果，以及3）设计和开发更负责任的技术产品。 考虑到这些目标，该项目采取了多管齐下的方法：对99个论坛成员和合作伙伴进行了关于其组织的道德文化的调查 ，举办了多个由主要技术公司牵头的研讨会 以分享和收集对其道德计划的反馈，并发表了几篇论文，包括《技术的负责任使用》，以及与圣克拉拉大学马克库拉应用道德中心合作发表的《设计的道德》。负责任地使用技术的组织方法》，以及之前的两个案例研究：第一篇 在这本书中，有两篇关于微软和IBM的文章。这些案例研究分享了企业在技术道德和负责任的技术方面的知识，并提出了引导企业文化走向更深刻的道德努力的经验宝库。 在本文中，我们介绍了Salesforce公司发展其"技术的道德和人性化使用办公室"的经验。我们要感谢Salesforce公司分享了许多关于它如何深化 它对道德、负责任的技术和社会利益的承诺。我们希望"技术的负责任使用"项目所创造的资源，特别是这一系列的"技术的负责任使用"项目，能够为我们带来更多的好处 。 案例研究，将激励其他人将道德规范纳入他们自己的组织，从而导致更多的道德决策，更负责任的技术，并最终建立一个更美好的世界。我们欢迎其他希望分享其故事的公司加入这个系列，为这项工作做出贡献。 介绍 毫无疑问，世界正在迅速变化，这种快速变化正在引发人类许多领域的挑战：国际关系、政府和政治、经济、教育、医疗保健、通信和媒体、交通等等。这种快速变化在很大程度上是由于具有巨大社会影响的技术的加速发展：人工智能就是一个最好的例子。随着这样的快速变化，机会和风险都出现了，如果不仔细考虑，风险有时会变成真正的伤害。毋庸置疑，如果这些伤害可以被预防，社会就会变得更好，但如何才能避免这些伤害？一个解决方案是直接进入源头，在那里研究、开发新技术 并分发给全世界--特别是各组织本身。 本文是公开介绍主要科技公司的道德和责任技术努力的系列文章中的第三篇。微软和IBM已经参与，现在Salesforce也在介绍他们的努力。该报告深入探讨了 融入技术伦理运作的故事 在Salesforce内部，这家公司从一开始就以强调道德、包容、可及性和产生积极影响为荣，但随着技术和周围社会的变化 ，仍然经历着成长的需要。 通过与Salesforce员工的合作以及对其许多道德资源的检查，本文揭示了Salesforce发生的转变过程，以及道德的可操作性如何通过技术的道德和人道使用办公室而变得制度化。 改进的旅程永远不会结束，企业技术道德领域正在迅速变化 。这些案例研究的目的不是要把这些公司抬高为高不可攀的美德典范--事实上，在每个案例中，都是一个趔趄导致每个公司进一步成长。相反，我们的希望是 通过分享他们在自己的环境中使技术伦理"真实"的经验，这些分享的经验可能会帮助其他希望从事类似工作的人。 1 建立道德和人道的技术使用办公室 Salesforce建立了一个积极的、集中的办公室，以管理技术设计、开发和使用中的道德问题。 1.1Salesforce的企业文化和核心价值观 Salesforce成立于1999年，是一家基于云的软件公司，使企业能够利用云、移动、社交、区块链、语音和人工智能的优势。 技术来连接他们的客户。自成立以来，Salesforce的领导层一直在寻求将企业作为一个积极变革的平台。创始人打算以价值观为主导来发展企业。今天，信任、客户成功、创新、平等和可持续发展（2022年新增）这五个核心价值观仍然是企业如何设想自己及其在塑造技术方面的作用的核心。1 然而，随着公司的发展，关键问题开始出现，无论是内部还是外部。 技术在社会中的作用是什么？哪些人因使用某些技术而获得权力或受到伤害？ 技术？企业如何才能真正听取利益相关者的意见？2(客户、员工 、合作伙伴、社区、地球和社会）而不仅仅是股东？ Salesforce公司面临的问题是，除了价值观和良好意愿之外，还需要资源和行动。这导致了"技术的道德和人道使用办公室"的发展。 箱11-1-1模型 Salesforce从一开始就强调做好事和做好人。价值观在定义Salesforce文化方面发挥作用的一个早期例子是1-1-1模式。3在在最早的时候，该公司的领导人决定将其1%的时间、产品和资源用于慈善事业。这发起了"承诺1%"运动，邀请其他企业做出同样的承诺。 今天，全世界有超过15000家公司加入了"承诺1%"运动。4 小标题 虽然1%可能看起来不多，但参与的规模 企业使这种慈善工作产生了影响。仅在Salesforce公司，就有超过5.3亿美元的赠款、7000万小时的员工志愿服务和对更多国家的捐赠。 自公司成立以来，超过54,000个非营利组织和教育机构都来自1%的承诺。除此以外，100个国家的10,000多名会员已经使用认捐 1%的框架为新的慈善事业带来5亿美元的收入。5此外，认捐 1%的潜在价值建立了一种社会文化。 在公司内部的影响，为更雄心勃勃的积极变化的举措铺平道路。 1.2道德和人道的使用办公室的起源的故事 2018年，科技行业迎来了一个拐点。6在过去两年中，数据在政治和商业中的作用被揭露后，人们对政府机构的信任度不断下降，这使得公众向私营部门寻求答案--尤其是在监管方向经常落后于当代技术能力的情况下。由于专家、员工和公众提出了许多问题和担忧，可见度达到了前所未有的高度。像Salesforce这样的公司不得不面对数据安全、政治极化和有争议的政府合同等问题。在商业世界努力应对的同时，价值观对高层商业决策变得非常重要。 这对有关家庭分离的政策决定、对寻求庇护者的苛刻待遇以及其在政府使用武力的更广泛机制中的地位至关重要。 一批核心的Salesforce员工认为这份合同与公司的一些既定价值观不相容，并撰写了一封致CEO马克-贝尼奥夫的公开信。 "鉴于目前在边境发生的非人道的儿童与父母分离事件，"信中写道。"我们认为，我们的平等核心价值处于危险之中，Salesforce应该重新审查我们与CBP的合同关系，并公开反对其做法。"8 一个由Salesforce员工组成的核心小组确定了[美国海关和税务局]。 边境保护局)合同是不相容的 一些公司规定的值。 同时，消费者有更多机会了解他们所支持的企业的信息，并感到更有能力让他们对自己的行为负责。利益相关者有担忧 。 他们对企业行为的期望也随之而来。当人们花钱时，他们希望有更大的信心，相信这些钱是花在与他们的价值观一致的企业身上。职业界也发出了行动呼吁，员工通过抗议、公开信和辞职来表达他们的关切。7 对Salesforce来说，最明显的地方之一是该公司与美国海关和边境保护局（CBP）的持续合同。该机构是头条新闻 对于组织和签署这封信的人来说，这是一个关键时刻。公开信的作者之一艾米莉-维特回忆说，她要求该公司检查它是如何使用其所有产品的，打破不平等，并创造一个关爱的基础 。作为设计师和研究人员，维特和其他作者认识到，技术设计影响其使用，在信中不仅倡导道德使用政策，而且倡导产品设计和开发过程。 由于有专门用于这一愿景的资源，该公司的道德使用团队现在正努力建立这些基础，以确保将道德和包容性做法纳入其产品。 这封信强调了Salesforce公司的员工对公司对世界的影响的关注 。Salesforce与政府政策或政策实施的关系对其员工来说很重要 ；在这种情况下，他们积极表明了自己的立场。 虽然这不是Salesforce需要处理的第一个或最后一个此类问题，但这是一个重要时刻。有了这封员工信作为催化剂，贝尼奥夫决定，正确的做法是不玩"道德打地鼠"（一种常见的游戏）。 贝尼奥夫说明了这一挑战），解决个别问题，因为它们影响到企业的不同领域。相反，最好是建立一个集中的办公室，能够积极主动地识别新出现的技术道德趋势并采取行动。通过投入资源，该办公室可以确保员工感到有能力继续在Salesforce的决策中发挥积极作用，并在Salesforce技术的设计、开发和使用中更广泛地管理道德问题。 贝尼奥夫宣布成立一个道德和人道使用办公室。9是由Salesforce有史以来的第一位首席道德和人道使用官。该办公室将在Salesforce的平等办公室内设立。10并由首席平等官托尼 -先知带头。 有了这条直接通往首席执行官的线路，该团队对业务有了广泛的了解，并在其最高级别上具有影响力。Prophet的任务是创建一个结构，以确保Salesforce的技术被用来帮助而不是伤害社会 ，并维护 每一个人的基本权利。最终，该公司的道德工作被嵌入到其产品组织中，并延续至今。 作为这一努力的一部分，公司采取了图1中概述的几个关键步骤。 在第四次工业革命中，以道德和人道的方式使用技术是前进的方向--不仅对我们的行业，而且对人类。我们必须确保技术能够加强我们的社会，而不是削弱它们。技术需要改善人类状况，而不是破坏它。 董事长兼ceo马克•贝尼奥夫,Salesforce11 数字1基础和组织时间表:2018 2018年6月 关于美国海关和边境保护局的员工公开信 2018年10月 2018年7月 马克-贝尼奥夫宣布在平等办公室设立道德和人道使用办公室 消费者调查产生了道德领导力和商业研究报告 2018年11月 SFDC在论坛上首次举办负责任地使用技术的会议 2018年12月 雇佣Paula高盛首席官 伦理和人道使用办公室转移到TMP组织内的产品战略和运营团队，以更直接地影响产品的政策、设计和开发。 2018年10月 2018年8月 现在 伦理人工智能、产品可及性和包容性设计组织移至伦理与人道利用办公室下 ，以整合各项工作 道德的使用原则和框架相比普通公司员工信心调 伦理使用咨询委员会成查立 2016 人工智能研究组织中开始形成有道德的人工智能实践 资料来源:世界经济论坛 负责任地使用技术。销售人员的案例研究7 我们最初是一个小规模的团队，致力于从围绕科技在解决道德使用问题方面的模糊性中创造秩序。在Salesforce的大力投资下--我们的首席执行官的授权、整个员工群体的能见