趋势线：数字化道德

趋势线：数字道德 “不伤害”还不够好-将道德建设到您的组织中的实用指南 （12分钟阅读） AvanadeTrendlines：数字道德 执行摘要 如果你相信技术可以而且应该最终对世界产生积极影响，那么应对日益增长的技术反弹的最佳方法是在你的组织中采用数字道德原则和行为。 在过去的三年中，埃维诺积极参与数字道德，因为道德问题现在每天都在关于我们如何制造和部署尖端技术的辩论中出现。这些辩论涵盖了广泛的问题，例如越来越多地使用监视和个人数据，防止错误信息活动和网络欺凌，以及减少对环境的影响和浪费。 但是，在我们辩论的同时，这些问题只会变得越来越复杂和紧迫。而且，不道德做法的幽灵开始动摇客户 ，员工和政府官员的信心，即数字创新是一件好事。如果您相信技术可以而且应该最终对 在世界范围内，应对日益增长的技术反弹的最佳方法是在您的组织中采用数字道德原则和行为。 我们之前的趋势报告定义了数字道德，并强调了将道德纳入新兴技术的设计和采用的好处。这份新报告解释了当今最关键的数字道德问题的紧迫性，为您提供了一个起点，使您的数字道德工作与公司的目标和价值观保持一致，并展示了如何在现有流程中实施良好的数字道德实践。这是关于影响大型组织的设计、创新和技术选择的新兴趋势的AvaadeTredlies系列中的最新产品。 2 AvanadeTrendlines：数字道德 桥接技术和信任 想象一下，你已经完全同步你的生活与一个单一的数字代理。当你准备好的时候，它会在早上跟踪你的房子，并提供关于穿什么和吃什么的建议；你要求它找到一辆可用的车，然后开车送你到镇上的一个共同工作空间；它将你与你的团队和工作中一个重要项目的关键信息无缝地连接起来；在你的午休时间，你批准数字代理为你和你的家人计划的急需的假期付款 。 现在想象一下，你使用的家庭安全公司的员工看着你和你的家人准备好并于当天早上离开你的家；在你开车的过程中，你听到了药物广告，以减轻你没有告诉任何人的个人疾病；你已经被自动管理引擎从工作中退出了关键团队项目；没有任何解释，你的银行阻止了你即将到来的假期的付款。 您是否想知道您听到的广告是基于种族或年龄概况，还是从您家中收集的某些特定个人信息？您是否想知道银行是否取消了您的 假期付款是因为工作中的情况看起来不好吗？工作中的坏消息是否也与您的医疗问题有关？您甚至会在哪里开始尝试解决这些问题？ 科技行业正在以惊人的创新向前发展，而没有考虑其速度的后果。我们依靠软件来执行我们只会要求我们最信任的朋友和专家解决的任务，但它值得我们信任吗？尽管无数的例子使这种盲目的奉献使我们失败，但我们已经显示出重复过去错误的迹象，并且对我们想要创造的未来没有足够的思考。考虑以下内容：。 •安全和隐私已成为企业的当务之急；现在是数字道德的时候了.在过去二十年中，安全和隐私泄露事件几乎源源不断之后，科技行业终于采用了新技术的“内置而非螺栓”安全和“设计隐私”的口头禅。虽然我们仍在努力防止对脆弱系统的攻击，但与技术道德失误造成的损害相比，安全和隐私泄露的后果将是苍白的。 与我们目前正在部署的技术中的道德失误造成的损害相比，安全和隐私泄露的后果将变得苍白。 3 AvanadeTrendlines：数字道德 我们目前正在部署。例如，与数据泄露后不得不更换信用卡的不便相比，只需考虑基于有偏见的算法对拒绝信用的人的毁灭性影响。 •“不伤害”是一个毁灭性的短视目标。科技行业中的许多人都采用了这种虚假的灯塔，认为他们可以制造中立的技术，将它们交给值得信赖的客户，并保持他们的良心。但我们仍然看到人们使用所谓的“中立”技术造成有意和无意的伤害 （但可以预见）（还要记住，人为错误是大多数安全和隐私泄露的原因）。因此，知道技术能力和用例在不断发展 ，仅仅不造成伤害是不够的；开发人员和实施者必须建立适当的结构，以识别和阻止对其产品的任何潜在滥用。 发现需要关注的问题，但到目前为止，它已经落在我们需要探索的空间的一小部分上。值得注意的是，道德人工智能和隐私是数字道德讨论的典型主题。但是，如果我们要公平地为所有受技术影响的利益相关者应用道德过滤器，我们将不得不更广泛地研究人民（如隐私，可访问性，包容性，心理/身体健康，财务状况等），社会(如政治、教育、劳动力、经济、执法、军事等)和环境 （如能源、材料、污染、废物等）。 因此，知道问题有多紧迫，问题仍然存在：我们如何在不扼杀公司生产或业绩的情况下应对这些道德挑战？ 我们如何在不扼杀公司生 产或业绩的情况下应对这些道德挑战？ 4 •数字伦理讨论过于狭窄。关于数字道德的一个有希望的焦点已经出现 数字道德不仅需要遵守法律和管理风险 数字伦理的动机 规则 风险 原则 我们遵循法律法规，并依靠免责声明来避免法律处罚。 我们执行超出法律要求的政策，以避免品牌损害和其他损失。 我们努力为所有相关利益相关者做正确的事情，以建立人们信任的品牌。 示例：更新隐私政策和免责声明，以避免GDPR罚款并防止客户诉讼 示例：更新隐私政策和通知，以避免可能降低客户忠诚度的“爬行”因素 示例：更新隐私政策，让客户更好地理解和控制数据共享和使用 规则和法规最初激励大多数公司实践良好的数字行为。更成熟的组织有动力降低不良道德行为可能代价高昂的风险。 但最终，领导者意识到良好的数字道德实践也可以创造价值。 到目前为止，公司努力实践良好的数字化 行为几乎与规则和条例完全一致。但由于监管监管远远落后 ，公司很容易遵守法律，仍然有意无意地采取不道德的行为 。更成熟的组织甚至可能更进一步，努力降低运营、品牌和战略风险，而不仅仅是法律风险。但这些只是保护股东价值的策略；它们并没有培养良好的文化。 行为。如果我们想build对于股东和其他利益相关者的价值，我们必须遵循道德原则;因为人们比以往任何时候都更希望为道德操守的公司工作，投资，购买并居住在附近。 例如，一家中型金融服务公司的首席信息官表示，他成立了一个数字道德委员会，因为客户开始询问公司的安全控制 ，然后是隐私实践，然后是道德考虑，如 首先，委员会的主要目标是保护公司的良好声誉，并且在与客户和潜在客户交谈时，他们将自己的努力视为竞争优势。 AvanadeTrendlines：数字道德 如果我们想为股东和其他利益相关者创造价值，我们必须遵循道德原则。 AvanadeTrendlines：数字道德 我们必须改变，这意味着更多地谈论道德 在我们的职业和个人生活中，我们通过描述我们关心的东西，我们已经取得的成就以及我们希望的东西来相互联系。软件工程师可能会谈论他喜欢的语言和库;CTO可能会描述她实施新区块链应用程序的计划。但是，我们多久会在简历中包含道德成就，作为设计研讨会的目标，作为求职者面试的问题？我们应该致力于采用框架，程序和指标，以帮助我们在所有技术决策中考虑道德。但首先，我们必须谈谈为什么这样的努力如此重要： •首先用明确的术语定义你的价值观。您的组织应该已经有一套书面价值观；您的工作是将这些价值观转化为数字道德指导原则。具体来说，重视透明度的公司可能会优先考虑 可解释的人工智能；包容性的企业价值将表明对数字可访问性的投资；对环境责任的主张可能会转化为低能耗和低浪费的技术。例如，一家欧洲饮料公司的电子商务总监表示，他的组织很容易对个人客户进行分析，但由于全公司对社会责任的承诺，他们只使用匿名数据来跟踪地区趋势和偏好，避免了隐私侵犯的可能性。 •解释这些值应该如何在文化中体现。要完成您定义的目标 ，您需要整个组织的参与。告诉设计人员，开发人员，实施者和操作员您期望他们的行为，并为他们提供必要的 在Scrum会议期间审查目标，跟踪实施后的绩效，并为参与的每个利益相关者提供渠道-包括用户和客户-在此过程中提出问题和关注。 •需要透明度来建立信任。在整个产品或项目生命周期中，不可避免地会有困难的决策和权衡。虽然你永远不会达到完美，但你最好的选择是解释你选择的理由，然后让你的员工、客户、投资者和其他利益相关者决定你的方法是否符合他们对你的期望。当他们用时间和金钱投票时，你会知道你什么时候做出了正确的选择。 AvanadeTrendlines：数字道德 现在要做什么： 立即开始将数字道德嵌入到您的组织和流程中 我们已经有很好的模式可以遵循。当我们构建技术时，我们有质量审查和安全测试。我们在设计阶段评估风险，并在发布前衡量合规性。围绕所有这些努力，我们有治理结构、指标和审计。我们做出调整，以确保我们的项目达到预期目标。现在，我们只需要扩展我们的目标，包括道德。根据您的组织已经遵循的标准和流程，这看起来会有所不同，但是与设计，构建，部署和操作技术有关的每个功能都将发挥作用。 例如，一家领先的欧洲服装公司的全球高级工程副总裁说 ，他的组织拥有100多种内部技术产品，拥有自己的工程团队，技术负责人和ScrumMaster。他们做了 对产品进行初步评估，以确定是否让道德团队也参与其中，因为他们可能会参与涉及客户推荐和个性化体验的项目。在这些情况下，他们寻找尽可能透明的方法来了解他们正在使用的数据以及如何使用的数据，为客户提供一种简单的方法来选择退出流程。该公司将这些努力视为其“客户痴迷”的一部分。." 下图显示了组织如何将道德考虑因素添加到其现有的IT治理结构中。 与设计，构建，部署和 操作技术相关的每个功能都在数字道德中发挥作用。 8 道德是每个人的工作：如何将其应用于现有的IT治理结构 设定企业价值观以指导道德决策 。 包括有关道德问题和期望的见解。 员 客户合作伙伴 公司领导 技产术品领和导投力资组合管理 Design 将价值观转化为目标、政策等。 分配 审 迪 价值观和道德 考虑所有利益相 道德准则进行设计。 现有的IT治理结构 数字伦理考虑因素 项目管理 质量、安全性 、合规性审查 包括不同的利益 道 流 道德程和控制。 德 运营/生产客户服务影响 强化价值观 收集和报告反馈 o告 AvanadeTrendlines：数字道德 在理解需求和设计解决方案时，要尽可能包容各方，为所有利益相关者带来积极成果，并要求任何困难决策的透明度。 接下来要做什么： 为积极的结果创造偏见 您的技术与世界互动的方式将取决于您使用的数据，技术交流的语言以及您教它实现的目标。所有这些因素都包含偏见，这些偏见可以帮助或阻碍公司的绩效和道德地位。你必须做出的许多决定都是困难的，正如2500多年的哲学研究证明的那样 ，通常不会有明确的行动方针。您赞成公平还是平等？赋予个人权力还是保护社区？知道没有明确的“正确”或“错误”数字道德决策指南，以下是确保最佳结果的方法： •想办法让偏见带来积极的结果。挑出特定人群的系统不一定是坏的；毕竟，目标营销就是从普通人群中挑选可能的买家。挑战在于这些偏见导致不公平的待遇。例如，某些历史上曾经 在某些算法中，被信贷行业忽视或不公平对待可能会显得不太值得信贷。但是，从更积极的角度使用类似的分析可能会将这一群体识别为更值得信贷监控、金融知识或其他有益的服务。选择最符合公司价值观的结果。 •根植长期偏见硬连接到您的开发生命周期。除了偏见和歧视之外，一些最阴险的偏见可能是长期造成间接但最终有害影响的偏见。例如，产品团队可能会被告知优先考虑快速用户采用、美学质量和用户隐私。这些优先事项似乎有积极的意图，没有重大的道德影响。但是，从长远来看，它们可能与产品质量，环境责任和国家安全直接冲突。在选择时可能会有很多细微差别和妥协。 如何进行，并超越季度目标，展望您的组织对世界的最终影响，将有助于指导更富有成果的对话。 •优先考虑包容性、透明度和监督。在道德上具有挑战性的问题上，你能做的最好的事情是在理解需求和设计解决方案时尽可能地包容；你的团队越多样化，你就越有可能识别潜在的问题并提出最有利的解决方案。尽可能为所有利益攸关方带来积极成果，并要求任何困难或潜在有争议的决定具有透明度。最后，将这些原则构建到您