我们如何减轻人力资源组织中的人工智能偏见？

人工智能点火 点燃你的AI与KeithSonderling好奇心 见面有Ammanath:大家好，我叫BeenaAmmanath，我领导着我们的全球德勤人工智能研究所。今天在AIIgnition上，我们有美国平等就业机会委员会（EEOC）专员KeithSonderling。他还是乔治华盛顿大学法学院的兼职教授。在2020年向EEOC确认之前，桑德林专员在进入该部门之前曾担任美国劳工部工资和工时部门的代理和副局长，桑德林专员是佛罗里达州的一名劳工和就业律师，就就业事宜向公司提供咨询。自加入EEOC以来，Sonderling专员的首要任务之一是确保人 工智能和工作场所技术的设计和部署符合长期存在的民权法。基思，很高兴今天有你参加节目。让我们从你的背景开始。你有一个非常广泛的背景。您在法律领域拥有成功的职业生涯，然后在您担任EEOC专员之前在美国劳工部工作。您能描述一下您在EEOC中的角色吗？为什么您现在将办公室的注意力集中在人工智能上 ？ KeithSonderling专员:谢谢你邀请我。我的整个职业生涯都在从事劳动和就业法。这就是我所做的一切，这就是我所知道的一切。因此，当我在佛罗里达州时，我是一名管理方面的劳动和就业律师。所以我在防守 公司和诉讼，并就劳动和就业问题与公司和人力资源部门进行咨询。因此，当我在2017年搬到华盛顿特区加入美国劳工部时，你可以想象这对我来说是多么的经历，作为一名劳动和就业律师，现在能够在与雇佣法相关的所有领域制定全国性政策。然后我被提名为平等就业机会委员会的委员，我必须通过参议院的确认，两年前的2020年9月我得到了确认。 我在华盛顿，所以很容易谈论所有这些政府机构的汤。但平等就业机会委员会是一个独立的机构。我们的使命是防止和纠正非法就业歧视，促进所有人在工作场所的平等机会。因此，我们在这里执行的法律不仅适用于员工，也适用于申请人。它防止对所有大件物品的歧视：种族、肤色、宗教、性取向和性别认同、怀孕、国籍、年龄、残疾，并适用于劳动力中的所有内容。所以招聘、解雇、晋升、培训、工资、福利。它还可以防止报复和骚扰。所以我们有很多事情要做。薪酬歧视，当你想到新闻中的一些重大问题时，比如女子足球队，所有的工作场所骚扰，包括针对女性、怀孕工人和老年工人的骚扰。 然后，有了新冠病毒，一切都与你有关。员工想要的所有住宿、远程工作、疫苗接种、护理人员问题。所以这真的是我们。我想说，我们是世界上工作场所的首要民权机构，因为我真的相信这一点。所以这通常是我们盘子里的东西，这就足够了。所以，你可能想知道为什么我在关于人工智能的播客上，因为你没有听到我把它列为受保护的类别之一。但是，对我来说，自从加入EEOC以来，我真的把解决人工智能在工作场所的使用作为我的首要任务。我一直在为此制造很多噪音，因为 真的很好的理由。我在这里谈论人工智能的原因，以及我们将更广泛地谈论政府关注人工智能的原因，是人力资源部门、首席人力资源官和公司特有的。人工智能参与员工的决策周期。 而且已经很多年了。但是现在这项技术，我们将讨论它，以及大流行如何真正推动我们前进正在大规模使用。新产品不断上线，实际上，购买这些产品的雇主，制造这些产品的供应商以及受到这些产品影响的员工，没有指导方针，没有最佳实践。很多人对使用这项技术的法律后果没有普遍的潜在意识。所以，我从我的背景中提高了对这一点的认识，我想看到这项工作，我想看到这种蓬勃发展。这就是未来。公司将不得不在人力资源中使用人工智能，就像你在播客中讨论他们如何在所有业务线中使用人工智能一样。但这里的区别是，当你在人力资源中使用人工智能时，而不是将其用于业务线，你正在处理这个国家一些最基本的公民权利。这就是进入劳动力市场并在劳动力中茁壮成长的能力。所以我希望看到这种繁荣，我希望它起飞。所以这就是为什么我把我们必须处理的其他事情都放在了这个问题上。我只是认为开始讨论这些问题非常重要。 见面有Ammanath:基思，你知道，我们听到了很多关于人工智能和未来工作及其对劳动力的影响，你看到这些关于机器人接管世界和机器人取代人类工人的大头条新闻，你正处于其中，在某种程度上处于未来工作的关键。右？那么，您能否为我们的听众介绍当今人力资源中如何使用基于人工智能的技术，特别是劳动力招聘、招聘面试、筛选部分。它如何改变未来的人力资源技术？ KeithSonderling专员:你提出了这么好的观点。很多头条新闻，我也读过，都与机器人取代工人有关，你想想工厂里所有这些机器人的愿景，那里已经没有人了。看，这就是公司听到的。上面有很多统计数据。我们都知道世界经济论坛关于人工智能将如何取代8500万个工作岗位的统计数据。现在所有的研究表明，机器人自动化比拥有工人便宜得多。所以，这是一场对话。无论这是否会发生，这都是一场未来主义的对话。我们现在开始看到它了。但我真正关注的，我今天想谈谈的是人 工智能歧视潜在工人和现有工人的潜力。 因为无论你是否意识到，人力资源软件、人力资源技术中都有人工智能，它可以做出人力资源中人类做出的所有决定。所以，有软件可以编写工作描述，我们将讨论所有这些。筛选简历，它与申请人聊天，进行工作面试，然后现在有软件可以预测员工是否会接受报价，员工将接受多少报价，该员工应该位于该国何处，该员工应该位于办公室本身。还有一些有争议的边缘技术可能会预测一个同事将如何与其他同事相处。但是，当员工在那里时，突然间人工智能正在评估他们的技能，评估他们的潜在技能，跟踪他们的生产力，进行他们的绩效评估，并挑选很多时候谁会得到这些，另一个人力资源流行语，提高技能和再培训机会现在非常受欢迎 。甚至还有人工智能软件，如果员工没有达到预期，它会告诉他们他们被解雇了。所以，这不是关于未来的对话。这是现在。如您所知，每种产品都有供应商，有数十家供应商将向您的公司出售我描述的软件。这在很大程度上是因为雇主需要让员工重返劳动力市场。现在，员工希望雇主教他们新工作，在公司内部成长，以及现在劳动力所需的大规模招聘，对于一家需要雇用成千上万工人的公司来说，人类几乎不可能做到这一点。 你没有另外一千名工人来面试可能申请的10，000名候选人。然后，即使在管理方面，特别是现在有了这些全球劳动力，我知道你们非常深入地参与其中，24/7管理和监控，以及对这些工人的跟踪几乎是人类无法完成的。所以这就是为什么我试图提高人们对此的认识，你买什么？你怎么买？你打算用它来做什么？因为正如我们将要讨论的，这些产品有很多潜在的伟大之处，可以消除我的机构关心的东西，即偏见，而且，我们不希望它比人类歧视更多。 见面有Ammanath:我们当然见过一些这样的大标题场景，比如说一个简历解析算法产品发布了，它显然是有偏见的，因为当你查看历史数据时，我们有点携带和记录历史数据中存在的偏见。那么，你如何创造一个我们希望它成为我们想要的未来，而不一定是复制过去的未来。你如何确保我们过去的偏见不会蔓延到我们想要在今天构建的工具中创建的未来。 KeithSonderling专员:这是一个很好的观点。其他行业使用的许多人工智能偏见整体上都是从我的领域举的例子。但我认为在这里摆桌子很重要，特别是对我来说，我个人的观点是，如果我们能仔细 设计AI，然后我们就可以正确使用它。所以有两个部分。有设计部分，它将涵盖你如何制作它，无论是算法还是数据端，然后是正确的使用部分，谁在控制它？您实际上是如何使用它的？您是将其用于预期目的，还是将其用于其他潜在的非法方式？所以，我认为理解那里的两个差异很重要。但对我来说，如果它符合精心设计和正确使用我的空间，它确实有潜力。 通过降低非法歧视的风险，促进多样性、包容性、可访问性，以及企业现在真正关心的所有事情。 你是怎么做到的？通过消除歧视性的人，通过从这个等式中删除人类和潜在的偏见。但与此同时，你可以翻转我刚才所说的一切。如果它设计得很差，我会给你举个例子，有糟糕的数据集，歧视性算法，允许你区分一个中立的数据集，或者如果它被粗心地实施，允许人们访问它做出可能约束那些不应该做出这些歧视性决定的公司，它可以在远远大于任何个人人力资源专业人士的规模和程度上歧视。退一步说，我知道我们在这里谈论的是技术，但不要忘记，很多问题与我们现在在人力资源部门与人类的问题相同，对吧？关于做出这些歧视性决定。所以，分析并不遥远，但在人力资源领域，突然之间，你提到的数据正在发挥作用。因为，有一个糟糕的人力资源决定，让我们退后一步。 后果，这没有任何技术，如果你歧视某些工人，宗教，国籍，它会产生可怕的后果。它创造了一个有毒的工作环境。这可能会损害您的盈利能力。头条新闻，我们看到MeToo运动对公司和职业的破坏性有多大，但它与人工智能相同，它只取决于你如何使用它以及你用来做出这些决定的数据和信息。所以这就是我真正想提高人们的认识，是的，这是新技术。是的，这是未来主义的。是的，它有助于扩展一切，但与此同时，基础知识，1960年代民权法的基本原则适用于这些技术，就像自1960年代法律通过以来一样，人们只是用笔和纸做决定。所以这是一个我真正试图提高认识的概念，因为有时随着技术的发展，它会遥遥领先，你会说，“嗯，我们现在需要新的法律。我们需要新的法规。好吧，让我们放慢一分钟，让我们将其与长期以来做出的决定进行比较。 见面有Ammanath:你是否也考虑过人类与机器一起工作的概念？当你拥有人工智能来完成人类的部分工作时，人类和机器如何最有效地协同工作？这也是你考虑的事情吗？ KeithSonderling专员:我从这样一种角度来看，当雇主自动化时，你不能对人力资源技术有一个设定而忘记它的方法。也许你可以，为了构建一些东西，也许你可以浏览数千页的文档，寻找图像或文字。但是当涉及到这项技术时，人类仍然必须处于循环中。因为它仍然需要检查算法正在做出的决策，算法正在使用的数据 ，然后，我们将在几个地方讨论，关于整个工作场所的监控和使用人工智能来跟踪生产力。该员工没有按照应有的方式表现有什么原因吗？计算机能理解这可能是因为员工怀孕了吗？计算机能否理解这可能是因为员工是残疾人，需要住宿？人类会。所以，我认为这是非常重要的，特别是在我的领域，与用于就业决策的人力资源技术有关，继续意识到必须有那个人在循环中。 见面有Ammanath:在此基础上，我们才能看到未来工作的细微差别，对吧？我们谈论了很多关于人工智能如何自动化工作的某些部分，以消除重复的基本任务，并帮助人类专注于更具创造性、更人性化的方面。我亲身经历的一个例子，这让我想到了员工工作的整个概念是多么微妙，想想一个额外的机器操作员。我的重点是能够预测机器何时发生故障，以便您可以主动派遣现场服务工程师进行修复，这样患者就不必等待。所以现在发生的事情是，额外的机器已经启动并运行了更长的时间 ，它也给出了一些诊断建议，员工有更多的空闲时间。雇主是否应该考虑他们在空闲时间做什么？因为如果你被要求工作一定的小时数，并且你通过使用人工智能每天为该员工腾出两个小时，你知道，我不认为仅仅说，好吧，你会有创造力，是行不通的。那么，谁需要考虑现在在这个角色中创造的空闲时间呢？ KeithSonderling专员:这是你提出的一个非常棒的观点。公司使用人工智能的部分原因是为了更高效、更有效和经济地做出决策。因此，我们拿走了很多人类不喜欢的工作。也许部分工作在某些时候是年轻工人的成年礼，有些人会称之为繁重的工作。对于从那个到律师的一切，也许是其他人的文件审查，会计师，阅读其他文件。所以现在你正在取消一些自动化功能，它真的可以应用于任何类型的行业，无论你是专业人士，还是在工厂制造小部件。因此，这是人力资源部门需要理 解的一个关键概念。现在员工有了这个空闲时间，现在员工不再需要做他们讨厌做的事情，对吧？ 没有其他方式可以说-他们不想这样做，我们用机器代替了它，而不是制造恐惧，“哦，不，我的时间将被削减。哦，不，我要被解雇了。哦，不，这就是我们一直在读到的一切，机器人正在为之而来。 我们。现在我们必须说，这个空闲时间不仅仅是在互联