在工作场所使用人工智能（英）

在工作场所使用AI 机会、风险和政策回应 经合组织人工智能情报文件 March202411号 本文由经合组织秘书长负责发表。本文表达的观点和采用的论点不一定反映经合组织成员国的官方观点。 本文件以及本文所包含的任何数据和地图均不影响任何领土的地位或主权，国际边界和边界的划定以及任何领土，城市或地区的名称。 封面图片：©Kjpargeter/Shutterstock.com ©OECD2024 本作品的使用，无论是数字的还是印刷的，均受条款和条件的约束，可在www.oecd.org/termsandconditions. 在工作场所使用AI：机遇、风险和政策应对 简介和目的 全球各地的政策制定者都在努力应对人工智能(AI)技术的快速发展及其在工作场所的应用。甚至在生成AI出现之前，在一系列领域已经取得了令人印象深刻的进步，包括计算机视觉、推理、解决问题以及阅读理解和学习。雇主开始使用AI应用程序来筛选简历，与客户互动，分配，指导和评估工作，以及识别和提供培训。工人在越来越多的任务中使用AI。生成人工智能的出现导致了人工智能的使用和影响的转变和加速，人工智能现在是一种通用技术，可能会影响到经济的每个职业和部门。 AI可以为工作场所带来显着的好处。在OECDAI调查中，五分之四的工人表示AI改善了他们的工作表现，五分之三的工人表示AI增加了他们的工作乐趣（Lane，Williams和Broecke，2023[1]）。工人们也对人工智能对他们的身心健康的影响以及它在决策中的有用性持积极态度（Lane，Williams和Broecke，2023[1])。不投资人工智能，也不在工作场所采用人工智能，将是提高生产率和提高工作质量等的错失机会。在工作场所不平等地获取和使用人工智能可能导致公司和工人之间以及各国之间的差距增加。 然而，为了实现这些机会，有必要解决人工智能给劳动力市场带来的风险。经合组织的人工智能调查显示，五分之三的工人担心在未来10年内失去工作，五分之二的工人预计人工智能会降低他们所在行业的工资。工人们还对工作强度的增加以及数据的收集和使用表示担忧（Lae，Williams和Broece，2023年。[1]）。其他风险包括：偏见和歧视，对工人的不平等影响，缺乏人为监督，以及缺乏透明度，可解释性和问责制等。 方框1.经合组织人工智能调查 为了了解工人和雇主对人工智能对其工作场所当前和未来影响的看法，经合组织调查了奥地利、加拿大、法国、德国、爱尔兰、英国和美国制造业和金融部门的5334名工人和2053家公司。这些调查研究了人工智能如何以及为什么在工作场所实施；它对管理、工作条件和技能需求的影响；它对工人生产力、工资和就业的影响；正在采取哪些措施来管理过渡；以及围绕人工智能的担忧和态度。人工智能最常见的用途包括金融部门的数据分析和欺诈检测，以及制造业的生产过程和维护任务。 调查显示，工人和雇主通常都对AI对工人生产力和工作条件的影响非常积极。大约80％的AI用户表示AI改善了他们的工作表现，而AI用户说AI改善了工作条件的可能性是AI使他们恶化的可能性的四倍以上。 然而，也有一些担忧，包括失业——这个问题应该密切关注。调查还表明，尽管许多工人在工作场所实施人工智能时信任他们的雇主，但可以做更多的工作来提高信任。特别是，调查显示，培训和工人咨询都与工人的更好结果相关 。 资料来源：莱恩，M.，M.威廉姆斯和S.Broecke（2023年[1]），“人工智能对工作场所的影响：经合组织对雇主和工人的人工智能调查的主要发现”，https://doi.org/10.1787/ea0a0fe1-en。 在考虑对人工智能的政策和监管回应时，基于风险的方法很常见。2023年12月，欧洲议会和理事会就《人工智能法案》达成临时协议，该法案将根据人工智能的潜在风险和影响程度制定规则，一些应用程序被禁止，并对被认为是高风险的应用程序施加义务-例如工作场所的许多用途。在美国，2023年10月发布的《关于安全，安全和可信的人工智能的行政命令》指示“为保护美国人免受AI系统的潜在风险而采取的最广泛的行动”，例如，制定原则和最佳实践，以减轻AI对工人的危害并最大化其利益。参加2023年11月在英国BletchleyPar举行的AI安全峰会的国家发布的Bletchley宣言，重点是识别AI安全风险并制定基于风险的政策。在许多情况下，人工智能不是在监管真空中运作的，而且已经有法律规范其使用和影响。然而，现有的监管和政策框架存在差距，需要采取紧急的政策行动。 随着政策制定者实施这些措施，需要就工作场所使用人工智能相关的风险和措施提供具体指导。本说明使用了经合组织关于可信人工智能的原则，并借鉴了经合组织在这一领域所做的大量工作(经合组织，2023年[2])to确定在工作场所使用人工智能带来的主要风险，确定主要政策差距，并提供针对劳动力市场的可能政策途径该说明单独提出了风险和相关的政策应对措施 ，但这些风险彼此之间相互作用，解决一种风险的措施通常也有助于解决其他风险。 风险、政策缺口和政策途径 自动化和工作位移 风险:AI是一种自动化技术，至少在三个重要方面与以前的技术不同。首先，AI将可以自动化的任务类型扩展到许多非常规认知任务，因此暴露了以前相对受自动化保护的工人（例如。Procedre高技能者)面临流离失所的风险。其次，所有职业和 部门都可能受到人工智能的影响（例如，机器人主要影响制造业）。第三，人工智能在劳动力市场的发展和采用速度几乎没有时间进行调整，可能会增加摩擦性失业。到目前为止，几乎没有证据表明人工智能对工作数量产生了净负面影响，但自动化的风险仍然很大：经合组织估计，自动化风险最高的职业约占总就业人数的27％。重要的是帮助工人从下降的行业和职业转向新的和不断增长的行业。 图1.2019年高度自动化工作的就业百分比 40 35 30 25 20 15 10 5 0 来源：OECD（2023年[2])，经合组织就业展望2023，https://doi.org/10.1787/08785bba-en。 政策差距:大多数国家都认识到适应人工智能相关自动化的技能和培训的重要性，但很少有人提出具体的行动计划，也很少有人为培训所需的飞跃做好准备。现有的项目往往侧重于数字或人工智能技能，但很少有人认识到互补技能的重要性(例如。Procedre沟通、创造力或与他人合作)，只有少数人开发了人工智能技能开发的综合方法。社会对话在管理这些过渡方面也很 重要，但面临着自己的挑战（见下文关于社会对话的部分）。 各国可能考虑的政策方向: 监测人工智能对劳动力市场的影响，以确定自动化风险最大的工作。 预测与工作场所采用AI相关的未来技能需求。 各级教育的技能发展计划，以发展与人工智能合作和发展所需的技能。 为工人和管理人员提供培训，以支持采用和使用值得信赖的AI。 为面临人工智能自动化直接风险的工人提供就业支持措施，包括有针对性的培训计划和职业指导。 为被人工智能取代的工人提供充分的社会保护。 支持社会对话（见下文）。 不断上升的不等式 风险:工人面临不同的自动化风险-例如取决于他们的技能，职业，公司规模。他们也有不同的风险，偏见和歧视，隐私侵犯 ，健康和安全。另一方面，在工作场所无法使用AI的工人无法从它提供的机会中受益，例如提高生产力，克服与残疾有关的障碍，或获得AI创造的新工作。新的证据表明，人工智能还可以提高某些职业中低技能工人的生产率，缩小与高技能工人的生产率差距。因此，在工作场所采用人工智能会导致劳动力市场不平等加剧的具体风险。 图2.认为AI帮助/伤害工人、金融和制造业群体的雇主百分比 伤害他们帮助他们 年长的工人 低技术工人 女工 残疾工人 0%10%20%30%40%50%60% 来源：OECD（2023年[2])，经合组织就业展望2023，https://doi.org/10.1787/08785bba-en。 政策差距:虽然一些国家已经制定了人工智能采用培训或补贴等政策，但它们的针对性可能较差，需要更好地了解哪些群体面临最高风险，以便有效利用公共资源。在人工智能为减少不平等提供机会的地方，政府可以做更多的事情来促进它们的发展和采用，特别是在那些获得高质量人工智能工具的手段较少的小企业中。例如，尽管存在许多帮助残疾人克服劳动力市场障 碍的人工智能解决方案，但这些工具的资金、认证和质量标准存在挑战，以及开发人员缺乏无障碍培训。解决本简报其余部分讨论的其他风险的政策将有助于解决不平等问题。 各国可能考虑的政策方向: 确定劳动力市场中最容易受到AI相关风险影响的群体。 在采用人工智能之前和期间，针对弱势工人的培训和支持。 为中小企业提供有针对性的赠款或补贴，以促进他们采用值得信赖的人工智能。 解决人工智能系统中与偏见、歧视和自主性相关的风险(见下文)。 让弱势群体和代表性不足的群体参与为工作场所开发和采用人工智能系统。 职业健康和安全风险 风险:人工智能系统可用于改善工人在工作中的健康和安全，例如通过自动化危险任务、检测危险或监测工人疲劳。例如，经合组织人工智能调查显示，在工作中采用人工智能增加了五分之三的工人在工作中的乐趣(Lane，Williams和Broecke ，2023年[1]).同时，从职业安全与健康（OSH）的角度来看，AI的使用会带来新的风险。例如，一些人工智能驱动的监控系统可能会增加时间和性能压力，从而导致压力和/或激励工人忽视安全标准。压力也可能来自不公平的决定，缺乏透明度和可解释性，以及没有容易的补救机会。日常任务的消失。 通过人工智能可能会使工人失去这些任务提供的喘息机会，从而导致更多的精神负担，并可能增加身体伤害的风险。在工作场所增加使用人工智能也可能会减少人类接触，从而损害心理健康。 图3.2023年对工人造成身体或心理伤害的事件数量 Jan 2月 Mar 四月 May Jun 7月 8月 Sep Oct 11月 Dec 40 35 30 25 20 15 10 5 0 资料来源：经合组织人工智能事件监测(AIM)，https://oecd.ai/en/incidents。 间隙:大多数国家都有规定雇主对雇员的职业安全和健康义务。虽然细节因国家而异，但雇主通常必须评估风险，并通过预防和保护措施消除或减少风险，并告知工人风险并对其进行培训。虽然从理论上讲，这些法规也应该涵盖人工智能，但可能存在差距，特别是在心理健康方面。此外，虽然大多数国家都有产品责任法规，但它们可能需要适应人工智能系统的使用。最 后，劳动监察机构可能缺乏应对人工智能带来的新风险的知识和/或能力。 各国可能考虑的政策方向: 审查并在必要时更新劳动法和职业安全和健康条例，以解决人工智能在工作场所的使用问题。 人工智能系统的健康和安全风险评估、审计和认证，以确保工人健康和安全从设计阶段。 加强劳动监察局检查和强制遵守法律的能力。 让管理人员，工人及其代表参与工作场所AI系统的设计和采用。 向雇主，工人及其代表通报工作场所使用的AI系统可能存在的OSH风险。 隐私侵犯 风险:在工作场所使用人工智能的增加可能会导致对工人和求职者数据的更多收集和分析，以培训和使用这些系统。数据可能是个人的，也可能不是个人的，并且可能包括以下信息：工人的运动，生物特征数据，如心率和血压，以及数字活动。工人可能会觉得这是对他们隐私的侵犯。 如果他们不同意数据的收集和使用。工人也可能担心数据被用于目的之外的目的。此外，数据收集可能会导致更多的监测和监督，这可能会导致压力。 间隙:在经合组织国家中，保护工人免受隐私风险的保护差异很大，但即使在保护最严格的国家中，差距仍然存在。例如，在欧盟国家，通用数据和隐私条例(GDPR)加强了个人对其个人信息的控制和权利，但存在显著的执法差距。