2024在工作场所使用人工智能：机会、风险和政策应对措施（英）

在工作场所使用AI 机会、风险和政策回应 经合组织人工智能情报文件 2024年3月11日 本论文由经合组织秘书长负责发布。文中表达的意见和采用的论点不一定反映经合组织成员国的官方观点 。 本文件及其中包含的任何数据和地图均不涉及任何领土地位或主权、国际边界和疆域的划分，也不涉及任何领土、城市或地区的名称。 封面图片：©Kjpargeter/Shutterstock.com ©OECD2024 本作品的使用，无论是数字的还是印刷的，均受条款和条件的约束，可在 www.oecd.org/termsandconditions. 在工作场所使用人工智能：机遇、风险和政策应对 简介和目的 全球政策制定者正在应对人工智能（AI）技术的快速发展及其在工作场所的应用。在生成式AI出现之前，已经在多个领域取得了显著进展，包括计算机视觉、推理、问题解决以及阅读理解和学习。雇主开始利用AI应用筛选简历、与客户互动、分配、指导和评估工作，并识别培训需求。员工在越来越多的任务中使用AI。生成式AI的出现导致了AI使用和影响的转变和加速，使其成为一种通用技术，预计将影响每一个职业和经济领域的产业。 人工智能可以为职场带来显著的好处。根据经合组织（OECD）的人工智能调查，五分之四的工人表示人工智能提高了他们的工作效率，而五分之三的工人表示它增加了他们工作的满意度（Lane,Williams和Broecke,2023）。[1]).工作人员对AI对其身心健康以及在决策中的实用性也持积极态度（Lane,Williams和Broecke,2023）。[1]).不投资人工智能并在工作中不采用人工智能将错失提升生产率和改善就业质量等机会。在工作场所中人工智能的不平等获取和使用可能导致企业间、员工间以及各国间的差距进一步扩大。 为了抓住这些机会，然而必须应对人工智能对劳动力市场带来的风险。经合组织（OECD）的人工智能调查显示，三分之二的工人担心在未来十年内可能会被人工智能取代，另有四分之一的工人预计人工智能会降低其所在行业的工资水平。工人们还表达了对工作强度增加以及数据收集和使用等方面的担忧（Lane,Williams和Broecke,2023）。[1]).其他风险包括：偏见和歧视、对工人的不平等影响、缺乏人类监督，以及缺乏透明度、可解释性和问责制等问题。 方框1.经合组织人工智能调查 旨在捕捉工人和雇主对当前及未来人工智能对其工作场所影响的主观看法，经合组织在奥地利、加拿大、法国、德国、爱尔兰、英国和美国的制造业和金融行业中调查了总计5334名工人和2053家企业。调查内容包括人工智能在工作场所的应用方式及其原因；其对管理和工作条件以及技能需求的影响；其对工人生产率、工资和就业的影响；为管理转型而采取的措施；以及对人工智能的关注和态度。人工智能最常报告的应用包括金融业的数据分析和欺诈检测，以及制造业的生产过程和维护任务。 调查结果显示，both工人和雇主普遍对AI对工作效率和工作条件的影响持非常积极的态度。大约80%的AI用户表示，AI提高了他们的工作效率，而与认为AI使工作条件变差的人相比，认为AI改善了工作条件的AI用户多出四倍以上。 然而，也存在一些担忧，包括关于就业损失的问题——这是一个应当密切监控的问题。调查还表明，尽管许多工人在工作场所实施AI时信任雇主，但仍有许多可以做的工作来提高信任度。特别是，调查结果显示，培训和员工咨询与更好的员工结果相关。 资料来源：莱恩，M.，M.威廉姆斯和S.Broecke(2023年[1])，“人工智能对工作场所的影响：经合组织人工智能对雇主和工人调查的主要发现”,https://doi.org/10.1787/ea0a0fe1-en. 一种基于风险的方法在考虑人工智能的政策和监管响应时较为常见。2023年12月，欧洲议会和理事会就《人工智能法》达成了临时协议，该法案将根据人工智能潜在的风险和影响程度建立相应的规则，部分应用将被禁止，而被视为高风险的应用则需承担相应的义务——例如许多工作场所的应用。在美国，2023年10月发布的《确保安全、可靠且值得信赖的人工智能行政命令》旨在“采取迄今为止最广泛的行动来保护美国人民免受人工智能系统潜在风险的影响”，其中包括制定减少危害并最大化人工智能对工人益处的原则和最佳实践。出席2023年11月在英国布莱切利庄园举行的AI安全峰会的国家所签署的《布莱切利宣言》重点在于识别人工智能安全风险并构建基于风险的政策。在很多情况下，人工智能并不处于监管真空状态，已有法律对其使用和影响进行规范。然而，现有的监管和政策框架中仍存在空白，迫切需要采取紧急政策措施 。 随着决策者实施这些措施，需要针对与工作场所使用AI相关的风险和措施提供具体指导。本文件引用了经合组织关于可信AI的原则，并借鉴了经合组织在此领域所做的大量工作（OECD,2023）。[2])to识别职场中使用AI带来的关键风险，识别主要的政策缺口，并提出针对劳动力市场的可能政策途径。该笔记分别呈现了风险及其相应的政策应对措施，但这些风险彼此之间相互作用，针对一种风险所采取的措施往往也能解决其他风险。 风险、政策缺口和政策途径 自动化和工作位移 风险:人工智能是一种自动化技术，在至少三个方面与以往的技术有所不同。首先，人工智能将可以自动化的任务类型扩展到了许多非常规认知任务，因此使之前相对不受自动化影响的工人（如高技能工人）面临被替代的风险。其次，所有职业和行业都可能受到人工智能的影响（相比之下，例如机器人主要影响制造业）。第三，劳动力市场中人工智能的发展和采用速度很快，几乎没有时间进行调整，可能会导致摩擦性失业率上升。迄今为止，关于人工智能对就业总数的净负面影响的证据很少，但自动化带来的风险依然相当大：经合组织估计，最容易被自动化的职业占总就业人数的约27%。因此，帮助工人从衰退的行业和职业转向新的和正在增长的行业将非常重要。 图1.2019年高度自动化工作的就业百分比 40 35 30 25 20 15 10 5 0 资料来源：经合组织(2023年[2])，经合组织就业展望2023年，https://doi.org/10.1787/08785bba-en。 政策差距:大多数国家认识到技能和培训对于适应与人工智能相关的自动化技术的重要性，但很少有国家提出了具体的行动计划，也很少为所需的培训飞跃做好准备。现有计划往往侧重于数字或人工智能技能，但很少有人认识到互补技能（如沟通、创造力或团队合作）的重要性，也只有少数国家制定了综合的人工智能技能发展方法。社会对话在管理这些转型方面也将非常重要，但也面临着自身的一系列挑战（详见下文的社会对话部分）。 各国可能考虑的政策方向: •监测人工智能对劳动力市场的影响，以确定自动化风险最大的工作。 •预测与工作场所采用AI相关的未来技能需求。 •各级教育的技能发展计划，以发展与人工智能合作和发展所需的技能。 •为工人和管理人员提供培训，以支持采用和使用值得信赖的AI。 •直接面临人工智能自动化风险的工人提供就业支持措施，包括针对性培训项目和职业指导。 •为被人工智能取代的工人提供充分的社会保护。 •支持社会对话(见下文)。 不断上升的不等式 风险:工人面临不同的自动化风险——例如，根据他们的技能、职业和企业规模。他们还面临不同程度的偏见和歧视风险、隐私泄露风险以及健康与安全风险。另一方面，无法在工作场所访问AI的工人无法从中受益，例如提高生产效率、克服与残疾相关的障碍或获取由AI创造的新岗位。新兴证据表明，AI还可以在某些职业中提高低技能工人的生产效率，从而减少与高技能工人之间的生产效率差距。因此，职场采用AI可能会导致劳动市场的不平等加剧。 图2.认为AI帮助/伤害工人、金融和制造业群体的雇主百分比 伤害他们帮助他们 年长的工人 低技术工人 女工 残疾工人 0%10%20%30%40%50%60% 资料来源：经合组织(2023年[2])，经合组织就业展望2023年，https://doi.org/10.1787/08785bba-en。 政策差距:尽管一些国家已经制定了诸如AI采用培训或补贴等政策，但这些政策可能目标不精准，需要更好地了解哪些群体面临最高风险，以便更有效地利用公共资源。当AI为减少不平等提供了机会时，政府可以采取更多措施来促进其发展和应用，尤其是在中小企业中，这些企业较少有能力获取高质量的AI工具。例如，虽然存在许多帮助残疾人克服劳动力市场障碍的AI解决方案，但在资金、认证和质量标准方面仍存在挑战，同时开发者中缺乏可访问性培训。针对本简报其余部分讨论的其他风险制定的政策将有助于解决不平等现象。 各国可能考虑的政策方向: •确定劳动力市场中最容易受到AI相关风险影响的群体。 •在采用人工智能之前和期间，针对弱势工人的培训和支持。 •为中小企业提供有针对性的赠款或补贴，以促进他们采用值得信赖的人工智能。 •解决人工智能系统中与偏见、歧视和自主性相关的风险(见下文)。 •让弱势群体和代表性不足的群体参与为工作场所开发和采用人工智能系统。 职业健康和安全风险 风险:AI系统可以用于提高工人的健康和安全，例如通过自动化危险任务、检测隐患或监控工人疲劳。经合组织（OECD）的AI调查表明，在工作中采用AI使三分之二的工人的工作满意度增加（Lane,Williams和Broecke,2023）。[1]).同时，从职业健康与安全（OSH）的角度来看，AI的使用创造了新的风险。例如，某些基于AI的监控系统可能会增加时间压力和绩效压力，导致员工感到压力或促使他们忽视安全标准。压力还可能源自不公平、缺乏透明性和可解释性的决策，以及缺乏申诉渠道。随着常规任务的消失，这些问题变得更加突出。 通过人工智能可能剥夺工人由这些任务提供的休息，导致更加耗费心力的工作轮班，并且可能增加身体受伤的风险。职场中人工智能使用量的增加也可能减少人与人之间的接触，从而对心理健康造成不利影响。 图3.2023年对工人造成身体或心理伤害的事件数量 40 35 30 25 20 15 10 5 0Jan Feb Mar Apr May Jun Jul Aug Sep Oct Nov Dec 资料来源：经合组织人工智能事件监测(AIM)，https://oecd.ai/en/incidents。 Gaps:大多数国家都有相关法规规定雇主在职业安全与健康方面对员工的责任。虽然各国的具体细节有所不同，但通常雇主需要评估风险，并通过预防和保护措施消除或减少这些风险，同时向员工通报风险并进行培训。尽管从理论上讲，这些法规也应该涵盖人工智能，但在心理健康方面可能存在空白。此外，虽然大多数国家都有关于产品责任的法规，但这些法规可能需要适应人工智能系统的使用。最后，劳动监察机构可能缺乏应对由人工智能带来的新风险的知识和/或能力。 各国可能考虑的政策方向: •审查并在必要时更新劳动法和职业安全和健康条例，以解决人工智能在工作场所的使用问题。 •人工智能系统的设计阶段开展健康与安全风险评估、审计和认证以确保工人的健康与安全。 •加强劳动监察局检查和强制遵守法律的能力。 •让管理人员，工人及其代表参与工作场所AI系统的设计和采用。 •告知雇主、工人及其代表有关工作中使用的AI系统可能带来的职业健康与安全风险。 隐私违规 风险:在工作场所使用人工智能增加的可能性将导致更多工人和求职者的数据被收集和分析以训练和使用这些系统。这些数据可能是个人数据也可能是非个人数据，可能包括工人的移动、生物特征数据（如心率和血压）以及数字活动等信息。工人们可能会觉得这侵犯了他们的隐私，特别是在这方面。 如果他们未同意数据收集和使用，工人可能会担心数据会被用于其他目的。此外，数据收集可能导致监控和surveillance加剧，从而引发压力。 Gaps:工人隐私风险保护在经合组织国家之