2025年人才招聘领域人工智能偏见状况报告

核心观点与关键数据

• Al 概念：Al 偏见已成为招聘领域最紧迫和最具争议的问题，高调诉讼（如 Mobley vs. Workday）将风险推向法律和媒体焦点。
• Al 偏见现状：75% 的 HR/TA 领导者将偏见列为采用 Al 的主要担忧之一，同时他们面临使用 Al 解决业务问题的压力，形成紧张关系。
• Al 偏见可管理性：问题已不再是 Al 是否会存在偏见，而是如何管理其使用以改善结果。正确使用 Al 可减少长期存在的平等问题。
• Al 系统公平性：现实比标题更复杂。虽然一些 Al 系统存在偏见，但 85% 的 Al 系统符合公认的公平标准，且 Al 通常比人类更公平，对女性和少数族裔的公平性可高达 45%。
• 人类偏见：人类偏见仍然是一个巨大的挑战，超过 99.9% 的就业歧视索赔与人偏见有关，而非 Al 偏见。
• Al 合规性：随着 Al 法规的出台，如纽约市第 144 号法律，合规性正在增长但仍落后于法规。许多供应商正在准备合规，但很少完全准备好。
• 供应商实践：大多数供应商已制定 Al 原则、政策或框架，并指定了明确的治理负责人，但将原则转化为实践仍是挑战。大多数供应商发布详细文档，但很少提供用户选择退出 Al 使用的方式。许多用户甚至不知道 Al 的使用情况。

研究结论

• 共同责任：Al 偏见已成为供应商和部署工具的组织共同的责任。
• 风险增加：Al 错误的代价越来越高，随着 Al 越来越深入地嵌入 TA 流程，责任在供应商和组织之间日益增加。
• 改善平等：Al 可以通过负责任的设计和部署来改善工作场所的平等。
• 供应商选择：选择供应商现在是一个关键的风险决策，因为 Al 系统承担着越来越高的风险，供应商的选择直接影响组织内的法律和声誉风险。

方法论

• 数据来源：偏见审计、人类偏见基准、供应商/从业者调查、公开审计和透明度报告。
• 偏见审计方法：使用结构化测试数据集对涵盖多个 TA 用例（如筛选、寻源和面试）的工具进行 150 多次 Al 审计，超过 100 万个测试样本。
• 人类偏见基准：从分析了现实世界结果（例如面试回调、晋升决定）的 10 项学术和行业研究中汇集了“典型人类偏见”基准，并将结果转换为相同的公平性指标（影响比率），以便与 Al 系统进行比较。
• 衡量标准：离散影响和反事实一致性。