2025年人才招聘中的人工智能（AI）偏见现状

核心观点与关键数据

• AI 偏见问题备受关注：75% 的 HR/TA 领导者将 AI 偏见列为采用 AI 工具的主要担忧之一，同时他们又面临利用 AI 解决业务问题的压力，形成鲜明矛盾。尽管部分 AI 系统存在偏见，但 85% 的 AI 系统符合公认的公平性标准，甚至在某些情况下比人类决策更公平，例如对女性和少数族裔的公平性可高出 45%。
• AI 偏见存在差异：15% 的 AI 系统未能通过基本公平性测试，且不同供应商之间的 AI 系统公平性差距高达 40%，表明 AI 偏见问题存在显著差异。
• 人类偏见问题严重：超过 99.9% 的就业歧视申诉与人类偏见有关，而非 AI 偏见。AI 系统在平均公平性指标上优于人类决策，具有改善工作场所平等性的潜力。
• AI 合规性挑战：尽管众多 AI 法规涌现，但只有少数几项对 HR/TA 领域产生实质性影响，如纽约市第 144 号地方法和科罗拉多州第 205 号法案。合规工作正在缓慢推进，但落后于监管步伐，多数供应商尚未完全准备好应对现有和即将出台的法规。
• 供应商责任意识提升：大多数供应商已制定 AI 原则、实施 AI 政策或框架，并明确 AI 治理负责人，但将原则转化为实践仍是挑战。透明度方面，多数供应商会发布公开文档，但仅 15% 的系统允许用户选择退出 AI 使用，且用户对 AI 使用的认知度普遍较低。
• 偏见测试成为标准：偏见测试已变得普遍，但多数测试仅关注性别和种族/民族等核心保护群体，对年龄和残疾等群体的测试比例较低。

研究结论

• AI 使用风险日益增加：随着监管加强、诉讼增多和 AI 采用率提高，采用 AI 的风险成本越来越高。
• AI 有潜力促进工作场所平等：设计和部署负责任的 AI 系统可以减少不平等，并有助于缩小工作场所结果方面的长期差距。
• AI 偏见责任共担：随着 AI 深入融入 TA 流程，AI 偏见的责任越来越多地由供应商和部署工具的组织共同承担。
• 供应商选择成为关键风险决策：AI 系统承担着越来越重要的决策，供应商的选择直接影响组织内的法律和声誉风险。

建议

• 谨慎选择供应商：选择在 AI 风险管理和合规方面表现出色的供应商。
• 加强透明度：要求供应商提供更深入的透明度，包括允许用户选择退出 AI 使用。
• 持续监测和评估：对部署的 AI 系统进行持续监测和评估，以确保其公平性和合规性。
• 推动负责任的 AI 开发：鼓励供应商采用最佳实践进行负责任的 AI 开发，并积极准备应对未来的 AI 监管。