2024 年从规到从信 ： 产业 AI 成成熟度报 — — 包容新维上升负责 AI 成成熟度

核心观点与关键数据

• 负责任的AI重要性提升： 企业不再将负责任的AI视为单纯的合规问题，而是将其视为AI相关收入增长的关键贡献者（49%受访者）和品牌价值保护的重要因素（43%受访者）。42%的公司已将超过10%的AI预算用于负责任的AI倡议，79%计划在未来两年达到这一目标。
• AI风险与监管加剧： AI风险（如偏见、深度合成、幻觉、隐私泄露）在2023年增加了32.3%，范围和频率持续扩大。77%的公司预计未来五年内将面临AI相关的法律义务，90%的公司预计将受到AI监管。
• AI价值链日益复杂： 企业角色从单纯购买或开发AI模型转变为两者兼具，导致风险类型指数级复杂。仅43%的收购AI模型的公司建立了稳健的采购措施。
• 负责任AI成熟度框架： 与斯坦福大学合作开发四阶段框架（原则、计划、实践、先驱），衡量组织成熟度（CEO支持、治理、风险管理等）、运营成熟度（风险缓解措施实施）和生成式AI成熟度。
• 成熟度现状： 72%的公司处于组织成熟度的实践或先锋阶段，但仅6%达到运营成熟度实践阶段，不到1%达到先驱阶段。目前没有公司成为负责任AI的先驱。

研究结论

• 组织与运营成熟度脱节： 尽管组织成熟度较高，但运营成熟度是大多数公司的弱点，导致认知差距和潜在风险。
• 行业与地区差异： 通信、媒体和科技（高科技、软件与平台）以及金融服务领域在成熟度上最为先进。亚洲（新加坡、日本、印度）在全球范围内处于领先地位，德国在欧洲表现突出。
• 负责任AI先驱特征： 采取“负责任的设计”，将负责任AI置于战略核心，建立跨职能框架，与合作伙伴密切合作管理风险，持续调整风险监控流程，并投资未来规划和趋势扫描。
• 五个优先事项： 建立AI治理和原则、进行AI风险评估、系统支持负责任的AI测试、持续监控和合规性、关注劳动力影响、可持续性、隐私和安全。
• 核心建议： 企业需拥抱五个优先事项，成为负责任AI的先驱，追求前瞻性思维，持续改进，扩展价值链和生态系统关注范围，将AI风险转化为商业价值。