核心观点与关键数据
全球 AI 代理的应用已从实验阶段进入日常运营，86% 的数据领导者表示其组织已依赖 AI 代理进行日常操作，其中 42% 的代理深度融入核心流程。然而，数据领导者（64%）认为 AI 代理在自动化操作任务方面优于进行高级商业判断，这揭示了在关键商业决策中应用 AI 的滞后。主要原因是缺乏对 AI 系统生成答案的解释性和准确性的信心，因为它们无法解释其生成输出的方式。
信任与可解释性挑战
尽管 AI 代理得到快速采用，但领导者承认在信任、可解释性和准备方面存在显著差距，这些因素共同限制了 AI 的性能并阻碍了大规模推广。仅 19% 的领导者始终要求代理“展示其工作”，而 95% 的领导者承认如果监管机构要求，他们无法完全追溯 AI 决策。
责任与问责
当 AI 产生收益时，45% 的领导者认为 CIO 或 CDO 应获得信用，而 CIO 单独获得 26% 的认可；当 AI 失败时，56% 的领导者认为 CIO 或 CDO 应承担责任。仅 11% 的领导者考虑将 AI 代理用于任何业务功能，包括招聘、合规或道德决策，这突显了领导者对 AI 在关键决策中可靠性的缺乏信心。
性能瓶颈与风险
75% 的数据领导者表示，对 AI 代理部署的信任是一个问题。半数领导者表示，不到一半的代理通过概念验证（POC），这与麻省理工学院的研究结果一致，该研究显示 95% 的生成式 AI 领导者未能实现投资回报率。问题不在于模型，而在于战略。四分之三的数据领导者（75%）承认，他们的 AI 工作是由技术野心驱动的，而不是商业成果。
竞争与差距
77% 的数据领导者认为至少有一个竞争对手已经部署了比他们公司更强大的 AI 策略，而只有 54% 的 CEO 感到同样。超过一半的数据领导者（53%）认为，CEO 将因失败的 AI 策略或 AI 故障造成的危机而受到解职，而 70% 的 CEO 担心同样的事情。
区域差异
- 美国：强调准确性与可解释性，85% 的领导者认为准确但无法解释的 AI 决策比错误但可追溯的决策风险更大。
- 英国：部署延迟较少（43%），85% 的领导者认为准确但无法解释的 AI 决策风险更大，但 85% 的领导者会允许 AI 代理做出他们愿意为其结果负责的关键商业决策。
- 法国：审计脆弱性突出，25% 的领导者表示他们的 AI 输出至少 75% 不可追溯，54% 的领导者承认在批准 AI 输出前未完全理解其内容。
- 德国：对低准确率的容忍度最高（53% 接受低于 80% 的准确性），76% 的领导者表示 AI 商业建议比人类建议更受重视。
- 阿联酋：AI 主要用于运营（31% 认为代理在自动化任务方面优于分析任务），77% 的领导者表示多代理工作流可以端到端追溯。
- 亚太地区：AI 使用最广泛（49%），但 21% 的领导者很少或从未要求 AI 系统展示其工作，46% 的领导者在过去一年中未延迟或阻止 AI 代理的部署。
- 日本：49% 的领导者报告广泛使用 AI 代理，但 33% 的领导者不会在没有清晰解释的情况下信任 AI 代理做出关键商业决策。
结论
数据领导者正在将 AI 推向日常业务的核心，但缺乏控制和信心。59% 的领导者在过去一年中因 AI 幻觉或不准确而面临业务问题或危机。为了释放 AI 的全部潜力，组织需要加强信任、提高可解释性，并确保 AI 代理不仅速度快，而且准确可靠。
