核心观点与关键数据
- AI 经济影响: 生成式 AI (GenAI) 成为企业技术预算中增长最快的项目,云费用逐年上涨,地缘政治不确定性加剧了对数据主权和技术基础设施独立性的需求。
- TCO 框架局限性: 传统总拥有成本 (TCO) 框架难以管理 AI 经济,因其支出具有非线性、不可预测性,且与算法复杂性和基础设施强度相关。
- ROI 追求困境: 尽管投资增加,许多领导者仍在寻找可衡量的 AI 投资回报 (ROI),但 AI 价值难以用传统 ROI 框架衡量。
- Token 作为新货币: Token 是 AI 的核心货币单位,代表计算量和成本,其价格受 AI 模型、使用模式和基础设施影响。
关键决策点
- Token 购买方式: 组织根据需求选择生成、消费或自建基础设施,影响成本透明度和控制力。
- AI 工厂: 专用基础设施 (计算、网络、存储) 及优化软件和服务,支持 AI 全生命周期的高性能扩展。
- 托管模式: 云端 (API 或 SaaS)、托管或自建,影响成本结构和效率。
- AI 模型选择: 开源或闭源模型,影响成本、控制和功能。
AI 成本曲线与影响因素
- Jevons 偏误: AI 效率提升导致总消费量上升,Token 价格快速下降,但 AI 应用需求增长更快。
- 成本构成: AI 工厂的总成本中,计算成本占比最大,其次是设施、软件和能源成本。
- 规模效应: 使用量从小到大规模变,成本结构发生转变,自建 AI 工厂在高规模下更具成本优势。
研究结论与建议
- 使用规模与复杂度: 理解 AI 工作负载,根据当前和未来需求选择合适的托管策略和模型。
- 避免锁定: 设计灵活的架构,定期更新 AI 策略,避免过度支出。
- 优化成本结构: 选择合适的模型和基础设施,通过算法和推理设计优化 Token 使用。
- 运营管理: 建立 FinOps 实践,监控、控制和治理 AI 支出。
- 治理新经济系统: 将 AI 视为新经济系统,以财务纪律管理 Token 流动,确保可持续扩展。
关键数据
- 云费用增长率: 近 20% 年增长率。
- 企业迁移阈值: 26% 到 50% 的成本差异。
- ROI 预期时间: 近一半领导者预期 3 年以上才能看到 ROI。
- 成本曲线拐点: 约 70 亿 Token/月的使用量。
总结
AI 经济管理需要新的框架,Token 是核心指标。企业需根据工作负载、规模和模型选择,优化基础设施和运营,建立 FinOps 实践,以财务纪律管理 AI 支出,实现可持续的 AI 应用扩展。