发现报告

核心观点

• 人工智能已广泛应用于企业，但成熟且受监管、能持续创造价值的应用仍然罕见。
• 企业AI主要应用于商业和IT系统，以及软件开发，两者涉及不同的问题和利益相关者。
• 人工智能成熟度是指企业能够查看其人工智能足迹、将其纳入软件组合进行管理、控制风险和技术健康状况，并以价值为导向进行衡量和指导的能力。
• 董事会、治理、风险与合规（GRC）团队、首席信息安全官（CISO）和首席技术官（CTO）在推动人工智能成熟度方面发挥着关键作用。

关键步骤

• 董事会步骤：了解人工智能的基本概念、分配角色和职责、坚持在既有基础上进行建设、组建跨学科人工智能委员会。
• GRC执行步骤：识别相关法律法规、创建并维护人工智能应用的清单、评估人工智能的应用、沟通评估结果并进一步处理、制定并执行政策、提升技能与建立学习型组织、利益相关者沟通、将人工智能成熟度作为一项计划来实施和改进。
• CISO步骤：将AI资产、安全威胁和控制纳入安全体系、通过人工智能整合安全攻击、与GRC协作、与首席技术官合作。
• CTO步骤：将人工智能融入系统生命周期、确保人工智能辅助开发、在自主型人工智能开发中保持人工参与、围绕人工智能的应用组织社区。

关键数据

• 根据麦肯锡的研究，目前大约88%的组织已在至少一个业务职能领域应用了人工智能，但大部分仍处于实验或试点阶段。
• 在所有投入生产的系统中，仅有约1.5%被归类为人工智能系统。
• 根据我们最新的发现，72%的AI系统得分低于我们建议的构建质量阈值。
• Gartner预测，到2027年，25%的逃逸到生产环境中的软件缺陷将源于对AI生成代码缺乏人工监督。

研究结论

• 人工智能的成熟需要组织从战略层面进行规划和治理，并将其视为软件生命周期的一部分。
• 安全和合规性必须融入人工智能的整个生命周期，而不仅仅是作为事后考虑。
• 团队之间的协作和知识共享对于人工智能的成熟至关重要。
• 人工智能的成熟是一个持续的过程，需要组织不断学习和改进。

核心观点

• 算力经济学转折点： AI基础设施投入重心从计算向存储迁移，内存成本占比提升至64%，成为制约大模型商业化的首要瓶颈。
• 内存墙与重算税： 长上下文推理导致KV缓存膨胀，引发“重算税”，造成算力空转损耗达50%，云厂商面临每年约200万美元的浪费。
• 存储金字塔重构： G3.5层（推理上下文内存存储层）应运而生，填补传统存储层级的断层，以低成本的闪存池替代昂贵GPU，重构企业存储格局。
• HBM4与逻辑底座： HBM4标准发布，通过位宽提升和逻辑底座晶圆化，实现带宽和能效的双重突破，但导致存储厂商毛利率反超逻辑芯片设计公司。
• 超节点互连： NVLink、UALink、ESUN等协议竞争激烈，AI后端交换机销售额首次反超前端网络，液冷技术成为物理基建卡点。
• 下一代内存介质： 4F²垂直沟道、无电容3DX-DRAM、非易失内存等新技术涌现，存算一体（PIM/CIM）双轨演进，推动AI算力发展。
• 中国产业链突围： 以“算法级极限压缩+系统级以存代算+超节点以网补卡”为路径，通过DeepSeekMLA、昇腾960全光超节点、OceanStorM900记忆存储等方案，实现算力突破。

关键数据

• BOM成本： 计算裸片占比降至1/4，内存与封装占比达64%。
• KV缓存膨胀： 上下文长度从32K扩展至1MToken，KVCache体积迅速突破单卡容量上限。
• 重算税： 64K长文本下首字延迟恶化至53秒，128K高并发下易触发显存耗尽。
• 云厂商采购： 2027年存储占组件CapEx将达68%，减少40%-45%旗舰GPU采购需求。
• G3.5层成本： 白盒闪存池方案成本低于8万美元/PB，较传统方案降低10-50倍。
• HBM4带宽： 单栈带宽达2.048TB/s，实测带宽突破2.8TB/s。
• 逻辑底座代工： 台积电3nm与三星4nm产能锁定，美光毛利率高达85.95%。
• NVLink： NVLink5/6单卡带宽达1.8TB/s/3.6TB/s，RubinNVL72总带宽达1.4-1.6PB/s。
• CXL4.0： 单通道速率达128GT/s，端到端延迟控制在200ns以内。
• 存算一体： CXL-PNM吞吐提升21.9倍，单Token能耗下降60倍。

研究结论

• AI算力发展进入“存力解耦与超节点互连”时代，存储成为新的竞争焦点。
• G3.5层闪存池、HBM4、SOCAMM2、CXL4.0等技术成为关键突破口。
• 中国产业链通过算法优化、系统创新和本土制造，实现“以存代算、以网补卡”的系统突围。

核心观点

• 电信行业AI代码占比最高，但代码质量堪忧。 研究显示，电信行业AI生成代码占比高达4.1%，远超其他行业，但代码可维护性极差，84.3%的代码低于推荐标准。这主要是因为电信行业存在大量遗留系统（BSS/OSS），这些系统难以适应AI带来的变革。
• AI加速技术债务累积，安全风险不容忽视。 AI生成代码的技术债务问题比人类编写代码更为严重，且更容易产生安全漏洞。研究指出，AI生成代码的安全风险违规是人工编写代码的两倍。此外，电信行业开源软件健康状况最差，84.1%的代码低于推荐标准，这进一步加剧了安全风险。
• 架构是AI系统工程的关键。 电信行业架构质量相对较好，但遗留系统仍然制约着AI的发展。研究建议，在推广AI系统工程的同时，必须优先解决遗留系统的架构问题，否则将导致效率低下和风险增加。
• AI系统工程需要新的管理方法。 AI系统与传统软件不同，需要持续维护、测试和跨职能团队协作。研究指出，目前大部分AI系统可维护性都不达标，这表明电信行业在AI系统工程方面仍面临挑战。

关键数据

• 电信行业AI生成代码占比4.1%
• AI生成代码安全风险违规是人工编写代码的两倍
• 电信行业代码可维护性达标率仅15.7%
• 电信行业开源软件健康状况达标率仅15.9%
• 电信行业遗留系统占比高达75%

研究结论

• 电信行业在AI应用方面处于领先地位，但也面临着技术债务和安全风险等挑战。
• 为了更好地利用AI技术，电信行业需要加强代码质量管理、提升开源软件健康状况、优化系统架构，并建立完善的AI系统工程管理方法。

核心观点与关键数据

• AI 应用与治理差距：尽管 88% 的组织在至少一个业务功能中使用 AI 技术，64% 的组织表示 AI 正在推动其创新，但大多数组织仍处于实验或试点阶段，只有 39% 的组织报告了 EBIT 影响（通常为个位数百分比）。在能源领域，只有 1% 的组织达到了最高级别的负责任 AI 成熟度。
• AI 编码的挑战：AI 可以生成大型且结构化维护良好的软件系统，但只有一小部分系统无需修改即可编译或运行，限制了其实际意义和端到端可用性。AI 在编写安全代码方面比人类更困难，平均显示双倍数量的安全风险违规行为。
• AI 系统的采用与质量问题：从所有分析的生产系统来看，大约 1.5% 才符合 AI 系统的定义。72% 的 AI 系统得分低于建议的构建质量阈值。许多组织难以将 AI 从实验室的实验项目过渡到可扩展、安全、合规和可维护的现实应用程序。
• AI 系统的安全风险：AI 系统引入了新的安全风险，包括输入可以被武器化（数据中毒、运行时输入攻击）、新的皇冠珠宝（训练数据和模型参数等 AI 特定资产）、以及更大的供应链（外部模型、云托管基础设施等）。

研究结论

• 治理的重要性：缺乏有效的治理和监督，只有 24% 的公用事业、电力和能源公司在 2024 年达到了有意义的 AI 成熟度。董事会需要解决 AI 是技术升级还是变革力量的不确定性，以确保组织能够负责任地受益于 AI。
• 合规的复杂性：全球 AI 法规正在出现分歧并变得复杂，欧洲正在建立基于风险的法规，而美国则采取了更放手的态度，专注于最大程度的创新。国际标准（如 ISO/IEC 5338）正在成为共同语言，以帮助组织证明控制证据。
• AI 系统工程：AI 系统与传统软件不同，它们可以学习、进化和做出自主决策。因此，需要强大的工程实践和组织内部的适当监管来管理这些风险。
• 安全应对措施：组织应基于现有的安全管理流程来构建 AI 安全风险，但董事会应认识到 AI 引入了不同的风险暴露。安全团队需要扩展现有的安全开发实践，以包括 AI 特定的考虑因素，例如威胁建模、保护训练数据、以及与 AI 工程师密切合作。

未来展望

随着 AI 系统越来越多地用于操作环境，它们将属于现有法规的范围，必须相应地进行治理。组织需要建立明确的 AI 运行限制，并能够快速检测和纠正任何问题，以确保 AI 的安全性和可靠性。