AI安全解决方案白皮书——构建面向 AI 基础设施的安全架构

AI安全架构总结

AI业务变化与安全挑战

AI产业发展进入混合云协同、开源基座主导、智能体规模化落地、数实深度融合的新阶段，传统安全体系面临三大核心挑战：

1. 混合架构AI基础设施：跨域融合导致安全边界模糊，核心数据、模型在多架构间高频流转，易出现数据泄露、非法窃取等风险。
2. 公有云推理场景：规模化推理引发数据隐私保护难题，企业需将包含商业机密、用户隐私等敏感数据上传至公有云，面临窃取、留存、滥用、泄露等多重风险。
3. 公共云战略升级：软硬芯全栈信任链可信验证挑战突出，公共云共享复用特性使其成为高级网络攻击重点靶向，算力供应链安全风险沿全栈传导。

此外，模型后训练阶段的数据污染与概率输出、数字员工智能体的自主化作业、数实融合具身智能的虚实联动，均带来新的安全风险。

AI安全总体框架

AI安全解决方案理念

AI大模型与自主智能体的应用引发安全领域三大结构性挑战：

1. 自主性引发行为失控：自主决策链使行为边界从预设转为实时推理，非预期安全偏差概率显著上升。
2. 概率性输出放大不确定性：AI以概率为基础的输出特性，导致传统规则匹配式防御难以覆盖模型内生潜在的安全风险。
3. 跨多系统导致信任域边界模糊：跨模型、跨系统、跨服务的复杂调用链路使传统安全域划分失效，威胁路径呈现高度隐蔽性与穿透性。

解决方案理念转向以意图自治、观测管控、协同共治为中心的分布式模式，构建安全五大核心主张：

1. 释放智能交互边界：安全前置，建立可解释、可审计、可干预的安全闭环。
2. 构建可控的自主系统：依托软硬芯协同的AI基础设施，确保自主代理的行为逻辑全程受控。
3. 意图驱动的内生安全：将安全逻辑内嵌于认知层，从源头识别AI安全风险。
4. 统一安全，协同共治：构建跨系统联动的安全防御生态，实现威胁情报实时共享与自动化响应。
5. 全链可感、可追溯、可审计：建立面向AI推理和智能体应用过程、数据流向及决策依据的全链路观测机制。

AI安全解决方案架构

华为云AI安全解决方案以“内生安全+安全产品+统一安全运营”为核心框架构建，防护范围覆盖芯片安全、硬件安全、AI Infra安全、Agent Infra安全、模型安全、智能体安全全层级。

1. 芯片安全：深度设计鲲鹏（CPU）和昇腾（NPU）的安全根技术，包括ARM CCA、机密计算、硬件可信根（RoT）等，防止攻击者绕过软件层直接窃取模型权重、篡改推理输出。
2. 硬件安全：利用UEFI安全自动、固件完整性校验、硬件秘钥保护、分布式可信根以及擎天架构，构建基于硬件的信任根，防止攻击者通过篡改系统内核、BIOS或固件来绕过安全防护。
3. AI Infra安全：包含围绕训练/推理的AI机密计算、A+K异构机密计算、可信智能计算、云技术设施安全等，保障训推安全。
4. Agent Infra安全：提供Agent安全网关、Agent身份安全、Agent环境隔离沙箱、Agent Harness安全四大关键Agent安全基础设施，确保所有智能体在可信环境中安全、可控地执行任务。
5. 模型安全：围绕模型生产和模型推理两大关键阶段构建分层、闭环的安全解决方案，从不确定性到安全可控的智能化中枢构建模型安全层的安全防护能力。
6. 智能体安全：围绕Agent资产安全、Agent运行时安全、Agent执行安全三个核心维度构建全链路、立体化的安全能力体系，保障智能体可信运行。

内生安全与统一安全

1. 内生安全：基于业务意图进行安全检测与防护，安全能力深度融入系统架构的每一层，实现安全与业务的原生融合与同频共振。通过软硬协同、以白检黑、基于业务的运行态保护，确保业务意图在执行过程中不会被恶意篡改。
2. 统一安全：全栈智能威胁监测能力与云内生协同防御体系，构建从数据采集、威胁检测、协同响应到价值呈现的完整闭环。实现多云安全统一管理、安全价值可观测、运营智能提效。

AI安全建设指南

AI基础设施安全

1. 建设思路：构建混合架构下“内生可信、密态运行、纵深防御”的算力基础设施，包括软硬芯协同的AI内生安全算力底座、全密态数据上云打造企业专属安全空间、攻击不瘫、数据不丢的AI安全防线。
2. 建设重点：
   • 软硬芯协同的AI内生安全算力底座：专属AI资源物理隔离、NPU机密计算、CPU机密计算、推理混淆保护、灵衢高性能加密通信、远程证明。
   • 全密态数据上云，企业专属安全空间：端到端加密、HYOK（企业自持密钥）、数据胶囊、机密推理、数据流转可观测。
   • 攻击不瘫，数据不丢的AI安全防线：身份防线、网络防线、应用防线、主机防线。

模型安全

1. 建设思路：从用户的业务流出发，采用后训练内生对齐、运行时安全护栏双重安全建设思路。
2. 建设重点：
   • 内生对齐：数据处理、安全对齐、安全测评、模型保护。
   • 安全护栏：用户输入安全、上下文安全、RAG检索安全、工具调用安全、输出内容安全。

智能体安全

1. 建设思路：构筑“环境内生可信、意图威胁检测”的保护机制。
2. 建设重点：
   • 软硬协同的可信Agent基础设施运行环境：自动化资产管理、智能体沙箱、Agent记忆机密运行环境、全流程审计溯源。
   • 防止智能体在生产环境失控：绑定用户和智能体身份、企业角色限定、内核级意图威胁检测。

智能化安全运营

1. 建设思路：从“人工运营”走向“AI驱动的智能化安全运营”，通过“AI安全态势管理+ Agentic智能运营”双轮驱动，构建覆盖AI资产全生命周期的智能化安全运营体系。
2. 建设重点：
   • 全域安全态势可视化：环境安全可视化、大模型推理安全可视化、大模型训练安全可视化、AI资产漏洞及攻击风险可视化。
   • 多安全智能体协同：安全指纹智能体、漏洞挖掘智能体、安全观测智能体、威胁研判智能体、策略生成智能体。

典型场景化应用

1. 混合云场景下智能体安全防护：通过云上云下协同安全、模型数据与智能体安全、通算一体基础设施安全三位一体纵深防护体系，实现数据流转合规可控、智能体行为全程可防、底层底座安全可信、安全业务兼容共生。
2. 医疗云上训练和推理：构建“数据专区”医疗AI安全方案，实现病理AI能力安全上云，满足原始数据不出院、不外流的合规管控要求。
3. 智驾上云训练：通过启用客户端证书双向认证，构建汽车专区，和针对模型文件的高性能加解密，保障数据采集安全上云、数据云上合规处理、模型权重文件保护。
4. 企业代码智能体防护：通过身份验证及企业角色限定、云端机密推理、意图威胁检测与防护、全链路行为审计，确保代码辅助智能体在提升编码效率的同时，其行为始终处于权限可控、风险可管、操作可溯的框架内。
5. 企业办公助手防护：通过AI资产和漏洞管理、办公智能体角色限定、异常访问数据意图威胁熔断、全链路安全审计，保障云上部署办公助手场景中的全链路安全管控与合规运营。

未来展望

AI安全正迈向Security与Safety内生融合、人本优先的新阶段，未来AI治理将围绕六大安全治理方向：

1. 能力治理升级：构建具备动态感知能力的新型安全管控框架，实时捕捉并化解未知风险。
2. 算法边界约束：通过划定硬性红线，坚决防止算法对人类理性和行为的隐性支配。
3. 破解黑盒难题：全面落地“全链路可解释AI”，让每一次决策过程皆可溯源、结果皆可复盘。
4. 平衡效率与文明：用完善的安全机制对冲高度自动化带来的社会风险，全力护航人类文明的可持续发展。
5. 严控数据滥用：全面应用隐私计算技术，切实保障个体的选择权，捍卫数字世界的伦理底线。
6. AIGC全链条治理：建立覆盖内容全流程的溯源与鉴伪体系，从源头到传播终端筑起遏制虚假信息的坚实盾牌。