人工智能安全治理白皮书（2026）中国联通

人工智能安全治理白皮书（2026）总结

一、AI前沿技术发展

• 多模态大模型技术：从文本到视觉，再到全模态融合，多模态大模型（MLLM）和统一多模态基础模型（UMFM）在感知、理解和生成能力上持续增强，但仍面临跨模态表征、数据与训练、评估、效率与安全等挑战。
• 智能体技术：LLM智能体（LLMAgent）推动AI从响应请求向自主规划发展，通用智能体平台蓬勃发展，但仍面临可靠性与安全性、长期记忆能力、评估与标准化体系等挑战。
• 具身智能技术：依托物理载体，具身智能（EmbodiedAI）实现感知、行动和反馈的闭环，多模态大模型驱动其向感知—推理—规划—行动一体化发展，但仍面临数据与迁移、规划与推理、评估与安全机制等挑战。

二、AI安全治理体系

• 总体目标：安全可靠、公平可信、智能向善，实现风险可识别、过程可管控、行为可干预、责任可追溯。
• 体系构成：以数据和算力基础设施为支撑，以模型与算法、智能体安全为重点，将安全运营贯穿全生命周期，并由监督与管理提供制度约束和实施保障。
• 关键模块：
  • AI模型与算法安全：包括生成式AI大模型理解与生成安全、代理式AI大模型推理与规划安全、AI模型基础安全。
  • AI智能体安全：包括身份与权限安全、工具调用与执行安全、记忆安全、交互安全。
  • AI数据基础设施安全：包括AI数据生命周期安全防护和AI数据安全管理。
  • AI算力基础设施安全：包括AI硬件设备安全和AI系统与平台安全管理。
  • AI安全运营：包括安全设计、安全开发、安全部署、安全运维。
  • AI监督与管理：包括法规政策、标准规范、管理制度和保障措施。

三、AI安全治理风险分析与挑战

• 风险分类：基础设施安全风险、模型与算法安全风险、数据安全风险、应用安全风险、应用场景安全风险。
• 模型与算法安全风险：包括模型内生安全风险（鲁棒性、可解释性、泛化能力、偏见与价值对齐风险）和模型外部攻击威胁（后门攻击、对抗攻击、模型窃取攻击）。
• 数据安全风险：包括数据安全治理风险（数据合规、隐私保护、知识产权、数据质量）和数据外部攻击威胁（数据投毒、隐私推断、数据重建、数据非法访问）。
• AI应用安全风险：
  • 多模态理解与生成安全风险：包括多模态内容安全风险、多模态幻觉、多模态对抗与越狱攻击、多模态深度伪造与虚假信息。
  • 智能体应用安全风险：包括感知安全风险、记忆安全风险、推理决策安全风险、执行安全风险、供应链安全风险。
  • 具身智能安全风险：包括物理硬件安全风险、物理环境感知与通信安全风险、环境建模与自主决策安全风险、自主执行与交互安全风险。
• AI应用场景安全风险：
  • AI基础电信网络：自智网络应用深化，但仍面临跨域协同、数据质量、模型可靠性、智能体协同冲突等挑战。
  • AI网络安全：大模型赋能网络安全能力跃迁，安全智能体成为重要发展方向，但仍面临攻击性能力、工具权限、执行环境和人工审批等风险。
  • AI编程代码：代码大模型和代码智能体快速发展，但仍面临代码正确性、幻觉依赖、软件供应链、间接提示注入、高权限工具执行等风险。
  • AI科学研究：大语言模型和智能体技术影响科学研究，但仍面临可靠性、安全性与治理等挑战。
  • AI医疗：大语言模型推动医疗AI发展，但仍面临幻觉问题、数据隐私与安全、可解释性等挑战。

四、AI安全治理政策与标准现状

• 全球主要经济体AI治理进展：欧盟侧重风险分级监管，美国侧重创新驱动，中国注重统筹发展与全生命周期风险管控。
• AI安全治理标准规范现状：
  • ISO/IEC：侧重通用管理、可信性与测试验证，涵盖系统安全治理、数据与隐私安全、模型安全测试与评估、生成式AI系统、服务和内容安全等方面。
  • ITU-T：突出数据交互、模型安全、智能体协同与前沿AI技术安全，涵盖系统安全治理、数据与隐私安全、模型安全测试与评估、生成式AI安全、智能体与前沿AI技术安全等方面。
  • IEEE：关注AI可解释性、公平性、隐私计算、鲁棒性测试、大模型评估、生成式AI、智能体等领域，涵盖系统安全治理、数据与隐私安全、模型安全测试与评估、生成式AI安全、可解释性、公平性与可信评价、AI应用安全等方面。
  • IETF：关注智能体通信与发现、安全协作、身份与权限控制、AI训练与推理网络、AI辅助网络运营等方面。
  • 国家标准：强调监管衔接、生成内容治理、基础设施防护和行业应用落地，涵盖系统安全治理、数据与隐私安全、模型安全测试与评估、生成式AI安全、AI计算基础设施与开发环境安全、行业应用安全等方面。

五、AI安全治理技术解决方案与案例

• 中国联通人工智能安全治理一体化解决方案：构建涵盖“有害内容防范”和“有害操作管控”双维度的全栈安全能力体系，覆盖大模型内生安全、数据安全、基础底座安全、智能体身份权限、工具调用与全生命周期运营治理。
• 百度智能体安全解决方案：以AgentSOC（安全运营中心）解决方案构建协同治理体系，包括统一安全中枢、Agent安全护栏、第三方Skill和插件治理、安全运营与全生命周期治理。
• 基于中兴AIOS的智能体安全治理方案：以“安全内生、全程可信”为原则，覆盖设计、开发、训练、部署、运行和迭代全过程，形成四层治理体系：夯实基础安全与身份信任、实施动态最小权限、推动研发安全左移和安全内生化、构建运行防护与安全运营闭环。
• 华为智能体安全治理方案：构建“事前准入、事中拦截、事后审计”的纵深防御闭环，包括供应链准入和身份确权、事中多层控制、安全态势与持续审计。
• 360全模态大模型安全卫士R3.0解决方案：以“以模治模、以测促防”为核心思路，形成四层防护体系：建设统一平台并实现低侵入部署、开展全模态输入输出检测、防范跨模态越狱、深度伪造并强化内容溯源、覆盖提示词、数据、模型和Agent安全全生命周期。
• 奇安信智能体安全解决方案：以“大模型是思想、智能体是行动，AI安全核心是管住智能体的手脚”为出发点，按“双闸门打底、行为管控盯防、终端识别补漏、权限行为升级”四步形成四层能力体系，构建控制平面与数据平面分离的总体架构、流量与端侧协同防护、关联意图与实际行为、建立“看得见、拦得住、检得出、查得清”能力闭环。

六、AI安全治理发展建议

• 完善法律法规及治理体系。
• 健全全流程AI安全标准体系。
• 推动产业协同与生态共建。
• 开展前沿安全技术攻关。
• 强化复合型人才培养与产学研协同。