前言
人工智能正在重塑企业计算模式,将安全保护对象从IT基础设施扩展到AI系统,提出了新的安全挑战。传统安全体系难以应对AI原生语义、身份和执行上下文带来的风险,需要构建面向AI运行时的持续发现、检测、调查与响应体系。
AI时代安全挑战:从Protect IT到Protect AI
安全范式随着计算模式的变化不断演进:网络时代保护边界,终端时代保护进程,云时代保护工作负载,XDR统一跨域IT安全。进入AI时代,保护对象扩展到Prompt、Agent规划、工具调用、知识访问和委托链,需要将“持续遥测-检测-调查-响应”范式延伸到AI原生对象与AI运行过程。
AI正在改变企业计算模式,引入新的决策主体和执行主体,安全团队需要理解“谁发起、Agent的任务目标、调用了什么工具、使用了什么身份、访问了什么数据、最终执行了什么动作”。AI安全威胁趋势显示,企业AI采用快速增长,但安全治理能力存在差距,AI安全风险同步上升。中国AI安全监管持续完善,企业需要加强内容安全、数据保护、算法治理和安全审计能力。
AI安全典型事件集中在三个方面:未经授权的AI使用与数据外泄、AI继承或叠加权限后的过度访问,以及Agent在目标驱动下产生的自主越界行为。Prompt Injection、知识投毒、恶意AI组件和非人身份(NHI)滥用等风险成为新的攻击面。
AI时代的八大保护对象包括AI应用、模型、Agent、工具、上下文、知识、身份和运行环境,需要被独立观察、关联和控制。
AI安全具有“双向性”,既是攻击目标也是攻击载体。AIDR需要同时观察主体、上下文、执行和结果,判断AI运行风险。
传统安全体系无法保护AI时代,因为其原始遥测与检测模型主要面向IT对象,缺少AI原生语义和运行上下文。AIDR需要在现有EDR/XDR、DLP、IAM和网络安全能力之上增加新的观察与关联能力。
AIDR定义与关键能力
AIDR(AI Detection & Response)是面向AI与Agent运行时的新一代检测与响应体系,通过持续发现AI资产,观测AI运行时对象与行为,识别AI原生风险,关联AI与IT安全事件并实施响应,保障AI系统运行安全、可控和可追溯。
AIDR的关键技术能力包括AI原生遥测、统一上下文建模、多维风险检测、跨域事件关联和响应验证,将AI原生安全与传统IT安全连接为完整检测响应闭环。
AIDR的核心任务闭环遵循六阶段模型:资产发现、运行时检测、调查、响应、验证和闭环,其中“验证”阶段通过三态验证机制(已下发、待验证、已确认),确保每个响应动作都形成真正的闭环。
企业AIDR建设路径
企业需要AIDR来解决AI资产不可见、AI行为不可控和AI风险无法闭环三个挑战。AIDR建设应遵循用完整模型定义方向、用MVP控制范围、用统一平台形成闭环、用现有控制点降低投入、用可验证指标证明能力等原则,分阶段逐步推进。
AI原生威胁场景
本章以AIDR六层能力模型为主线,选取代表性威胁场景,展示AIDR如何覆盖AI资产发现、语义安全、数据保护、Agent行为检测、身份治理以及响应取证,形成从发现、检测到响应的完整闭环,包括Shadow AI导致企业AI资产不可见与数据风险、员工使用公共AI导致敏感数据泄露、RAG知识投毒与Prompt Injection导致Agent错误决策、恶意AI应用或Agent窃取企业信息、Agent身份失控与多Agent委托链越权、Agent运行异常导致业务失控、AIDR安全闭环:攻击链调查与自动响应等场景。
AIDR产业格局与中国企业现实挑战
中国大型企业对AIDR提出更强的本地化与融合要求,包括私有化与混合AI环境、AI与传统IT深度连接、敏感数据和遥测本地化、国产与异构生态、复用现有SOC/XDR体系。亚信AIDR更契合中国大型企业的复杂环境,具备本地化部署、多模型/多Agent适配、多控制点遥测、AI与IT统一关联、跨域响应以及与SOC/MDR融合的能力。
亚信AIDR战略优势
亚信具备构建AIDR体系的基础:全域安全控制点覆盖、成熟的安全运营能力,以及以AI XDR统一中枢为核心的检测响应架构。亚信AIDR的核心定位是以AI XDR统一中枢为核心,构建覆盖AI资产、交互、身份、数据和运行行为的检测响应体系,实现从传统IT安全到AI安全的融合。
AIDR未来演进方向
随着企业AI应用不断深入,AIDR能力将持续演进:
- 从AI资产治理走向AI运行时安全
- 从单Agent安全走向Agent生态安全
- 从检测响应走向智能化安全运营
总结与展望
AI时代安全范式正在从Protect IT走向Protect AI,AIDR成为Protect AI时代的新一代检测响应体系。亚信AIDR以AI XDR统一中枢为核心,构建覆盖AI资产、交互、身份、数据和运行行为的检测响应体系,实现从传统IT安全到AI安全的融合。AIDR未来将持续演进,从AI资产治理走向AI运行时安全,从单Agent安全走向Agent生态安全,从检测响应走向智能化安全运营,迈向可信、可控的AI时代。