2024网络安全十大创新方向报告

关键经营数据分析——现⾦流健康度继续下降 2024网络安全十大创新方向 TopTenInnovativeTechnologyTrendsinCybersecurityfor2024 2024 数说安全 关键经营数据分析——现⾦流健康度继续下降 目录 创新方向：AIGC+数据安全典型落地方案： 上海观安-观智数据流转监测系统360-大模型赋能数据安全分类分级 创新方向：AIGC+安全运营典型落地方案： 深信服-AI安全运营 360-大模型自动化安全运营 绿盟科技-风云卫AI安全能力平台赋能安全运营解决方案天融信-天问大模型系统 金睛云华-大模型赋能的XDR解决方案 创新方向：AIGC+开发安全典型落地方案： 华清未央-机器语言大模型MLM 酷德啄木鸟-CodePecker基于LLM的软件安全治理平台 创新方向：AIGC+自动化渗透测试典型落地方案： 长亭科技-AI驱动，提升网络安全攻防实战对抗能力北方实验室-北实正剑·自动化渗透系统 创新方向：AIGC+邮件安全典型落地方案： 360-大模型赋能邮件安全 创新方向：认知安全典型落地方案： 中科睿鉴-全栈AI安全布局，提升公众认知安全防御力 创新方向：大模型安全典型落地方案： 蚂蚁集团-切面融合智能威胁检测体系360智脑-大模型安全解决方案 创新方向：网络安全度量典型落地方案： 灰度安全-先知·智能风险评估系统360-360抗攻击能力评估系统 魔方安全-全网攻击面度量与治理方案 创新方向：数据跨域管控典型落地方案： 蚂蚁密算-跨域管控 创新方向：安全态势管理典型落地方案： 哨云科技-无代理云检测与响应 关键经营数据分析——现⾦流健康度继续下降 1、数据分类分级 2、数据脱敏 3、数据泄漏防护与溯源 4、API资产识别与风险监测 5、数据安全风险评估 应用场景 典型厂商 创新方向：AIGC+数据安全 数据安全治理包括数据分类分级、数据脱敏、数据防泄漏等工作，通常基于特征、正则表达式以及机器学习方式对大规模的数据进行识别标注，但大多面临规则引擎能力受限、误报高、重人力等问题，无论对于用户还是数据安全服务商来说，都带来了极大挑战。生成式人工智能的出现，已经在数据分类分级、敏感数据识别、数据防泄漏等方面带来革命性改变，包括通过自然语言处理实现自动化数据分类与标签生成，使用多模态技术识别图像、音频等非结构化数据，以及利用类人脑思维链和推理能力理解复杂的语言结构和上下文，高精度识别敏感内容和异常行为。通过大模型处理数据分类、数据脱敏和数据防泄漏等任务，在既保证很好效果的同时，也对数据安全治理工作的效率带来数十倍以上提升，将成为未来数据安全技术发展的重要方向。 图片/音频 内容识别 异常行为 监测 敏感信息 识别 数据分类 分级 数据泄漏 研判 API资产 识别 数据血缘 分析 1、数据语料的质量与场景覆盖度 2、预训练与精调能力 3、NLP自然语言处理与思维理解能力 4、大模型与规则引擎/特征库的联用和协同 5、智能体（Agent）设计与编排能力 核心能力 1、本地化部署与算力配置 2、大模型性能调优 3、安全数据工程化投入 4、不同行业属性和应用场景的覆盖能力 5、数据合规与隐私保护 关键挑战 关键经营数据分析——现⾦流健康度继续下降 流转审计 溯源管理 溯源分析 •观安信息-观智数据流转监测系统 上海观安信息技术股份有限公司是一家提供大数据+泛安全产品与服务的工信部专精特新“小巨人”企业。公司专注数据安全防护技术近10年，致力于数据安全治理、数据安全全生命周期管理技术的研究。公司提供成熟的数据安全方案，全面保障客户数据资产全生命周期安全。通过运用大数据及人工智能技术，观安信息协助客户全面盘点数据资产，实现智能分类分级，明确数据安全风险，可视化数据安全态势，并量化评估组织的数据安全能力成熟度。 方案概况 方案优势和用户价值 方案介绍：方案聚焦于构建以数据为核心、业务为导向的全链路全流量监测分析系统。系统利用网络流量分析，精准识别业务敏感数据的流动，构建数据流转的清晰图谱，实现资产自动梳理、API接口监测、行为审计及风险预警。借助大模型快速准确识别资产锁定关键节点、接口与涉敏人员信息，流转审计保障数据流转透明，风险监测提前预知潜在威胁，并借助智能溯源技术，对泄露事件进行全链路追踪，保障企业内外数据共享的开放性与安全性，实现数据流转过程中的风险隐患最小化。方案示意图/拓扑图： 监测态势统一检索流转审计风险预警溯源分析 展示层运营报告资产管理API管理业务配置系统配置 动态资产梳理数据资产识别数据风险监测数据流转监测数据风险分析数据安全运营 应用资产梳理数据资产发现API安全数据流转审计监测态势分析安全事件告警 风险监测 功能层应用API梳理敏感数据识别数据流转流转统一检索数据溯源分析安全策略管理 应用账号梳理数据分类分级风险监测流转测绘地图主体画像分析安全运营报表 业务安全 源IP梳理数据资产审计风险监测风险事件分析流转探针监控 引擎层流量解析引擎资产梳理引擎行为检测引擎风险监测引擎 数据源镜像流量（交换机）-流转探针分流流量（分流器）-流转探针 方案优势与特点： （1）资产自动发现，协议全面：通过深度学习自动识别资产特征，构建详尽的资 产管理清单，并结合大模型优化协议识别库，实现全链路协议的智能识别与记录。 （2）数据流动可视，监测深入：监测内外部、跨境流量及异常/风险流量，分析数 据资产的使用、流动、涉敏、风险等情况，大模型助力生成直观的数据流转地图。 （3）智能数据分级，识别精准：通过智能数据分类分级与规则匹配，精准识别各 行业敏感数据。结合大模型的持续学习能力，拓展高敏感数据识别范围，动态调规提升识别准确性，如地址信息、医疗记录等。 （4）风险监测预警，决策智能：流转数据要素全记录，AI智能实时监测数据变化， 快速捕捉数据异常，智能评估风险等级，实现风险的智能预警和精准溯源。用户价值： （1）业务连续性与安全性的双重保障：不仅保障业务的连续性和稳定性，还通过 精准识别和细致剖析敏感接口及流量数据，有效预防数据泄露风险。 （2）智能风险防控与合规的无缝融合：精准识别敏感数据，快速响应潜在风险， 保障业务连续稳定，实现数据安全与合规的双赢局面。典型客户或目标客户： 运营商、电力、金融、保险、医疗、汽车、教育等行业用户。 关键经营数据分析——现⾦流健康度继续下降 数据 DNA分类 引擎 机器 学习分类 引擎 智能 识别分类 引擎 •360-大模型赋能数据安全分类分级 360数字安全科技集团有限公司（360数字安全集团，360DigitalSecurityGroup）是兼具人工智能和数字安全能力的公司。在国家数字化战略背景下，360数字安全集团以“上山下海助小微”为企业使命，确立了数字安全和人工智能发展双主线：一方面通过“搞硬科技、啃硬骨头”，为国家攻克了卡脖子难题，为全球数字安全的发展提供了可供参考的“中国方案”，也为产业数字化提供了“安全普惠”的捷径；另一方面，深度参与打造以“人工智能+”为核心的新质生产力，助力传统企业“数转智改”，同时提出“以模制模”的理念解决人工智能安全问题。 方案概况 方案优势和用户价值 方案介绍：基于360CoE安全大模型进行数据分级分类专项训练，联同成熟的DNA分类引擎、机器学习引擎等成熟引擎，构建数据分级分类智能体，全面赋能360本地安全大脑，实现数据安全领域中智能化分类分级识别，通过语义输入信息的数据分类、所处行业中分级信息,利用专有名词、同音词、中英文常用词汇、特定情景下常用缩写字母，识别其语义后进行分类分级。 方案示意图/拓扑图： 本地分类分级数据数据分类分级确认数据级别同步运维网关邮件提醒安全知识增强（RAG） 数据分类外部工分类分级分级任务具调用结果 技能编排LLM对话Functioncall知识库搜索插件应用判断器内容提取 数据安分级全语言中枢判道分类大别数据数据德智能模规划中枢中分类分级中 体型枢枢 (CoE)记忆中枢 基因库SVM分类模型规则库 方案优势与特点：•智能识别头阵,通过大语言模型对输入进行感知分析,包括:行业特性、规范要求、特定场景和数据业务等 •自然语言识别,通过大语言模型语义识别,包括:同音字、拼音、中英文、距离向 量等进行语义分类 •机器学习托底,在智能体中针对大量分类分级结果数据训练,通过SVM线性分类器托底分类分级能力用户价值： （1）帮助用户自动化分类分级，此前需要数人月工作量的人工分类分级转为几小时的自动化分类分级，人工只需要针对结果进行确认即可。 （2）数据DNA分类引擎还可以帮助用户避免进行重复数据的分类分级工作。 典型客户或目标客户： 国家大数据局、政企用户、拥有客户数据的民营企业、有保护数据隐私的企业用户 关键经营数据分析——现⾦流健康度继续下降 创新方向：AIGC+安全运营 安全运营是提升网络安全能力的核心工作，但目前面临告警噪音与误报、APT、0Day以及高混淆、高变换、高对抗性攻击检出率低、海量异构数据难以整合分析、响应处置智能化不足、人才短缺等问题，导致效果始终无法达到预期。生成式人工智能在解决这些问题方面展现出高效的思维推理与研判能力。首先，它能够将复杂的安全问题分解为多个步骤，并在保持上下文信息的基础上进行逻辑推理，有效过滤误报、攻击尝试、低风险问题等，突出高威胁事件。其次，通过理解因果关系和进行演绎归纳推理，它在识别APT和0Day攻击时更为高效，并通过强大的生成能力，给出详细和深度的研判结果，大幅简化研判难度。最后，大模型具有强大的动态调整和自适应学习能力，能够根据实时的反馈动态优化防御策略，提升告警处置效率、增强攻击识别精度和自动响应能力，从而全面提升网络安全运营的效果。融合AI已成为当下网络安全运营中不可或缺的能力，也是未来必然的发展趋势。 告警降噪 1、安全数据（语料）的质量与全面性 2、*模型训练与精调能力（全量/LoRA） 3、智能体（Agent）设计与编排能力 4、大模型与安全架构的逻辑设计与融合 5、大模型与小模型等AI技术的联用与取舍 核心能力 1、模型训练与精调能力 2、对AI幻觉的压制与应对 3、性能调校与算力使用间的平衡 4、模型合规与自身安全防护 5、安全数据工程化投入 关键挑战 1、安全事件告警降噪 2、威胁与攻击研判 3、安全事件自动化响应与处置 4、报告自动生成 5、常态化安全运营助手 应用场景 典型厂商 威胁研判 报告生成 AISecOps 策略优化 响应处置 关键经营数据分析——现⾦流健康度继续下降 •深信服-AI安全运营 深信服科技股份有限公司（下称“深信服”）创立于2000年，是一家专注于企业级网络安全、云计算、IT基础设施及物联网的产品和服务供应商。在如今的数字化时代，公司立志于承载全球各行业用户数字化转型过程中的基石性工作，从而让每个用户的数字化更简单、更安全。历经24年的深耕发展，深信服作为中国网络安全领域的龙头厂商，持续引领产业发展。深信服智安全秉持“简单有效，省心可靠”的价值主张，通 过以AI为内核、云化赋能的“开放平台+领先组件+云端服务”安全新范式2.0，为千行百业的网络安全建设带来更多“领先一步”的效果和体验，实现“体验领先一步，效果领跑一路“。 方案概况方案优势和用户价值 方案介绍： 深信服AI安全运营方案 XDR+GPT安全运营新范式，让威胁对抗更高效，让运营工作更省心 方案优势与特点： 释放生产力，解决人员短缺难题 1*安全工程师*安全GPT=N*高级安全专家 大幅提升运营生产力效果 （单个安全事件全面处置效率示例）： •辅助运营~10分钟，传统人工~180分钟，提升提升94.4% 多种服务保障安全效果 建设平稳落地、使用稳定可靠 大模型赋能威胁运营新机制 全面跃升安全运营生产力 实战场景检验 平战状态省心切换 •智能驾驶~30秒，传统人工~180分钟，提升提升99.7% √高质量遥测数据采集与治理 √增强高对抗检测