网络安全领域AI状况调研报告

CrowdStrike 委托对超过 1000 名网络安全专业人士进行了一项调查，以了解他们对 GenAI 的看法 目录 你们同行如何看待GenAI 3 4前5个要点 关键发现2：安全团队希望由网络安全专家构建的生成式AI 关键发现3：机器人将增强我们，而不是取代我们 关键发现5：安全负责任地采用需要护栏 总结 关于CrowdStrike 14 你同伴们如何看待生成式人工智能 安全团队的压力越来越大。随着对手变得更快、更隐蔽，安全团队必须适应以保持领先。 生成式人工智能（GenAI）的出现有可能帮助他们做到这一点。凭借其独特的自然语言处理和合成大量数据的能力，GenAI可以帮助安全团队打破数据孤岛，提高数据意识，并以更高的熟练度操作其安全工具。许多安全领导者都认识到了它的潜力，有些人甚至强制在整个运营中采用人工智能。 同时，热潮已经达到了白热化。关于GenAI的讨论和内容如雪崩般涌现，使得安全团队难以理解什么是可能的、什么是不可能的。误解司空见惯。 为帮助组织应对这种不确定性，CrowdStrike对1000多名全球网络安全领导者和从业者进行了调查，了解他们塑造GenAI采用的关键标准、对当前GenAI产品的看法以及对GenAI的整体态度。 在市场猜测四起的情况下，这项调查揭示了安全团队实际上是如何思考GenAI的——而结果可能会让你感到惊讶。 前5个要点 安全团队想要基于平台的方法80%的受访者倾向于通过网络安全平台提供生成式人工智能（而不是点解决方案）。 生成式人工智能必须专门用于网络安全76%的受访者倾向于使用专门为网络安全构建的生成式人工智能工具，而不是领域无关的工具。 2 这是关于增强，而不是替换受访者普遍认为，通用人工智能最终将优化分析师体验，而不是取代人工劳动。 3 可衡量的投资回报率是首要任务关于 GenAI 的首要经济顾虑并非成本问题，而是提供可衡量的投资回报率。 安全和隐私仍然是主要关注点担心 GenAI 的风险，用户将安全和个人隐私护栏列为希望在 GenAI 工具中看到的前沿功能。 调查方法论 crowdstrike与研究中心viB合作，于2024年6月至7月对1022名全球网络安全和it专业人员进行了调查。问题集中于对生成式人工智能网络安全解决方案的认知、态度和关注。受访者还就购买动力、决策标准和当前购买旅程进行了回答，以生成式人工智能。总共提出了31个问题。crowdstrike分析了回答，以提供这份突出趋势和关键发现的报告。 第一产业 保险 制造行业 什么是GenAI？ 商业服务 媒体与互联网 网络安全中的生成式人工智能（GenAI）是指能够通过学习海量数据集来创建新内容（例如威胁检测模式、自动化事件响应剧本和钓鱼邮件模拟）的人工智能系统。该技术可以通过嵌入式产品功能或助手、聊天机器人等对话界面来提供。 医疗保健 零售 电信 政府（国家和地方） 高等院校 交通 关键发现1 基于平台的方案更可取 倾向于通过平台提供生成式人工智能（相对于点解决方案） 接受调查的受访者在研究GenAI 工具或已经购买了一个 会改变安全供应商使用GenAI来自另一家供应商的 计划在未来12个月内进行购买 网络安全专家在他们的 GenAI 购买旅程中走得多远？生成式人工智能购买旅程 采用早期阶段 受访者承认通用人工智能仍处于起步阶段，但感到有信心三分之二（64%）正在研究足以启动购买旅程。几乎人工智能工具或者已经购买了一个。在那些已经开始的人中十分之七（69%）打算进行购买GenAI购买旅程，几乎未来12个月。 集成是首要任务 当考虑购买 GenAI 时，排名第一的能力和领先如何 GenAI 与现有组织运营的担忧是安全工具。这些结果展示了GenAI的价值如何与其在更广泛的技术生态系统中的运行效果相关联。 人工智能驱动平台偏好 几乎三分之二（63%）的受访者表示他们的组织将考虑升级他们的安全工具要使用其他供应商的 GenAI 工具。GenAI 不仅被视为安全工具的可访问界面，还被视为一种能够帮助团队跨工具提取更深洞察力和更多价值的能力——使其在选择安全平台时成为一个决定性因素。 为什么平台很重要 一种基于平台的网络安全方法将多种工具、数据和流程集成到一个统一系统中。当作为平台的一个集成组件交付时，生成式人工智能（GenAI）可以加速并增强基于平台的方法的优势。它可以简化入职流程，使分析师能够更快地熟悉工作并更直观地与其工具互动（例如通过使用自然语言）。通过平台交付生成式人工智能还可以简化采购和部署的复杂性，促进更无缝的采用。 第二关键发现 安全团队希望由网络安全专家构建的生成式人工智能 GenAI安全的前三大采购驱动因素 #1为了提高我组织检测和响应攻击的能力 #2为了提高我组织的运营效率 #3 为了缓解技能短缺的影响 预防违规仍然是首要任务 前3名供应商选择标准 74%的受访者要么在过去12-18个月内遭受过数据泄露，要么担心他们可能容易遭受数据泄露。也许并不令人意外，大多数受访者认为考虑使用通用人工智能工具的主要动机是更好地检测和响应攻击。这种动机超过了广泛猜测的采用人工智能的驱动因素，包括技能短缺（12%）和领导层指令（10%）。 #1网络安全领导力的验证#2事件响应专业知识#3供应商主导的威胁情报研究 网络安全专业知识胜过通用人工智能领导能力 前三项目标安全成果 受访者优先考虑具有深厚网络安全专业知识的供应商在选择 GenAI 工具时,强大的事件响应能力和威胁情报领导力。这些因素超过了更一般的AI领导力，例如供应商在人工智能研究上的投资或与大型语言模型提供商的合作伙伴关系。 #1更快的响应平均时间#2提升检测保真度#3降低风险敞口 专用于网络安全的定制式生成式人工智能 对安全漏洞预防和供应商专业知识的强调表明，安全团队会避免使用与领域无关的通用人工智能工具，因为这些工具可能缺乏提供可操作所需的专业上下文。83%的受访者表示他们不会信任符合安全最佳实践的对齐协助。提供不合适或不明智安全指导的工具。 关键发现3 失业是一个低担忧 机器人将增强我们GenAi 工具的顶级安全工作流勿替我們 对工作的关注尽管普遍误解，采用“自主soc”的位移量微乎其微。事实上，这项担忧在GenAI的运营担忧中排名最低，即使是在从业者当中也是如此。虽然GenAI有助于解决技能短缺问题，但受访者认为它不会通过自动化取代人类劳动来实现这一点。 改善分析师体验 受访者将 GenAI 视为提升分析师体验的一种方式，这体现在排名靠前的运营成果中提高生产力，他们期望实现，包括减少职业倦怠，加快入职培训。这揭示了一种理解，即通用人工智能可以是一种力量倍增器和任务加速器。 GenAI工具的顶级安全工作流 加速数据驱动决策 应用生成式AI的最受欢迎的工作流程主要围绕提高分析师生产力和简化数据分析以支持决策。这包括工作流程自动化最小化繁琐耗时任务，例如总结威胁情报、编写脚本以及为调查汇编跨域数据。 辅助检测调查与分析 辅助漏洞管理及补丁修复 自动回复和/或工作流实施 威胁情报分析与总结 问题 编写和编辑查询或脚本 可衡量的投资回报率比成本更重要 排名靠前的围绕通用人工智能采用的 经济担忧 #1 量化生成式人工智能支出带来的投资回报率 #2 许可 GenAI 工具的成本 #3 不可预测或令人困惑的定价模型 投资回报率作为首要经济关注点 投资回报率（ROI）仍然是首要的经济关注点与生成式人工智能相关，其成本问题高于对生成式人工智能工具的许可成本的关注。 通过平台方法提高人工智能投资的回报速度 响应表明，组织认为平台提供的生成式人工智能可以帮助团队更快地实现经济效益来自人工智能投资的。受访者预期将通过更广泛的平台整合工作实现增量节约，包括采购效率提升，安全事件减少，培训周期减少，维护成本降低. 生成式人工智能采用的顶级安全问题 关键发现5 #3#1 敏感数据暴露给底层LLM#4 人工智能幻觉#2 对生成式AI工具的对抗攻击#5 对于 GenAI 使用的公共政策法规不足在GenAI工具中缺乏护栏或控件 需要护栏才能安全负责地采用 生成式人工智能的奖励是否超过风险？ 生成式人工智能安全与隐私控制 受访者对于生成式人工智能的回报是否大于其风险意见不一。安全和隐私为了安心地采用通用人工智能，受访者表示需要控制来实现 GenAI 成熟度，均位列GenAI工具的前沿功能需求之中。 对数据泄露和攻击的担忧 顶级的生成式AI功能需求涉及安全和隐私控制 底层大型数据暴露GenAI面临的主要安全问题包括语言模型（LLMs）和针对GenAI工具的攻击，验证了围绕GenAI使用的经常被引用的风险。 新一代人工智能安全策略 受访者要么已经实施了新的安全政策，要么正在制定政策，以在一年内管理GenAI的采用 随着生成式人工智能的采用日益增长，组织越来越依赖这项技术10名受访者中有9人和政策措施来确保负责任的使用。几乎(87%) 已实施新的安全策略或者正在制定政策，以在明年内管理通用人工智能的采用。 总结 我们正步入网络安全领域的人工智能（GenAI）时代。作为早期采用者的领域，人工智能（GenAI）最近正接近主流采用，因为安全团队意识到了它的许多好处。 随着采用加速，一个事实很清楚：GenAI工具的价值在于它们能够与安全团队已经使用的平台和工具集成。安全团队希望将GenAI作为平台的一部分来部署，以从现有工具中获得更多价值，提升分析师体验，加快入职流程并消除集成新独立解决方案的复杂性。 安全团队也希望由网络安全专家构建的用于网络安全的生成式人工智能工具。组织将基于最重要的结果来评估其生成式人工智能投资：更快的响应时间、更准确的决定制定以及通过简化的安全运营实现的可衡量的投资回报率。 尽管通用人工智能尚处于起步阶段，许多人仍在关注通用人工智能在网络安全领域的中长期应用。在整个行业范围内，开发这项技术（以及组织获得该技术的许可）的成本将要求有切实的成果。虽然通用人工智能并非万能药，但这项调查表明，组织认为它能够带来显著的好处。 未来，在网络安全领域，通用人工智能的发展将由那些不仅提升安全性的工具来定义，同时也维护最高标准的安全和隐私。 CrowdStrike生成式人工智能的方法 CrowdStrike于2011年率先将人工智能应用于网络安全，并且我们始终在创新。CrowdStrike首次发布了其GenAI助手，Charlotte AI，在2023年。命名为“最佳 AI 安全副驾驶通过 2024 年网络安全防御全球信息安全奖，Charlotte AI 能够帮助安全团队使用自然语言查询，并在其 CrowdStrike Falcon® 平台模块中嵌入生成式人工智能，以揭示跨领域洞察，自动化耗时的工作流程，并做出更快、更准确的决策。Charlotte AI 在经过PB级别的安全遥测数据以及来自CrowdStrike威胁研究员和事件响应专家的洞察训练后，专门设计用于协助安全团队，同时为数据透明度、数据隐私和基于角色的访问提供关键保障——使生成式人工智能的采用既安全又负责任。 额外资源 ►►阅读安全团队负责任地使用 GenAI 必须提出的 5 个问题。看看crowdstrike如何帮助组织保护他们的AI安全态势（AI-SPM）CrowdStrike Falcon® 云安全.►学习如何使用Charlotte AI的多AI代理架构使安全团队能够加速工作流程，同时实现安全负责任的GenAI采用。►学习CrowdStrike如何帮助组织防止敏感数据泄露或暴露CrowdStrike Falcon® 数据保护. 关于CrowdStrike CrowdStrike(Nasdaq: CRWD)，一家全球网络安全领导者，凭借世界上最为先进的云原生平台，重新定义了现代安全，该平台用于保护企