傅奎：安全大模型的最后一公里-58页

大模型在网络安全领域的应用现状与展望

大模型在网络安全领域应用现状

• 应用现状：大模型在网络安全领域的实际应用场景相对较少，多数企业仍在探索阶段。安全工作对响应的准确性、即时性和专业性要求高，天然需要人工智能的介入。
• 国内情况：国内企业积极拥抱大模型技术，但多数是跟风行为，实际能从零打造“安全大模型”的企业微乎其微。部分厂商宣称自研安全大模型，但实际仍是新技术包装老产品。
• 国外应用：国外如BlinkCopilot和SecurityCopilot等平台已开始提供以AI为主导的安全工作流程自动化，帮助安全专业人员快速应对威胁。

大模型在安全运营领域的应用场景

• 安全事件描述再组织：将专业术语转化为易于人类理解的语言，便于沟通和汇报。
• 非结构化文本处理：快速处理非结构化文本，输出结构化结果，便于安全人员理解和程序处理。
• 战报日报总结：根据多个安全事件详情，自动生成日报或战报，并完成数据抽取和可视化。
• 漏洞挖掘增强：利用大模型的代码阅读和理解能力，实现自动化代码审查，提高二进制代码的可读性和漏洞挖掘的准确性和效率。

大模型在智能决策领域的应用探索

• 智能决策需求：期望大模型不仅能识别安全事件，还能主动评估风险、生成策略并自动执行动作。
• 场景探索：基于BAS（Breach and Attack Simulation）验证结果的智能响应，实现自动化策略优化配置。
• 预期效果：BAS系统发现漏洞后，智能编排系统生成整改/响应剧本，自动执行完成风险漏洞闭环。

大模型安全运营应用实践案例

• OWASPTOP10典型场景：聚焦基于BAS验证结果的智能响应，实现自动化漏洞整改和响应。
• 关键难点及对策：BAS建议的多样性、可操作性，以及精准可靠的文本输入是关键。
• Web攻击事件智能处置：通过模型选择和参数填写，实现基于开源WAFModSecurity构建的防护剧本。
• 模型决策结果的风险：操作错误和决策失误是主要风险，需系统性地降低风险。

未来展望

• 提高决策质量：通过模型微调、丰富的通用模型能力和上下文支持，提升模型决策质量。
• 能力调度实现：预先对接基础安全产品，实现functioncalling的能力，为机器赋能。
• 提高准确性和采纳率：标准化输入和结构化输出，让大模型更容易获得背景知识并遵从格式要求。
• AI虚拟SOC团队：设置虚拟SOC团队人员角色，从各自视角开展安全工作，协同完成安全运营。
• 向零值守无人安全运营中心迈进：全面解放人类工程师，但保留人工参与事件响应的能力和机会。
• 重视人的因素：再智能的系统离不开人类专家，做好最后一公里，实现智能决策与自动响应。