自2022年11月推出以来，ChatGPT重新定义了AI的使用，并在全球范围内掀起了一场革命。其背后的技术源于2017年Google发布的《Attention is All You Need》论文，而ChatGPT在发布仅两个月后用户数就达到1亿，标志着AI发展的又一拐点。然而，AI的快速发展也带来了新的安全挑战。
定义与区别
AI安全包含两个组成部分：AI为安全（使用AI增强安全）和安全为AI（保护AI模型和遏制未经许可的AI应用）。与传统安全（侧重信任态势）不同，AI安全主要关注模型的可信度（可信度态势）。
危害分类
安全为AI的威胁分为行为危害和信息危害，包括影子AI、敏感信息披露和供应链漏洞等。
新的攻击面
GenAI助力应用程序带来的安全挑战主要包括：
- 影子AI：缺乏AI目录盘点，导致未经许可的应用程序风险。
- AI风险：缺乏治理政策，涵盖OWASP Top 10 LLM的供应链、配置和运行时威胁。
- 数据暴露：缺乏对AI开发管道的可视性，可能导致数据泄露、训练数据中毒和无意识偏见。
GenAI成熟度分类
- 触手可及的GenAI应用程序（影子AI风险）。
- 开发利用AI功能的应用程序（AI风险）。
- 数据暴露：涉及两类风险。
传统安全解决方案的缺陷
- 缺乏对AI盘点目录的全面可视性。
- 部署和细分AI应用的挑战。
- 缺乏对传统和AI相关威胁的清晰理解。
Palo Alto Networks的AI安全方法
- Precision AI：通过AI对抗AI攻击，实时检测和阻止威胁。
- Secure AI by Design：
- AI Access Security：全面监控和授权GenAI应用，降低数据和安全风险。
- AI Runtime Security：保护AI应用、模型和数据免受威胁。
- AI-SPM：发现、分类和治理AI助力的应用程序，降低数据泄露和合规风险。
- Unit 42 AI安全评估：提供专家指导，应对AI相关威胁。
- Copilot功能：利用GenAI简化安全工作，缩短平均响应时间。
结论
AI安全需要战术和战略举措，不能采用“一刀切”的方法。Palo Alto Networks提供结构化的解决方案，帮助客户安全采用GenAI用例，并应对AI带来的复杂安全挑战。
