AI-SPM 确保人工智能应用的安全性和合规性

安全态势管理 PrismaCloudAI (AI-SPM) 挑战：在人工智能“淘金热”中确保安全性和合规性 PrismabyPaloAltoNetworks|PrismaCloudAI安全态势管理|产品说明1 系统。 人业的工战智略能重(A点I)之和一大。型与语此言同模时型，(近LL年M来)已出经现成了为许现多代新企的人源工基智础能模以型及以及LL新M兴模的型操和作工工具具，、包插括件托和管应模用型程A序PI生、开态 也层出不穷。 然程而序，时尽享管有企前业所在未快有速的构机建遇部但署随人之工而智来能的驱新动安的全应挑用战 开发远远超过安全： 在急于实现人工智能价值的过程中，对安全方面的考虑可能会被忽视。快速部署人工智能的压力巨大，可能导致仓促实施以及安全审查不充分。 黑盒系统： 大型人工智能模型的内部运作通常是不透明的，甚至对其创造者来说也是一样，因此很难预测潜在的安全和合规问题。模型可能会展示出意想不到的行为或漏洞，这些行为或漏洞不容易通过传统测试方法检测出来。 新的攻击载体对现有方法提出了挑战： 现有的安全措施，包括防火墙和态势分析工具（如CSPM、DSPM），不能解决针对人工智能的攻击，比如数据中毒、模型反演和对抗性尝试。 不断演变的合规风险： 《欧盟人工智能法案》预计将于今年晚些时候生效，这次的法案围绕数据隐私、算法偏见和可解释的人工智能提出了新的要求。该法案还提高了对违规行为的处罚力度，几乎是GDPR的两倍。预计美国和其他国家也会陆续推出类似的立法。 解利决用方AI案-S：PM实现可治视理性、控制和 PrismaCloudAI-SPM包含一系列功能，旨在保护企业防范与人工智能、机器学习(ML)和生成式人工智能(GenAI)模型相关的独特风险，包括数据暴露、滥用和模型漏洞。作为我们更广泛的代码到云™方法的一部分，我们已将AI-SPM功能与PrismaCloud安全平台无缝集成，同时以现有的数据安全态势管理(DSPM)、云安全态势管理(CSPM)和云原生应用保护(CNAPP)功能为基础。 借助PrismaCloudAI-SPM，企业可以洞察人工智能模型的生命周期-从数据摄取、训练再到部署。通过分析模型行为、数据流和系统交互，PrismaCloud可识别传统风险分析和检测工具可能无法发现的潜在安全性和合规性风险。 企业可以利用AI-SPM的洞察力： •执行策略和最佳实践，确保以安全、合规的方式部署人工智能系统。 •发现人工智能特有的威胁，如数据中毒、模型反演和对抗性攻击。 •将隐私和可接受的使用情况纳入人工智能开发生命周期，领先于不断演变的合规要求。 PrismaCloudAI-SPM与AIRuntimeSecurity 集成，使安全团队能够在运行时有效保护其AI 应用程序的生态系统。 功能与优点 人工智能模型发现和盘点 托管、半托管和非托管的人工智能模型激增会给监督带来困难。安全团队需要了解人工智能的部署情况，才能有效监控使用情况并预防下游风险。 控制模型蔓延和影子人工智能：盘点模型API、开源模型和部署在虚拟机上的模型。 防止模型滥用：确定谁在使用哪个模型，防止未经批准的模型使用和未经授权的用例。 改善治理：接收新模型部署的警报，确保适当的控制措施到位。 防止数据暴露 人工智能模型是在海量数据的基础之上训练出来的，这些数据可能包含敏感数据或监管数据，如个人身份信息(PII)或商业机密。此外，这些数据还可能在无意中或通过对抗性攻击暴露出来。PrismaCloudAI-SPM可帮助您了解通过每个部署的模型可以访问哪些内部数据。 发现并分类训练数据集：防止数据中毒，在部署模型之前查明模型是否正在基于敏感数据进行训练或微调。 进行检索增强生成(RAG)和推理数据监控：查看哪些数据集和数据流用于检索，了解它们如何影响对数据的有效访问。 分析模型的相互作用：扫描提示词和输出日志，查找模型滥用或数据暴露的证据。 态势和风险分析 数据管道、训练环境和部署基础设施中的错误配置或薄弱的访问控制可能会带来重大的安全和合规风险。PrismaCloudAI-SPM可扫描您的端到端AI部署，找出薄弱环节，优先进行最关键的补救。 确定优先级并解决错误配置：基于PrismaCloud的DSPM和CSPM功能带来的情境式洞察力，分析完整的攻击路径，发现人工智能应用程序、数据和管道中的漏洞。 模型访问监管：获取可视化映射图，了解谁可以访问部署的人工智能模型和相关资源，如计算、数据和应用程序。 合理精简应用程序和数据的权限：打击对内部模型过于慷慨的权限或对模型进行不受欢迎的公共访问。 风险情景示例 PrismaCloudAI-SPM不仅仅提供了一份需要解决的问题清单，还能让您看到数据和应用程序的完整情境，为您繁忙的安全团队提供所需的工具，帮助他们确定问题的优先级，从而进行有效修复。 下面列出了PrismaCloudAI-SPM能够检测到的部分风险，以及基于对云环境的无代理扫描而提供的额外情境。 风险 增加了确定优先级的情境 实现匿名访问的人工智能部署部署中使用的是哪种模型，其训练或推理数据集是否包含敏感数据 可公开写入的训练数据集 在数据集的基础上训练了哪些模型，谁可以访问这些模型 缺乏针对生产型人工智能部署的内容过滤 谁有访问部署的权限，模型是根据哪些内部数据训练的 配置错误的资产，包含提示词历史记录配置错误的严重程度和提示词历史记录的范围（公开/内部） 可从生产系统外访问的人工智能部署潜在的合规影响及其对环境的影响 跨地区人工智能管道哪些敏感数据可能被暴露，正在违反哪些相关的合规政策 快速简便的无代理部署 安装只需几分钟，无需代理或连接器即可访问云数据。 数据在带外扫描，尽量减少对生产的影响。 敏感数据永远不会离开您的云环境。 关于PrismaCloud PrismaCloud是业界相当全面的云原生应用保护平台(CNAPP)。它在整个开发生命周期以及多云和混合环境中为应用程序、数据和整个云原生技术堆栈提供最广泛的安全性和合规性覆盖。我们的集成方法使安全运营和DevOps团队保持敏捷性，有效协作，并安全加速云原生应用开发。要了解更多信息，请访问我们的网站prismacloud.io。 免费咨询热线：4009911194 网址：www.paloaltonetworks.cn 邮箱：contact_salesAPAC@paloaltonetworks.com ©2024PaloAltoNetworks,Inc.。我们在美国和其他司法管辖区的商标列表可在https://www.paloaltonetworks.com/company/trademarks.html上找到。此文档中提及的所有其他商标可能是各相应公司的商标。 prisma_ds_ai-security-posture-management_052324 PrismabyPaloAltoNetworks|PrismaCloudAI安全态势管理|产品说明6 关注派拓网络官方微信公众号