生成式人工智能对网络安全的影响和首席信息安全官的角色

Gartner网络研讨会 Gartner提供可操作、客观的见解、指导和工具，让您的 组织的关键任务优先事项 增强您的网络研讨会体验 问一个问 题 下载附件再次观看 受限分布 2©2023Gartner,Inc.和/或其附属公司。保留所有权利。 生成AI对安全性的影响 小组成员-PeterFirstbrook，DennisXu，KevinSchmidt主持人-SoyebBarot ©2023Garter,Ic.和/或其附属公司。保留所有权利。Garter是Garter,Ic.的注册商标。及其附属公司。未经Garter事先书面许可，不得以任何形式复制或分发本出版物。它由Garter研究机构的意见组成，不应将其解释为事实陈述 。虽然本出版物中包含的信息是从可靠的来源获得的，但Garter对此类信息的准确性、完整性或充分性不作任何保证。尽管Garter的研究可能涉及法律和财务问题，但Garter不提供法律或投资建议，其研究不应被解释或使用。您对本出版物的访问和使用受Garter使用政策的约束。Garter以其独立性和客观性而闻名。其研究由其研究机构独立制作，不受任何第三方的投入或影响。有关更多信息，请参阅“关于独立性和客观性的指导原则”。." 我们尊敬的小组成员 主机 PeterFirstbrook杰出分析师副总裁,安全与风险管理 丹尼斯·徐 高级董事分析师， KI负责人- 技术专业人员的安全操作 凯文·施密特 安全基础架构分析师总监 SoyebBarot副总裁分析师,CoR-GTP （Gartner技术专业人员） 受限分布 4©2023Gartner,Inc.和/或其附属公司。保留所有权利。 什么是生成AI？ 大型语言模型(LLM) 生成AI(GenAI) AI技术，从数据和模型中的工件表示中学习，用于生成新工件。 受限分布 5©2023Gartner,Inc.和/或其附属公司。保留所有权利。 受限分布 6©2023Gartner,Inc.和/或其附属公司。保留所有权利。 能力有自己的一套风险... 能力风险/误用 文本生成文本分类文本摘要化语言翻译问答 代码生成 偏见/道德 错误的答案侵犯版权Deepfakes/错误信息欺诈垃圾邮件/网络钓鱼 受限分布 7©2023Gartner,Inc.和/或其附属公司。保留所有权利。 那么GenAI将如何影响您的安全策略& 建筑... • • • 技能增强 AttachAutomation 内容生成 •数据盗窃/中毒•Lackofbestpractices•upcomingregulation •多种消耗选项 •影子AI •数据隐私和版权 受限分布 8©2023Gartner,Inc.和/或其附属公司。保留所有权利。 •缺乏成熟度 •由于以下原因导 致的风险供应商抢购 •隐私和功效挑战 GenAI进攻和防御使用的军备竞赛 安全Copilot 紫色AISec-PaLM夏洛特AI PentestGPTPassGPT欺诈GPT 蠕虫GPT 受限分布 9©2023Gartner,Inc.和/或其附属公司。保留所有权利。 9©2023Gartner,Inc.和/或其附属公司。保留所有权利。Gartner是Gartner,Inc.及其附属公司的注册商标。 受限分布 10©2023Gartner,Inc.和/或其附属公司。保留所有权利。 GenAI的防御性用法 计划使用GenAI 受限分布 11©2023Gartner,Inc.和/或其附属公司。保留所有权利。 安全消费GenAI 从您的SaaS安全清单开始 确保用户提示和响应是安全的 在接地期间强制授权 安全使用LLM 受限分布 12©2023Gartner,Inc.和/或其附属公司。保留所有权利。 6 网络与系统 Monitoring 安全构建GenAI应用程序 用例批准 保护您的应用程序和 托管环境 使用安全和批 准的LLM 安全提示& 响应数据 安全的培训数据进行微调 使用GenAI对CISO的建议 • • 控制输入/输出 定义使用和隐私政策 •库存使用案例•应用AITRiSM•管理技能 生成AI •关注威胁媒介 •用于检测的监视器漂移 •优先考虑弹性 受限分布 13©2023Gartner,Inc.和/或其附属公司。保留所有权利。 •作为特征消耗 •确保可追溯性•措施 改进 什么是AI信任风险与安全管理？ AITRiSM：在AI交付中建立信任、风险和安全管理 14©2023Gartner,Inc.和/或其附属公司。保留所有权利。Gartner是Gartner,Inc.及其附属公司的注册商标。 问演讲者 受限分布 15©2023Gartner,Inc.和/或其附属公司。保留所有权利。 Gartner安全与风险管理峰会 听取独立专家的意见，了解现在最重要的是什么，以及如何为未来做好准备。您将学习如何创建所需的安全性和集成风险管理计划，使您的组织能够自由地发展和创新。 了解更多:gartner.com/conf/security 用代码注册WEBINAR独家折扣。 2024年2月12日至13日|阿联酋迪拜 2024年2月26日至27日|印度孟买 2024年3月18日至19日|澳大利亚悉尼 2024年6月3日至5日|国家港口，MD 2024年7月24-26日|日本东京 2024年9月23日至25日|英国伦敦 在今年的会议上，您将学习如何： 设计安全的体系结构支持数字业务目标的技术解决方案 调整您的数据隐私管理计划跟上快速发展的法规 了解最新趋势在网络安全、云安全、应用安全、数据安全及相关技术 ©2023Gartner,Inc.和/或其附属公司。保留所有权利。 GenAI计划工作簿 要获得更大的AI影响力，请强化AI战略的四个关键支柱：愿景、价值实现、风险和采用计划。 下载工作簿 ©2023Gartner,Inc.和/或其附属公司。保留所有权利。Gartner是Gartner,Inc.或其附属公司的注册商标。本演示文稿,包括所有支持材料,归Gartner,Inc.和/或其附属公司所有,仅供预期的内部使用收件人。由于本演示文稿可能包含机密、专有或受法律保护的信息d，未经Gartner,Inc.或其附属公司的明确书面许可，不得进一步复制、分发或公开展示。保留所有权利。 针对社交媒体上的IT的 Gartner 想了解情况吗？通过LinkedIn和X（以前称为Twitter）与我们联系，以获取最新的GartnerIT见解和有关研究，事件等的更新 。所有这些都是专门为IT领导者和决策者策划的。 跟随我们 寻找交付的见解你的收件箱? 订阅我们的双周通讯。 成为客户 客户可以全天候获得经过验证的管理和技术研究，专家建议 ，基准测试，诊断等。 填写表格与代表联系并了解更多信息。 了解更多 或者给我们打电话：+441784614280|+18556370291 上午8点-下午7点ET 受限分布 19©2023Gartner,Inc.和/或其附属公司。保留所有权利。 上午8点-下午5点格林尼治标准时间周一至周五 获取更多Gartner见解 下载研究幻灯片 查看即将到来的按需Gartner网络研讨会gartner.com/webinars 对此会话进行评级 受限分布 20©2023Gartner,Inc.和/或其附属公司。保留所有权利。 对此会话进行评级 受限分布 21©2023Gartner,Inc.和/或其附属公司。保留所有权利。