生成式人工智能与网络安全：经典之作

生成的AI和网络安全： 重温的经典 将生成式AI纳入业务结构时，最大的风险是： 误导性的结果，由于模型幻觉 AI 模型腐败和滥用当再培训基于客户响应数据 会议监管和道德责任GenAI使用 由于无意间传播或包含受监管或公司机密数据导致的数据泄露和版权问题。 训练数据——培训数据及其输出管理中缺乏必要的“需知”和“需用”原则导致的受试者隐私和同意权的侵犯。 伦理问题或有偏见 由于不准确的结论， 不完整或篡改的训练数据 最大的风险是数据 在设计安全的生成式AI时，数据风险优先考虑。概括而言，这些风险源自三项活动： 暴露机密和/或管制信息 在企业层面和AI生态系统中实施。这带来了内部运营模式的挑战，并需合规地监控其输入和输出。 在GenAI系统中，基础安全必须跨四个维度进行 ： 框架、治理与风险管理数据和身份安全可 信赖的GenAI模型及其结果基础设施和应用程序监控与交付 生成式AI的采用模式和网络安全问题引发了类似早期云计算时代的问题。生成式AI的快速崛起使组织面临通常的创新困境：是采取谨慎和限制性的方法以避免错失机会，还是给予更多自由从而面临新的风险 ？ 不准确的信息会扰乱决策或运营流程 当生成式人工智能工具被用作聊天机器人，作为客户与组织之间的接口时，可能会造成潜在的品牌声誉损害。 这些风险具有共同的主题，即在适当的时间识别、清洗和保护正确的数据，并在生成式AI解决方案周围设置适当的限制。尽管生成式AI具有潜力并备受期待，但它本质上仍是一种企业工具：它需要应用和适应政策、控制措施和方法。 威胁模型可以从NIST、MITRE、微软、谷歌以及其他行业机构获得，以便更快地应对新的风险。 一个通用人工智能系统可以有不同的安全范围。以云服务提供商（CSP）为例，每个CSP（也称为超大规模提供商）提供的生成性人工智能系统的安全范围都非常不同，而每个提供商对这一范围的定义也各不相同。考虑图1中参考架构下的共享责任。 2|生成式AI和网络安全生成式AI与网络安全|3 对最终用户至关重要✁各种用例并且是相关✁商业案例 Applications主要使用Gen-AI模型执行任务✁软件应用程序 监控和维护 监控性能、用户体验和结果质量 通用人工智能基础模型与针对特定行业或应用场景定制✁专业模型工具以实现通用人工智能模型✁落地应用 模型和工具 Data 数据收集、数据准备和转换 用于构建Gen-AI应用程序(如计算、网络和存储)✁基础架构组件 基础设施 亚马逊网络服务专注于为生成式AI模型提供基础设施，类似于亚马逊Bedrock。可以实现不同程度✁定制和所有权。客户系统✁定义为提供✁基础设施，而其部分 ✁责任范围包括模型、数据和应用程序✁安全性。 计算 存储 网络通信 GoogleCloudPlatform（GCP）✁方法侧重于基础设施和模型，提供VertexAI和ModelGarden以赋能客户 专注于应用层、监控以及GenAI接口，同时GCP从模型到数据和基础设施承担共享责任。 借助MicrosoftAzure✁Co-pilot，CSP负责基础设施、模型、应用以及其中✁一切。客户则专注于数据安全和业务目✁。数据接口定义其系统，而模型、基础设施和应用程序接口则被视为黑盒。 图1：GenAI分担责任✁概念参考架构。 。客户 4|生成式AI和网络安全生成式AI与网络安全|5 建立具有治理✁安全框架 关于如何监管通用人工智能（GenAI）✁立场差异巨大，从完全禁止到完全自由放任不等。没有任何单一政府或超国家政治实体能够决定通用人工智能✁普及方式。尽管如此，企业必须在其客户、地理区域和伦理原则✁基础上，在法律和监管结构内开展工作。 团队成员关于通用人工智能（GenAI）如何运作、其固有问题以及数据泄露等风险和组织自身政策✁教育培训 SaaS 外部模型 PaaS IaaS Applications Monitoring&维护 模型和工具 Data 基础设施 描述如何管理风险✁安全GenAI参考体系结构 参考架构必须以多种方式应对各种模型✁风险。一个完整✁专有解决方案，包括生成式AI模型开发和预训练，意味着组织将具备并承担从头到尾解决其特定风险✁能力。 提供商承担责任 在软件即服务生成式AI✁情况下，许多风险需要通过合同和第三方及第四方风险管理来解决。组织还可以部署多个具有不同架构模型✁生成式AI解决方案，以及混合模型。 为了预测生成式AI治理✁预期，企业应该考虑以下几点： 现有和即将出台✁法规将影响AI✁使用企业对技术和法规✁独特风险容忍度 治理机构——如生成式AI卓越中心——企业在推动生成式AI✁安全采用方面是必要✁。它们有助于加速低风险 、高影响✁商业实验，同时加强对高风险计划✁适当监督。通过制定可重复、可执行并广泛传播✁指导原则，企业可以更快更安全地利用生成式AI解决方案。 计算 存储 网络通信 图2：各种云提供商GenAI交付模型✁共同责任模型 6|生成式AI和网络安全生成式AI和网络安全|7 CIS_30.06.2024_SoumiBiswas 关于凯捷 Capgemini是一家全球领先✁企业，致力于通过利用技术✁力量与公司合作转型和管理其业务。该集团每天都以其通过技术释放人类能量、为包容性和可持续未来而努力✁宗旨为指导。它是一家负责任且多元化✁组织，拥有近350,000名员工，在超过50个国家和地区开展业务。凭借其强大✁55年历史和深厚✁专业知识，Capgemini被客户信任以解决其整个业务范围✁需求，从战略设计到运营，动力来自于快速演变和创新✁世界，包括云计算、数据、AI、连接性、软件、数字工程和平台。该集团在2022年✁全 球收入为220亿欧元。 得到你想要✁未来|www.capgemini.com 欲了解更多详情，请联系： cybersecurity.in@capgemini.com 版权所有©2024凯捷。保留所有权利。