大模型供应链安全要求

供应链对大型语言模型的安全要求 世界数字技术学院标准 WDTA AI-STR-03 版本：2024-09 © WDTA 2024 – 所有权利保留。 世界数字技术标准WDTA AI-STR-03被指定为WDTA规范。此文件为世界数字技术学院（WDTA）的财产，受国际版权法保护。未经WDTA事先书面许可，禁止使用此文件，包括复制、修改、分发或重新发表。WDTA不对此文件中的任何错误或遗漏承担责任。 在https://wdtacademy.org/上发现更多WDTA标准和相关出版物。 版本历史* 前言 随着数字时代的推进，人工智能，尤其是大型语言模型（LLMs），已成为现代技术生态系统的基石。这些模型现在在塑造产业、推动创新以及改变我们与技术互动的方式中扮演着关键角色。然而，随着这一快速整合，随之而来的是一系列必须解决的网络安全挑战，以确保这些强大工具的安全和负责任部署。 世界数字技术学院（WDTA）长期以来一直处于制定全球数字技术和创新标准的最前沿。我们致力于培养一个安全、包容的数字世界，这一点反映在我们严谨地制定标准中，这些标准指导着尖端技术的部署和管理。本文件所属的AI STR（安全、信任、责任）系列是一套旨在确保人工智能技术创新、安全、值得信赖且符合伦理管理标准的标准集合。这些标准为应对人工智能部署带来的复杂挑战提供了全面的框架，重点关注关键方面，如安全性、完整性和负责任的使用。 作为WDTA AI-STR-03标准，“大型语言模型供应链安全要求”概述了在大型语言模型供应链中管理安全风险的全面措施。本标准涵盖了这些模型的生命周期，从开发到部署，确保每个阶段都严格审查潜在漏洞。通过遵循这些指南，组织可以有效地保护其由人工智能驱动的运营免受新兴威胁，并为更安全的数字生态系统做出贡献。 我们对致力于制定此标准的专家和贡献者表示衷心的感谢。他们的专业知识和对卓越的承诺确保了WDTA在设定数字安全标准方面的领先地位。我们鼓励人工智能供应链中的所有利益相关者采用这些指南，帮助我们构建一个技术进步与安全和道德责任相辅相成未来的世界。 WDTA 执行董事长 致谢 WDTA AI STR 工作组联合主席 黄健（CSA GC R）约西亚·伯克(扭曲的) 领衔作者 贾水 王蚂蚁集团王维强蚂蚁集团刘长流蚂蚁集团俞浩江蚂蚁集团黄健（CSA GC R）王宇（CSA GC R）郑松蚂蚁集团唐佳伟蚂蚁集团尹王蚂蚁集团江智辉蚂蚁集团()梁正蚂蚁集团()中柱蚂蚁集团()青罗蚂蚁集团()崔世文蚂蚁集团苗晨中关村实验室崔天宇中关村实验室 审稿人 ()拉尔斯·鲁德基格微软()阿舒托什·查达哈微软()安东·丘瓦金谷歌阿波斯特尔·瓦西列夫(NIST)(东方晨马腾讯云） 深圳国家金融科技检测中心(包晨夫百度）(冯洛(王豪硕中国移动云中心徐梅兰（世界数字技术学院）(塔尔·夏皮拉Reco AI米勒博士（包容性变革中心）高文达拉贾·帕拉尼亚萨米（全球支付公司）克丽丝塔尔·（A）·杰克逊（前沿模型论坛）Swapnil Modak（Meta）海瑟·弗雷泽（verAItech）维什瓦什·曼拉尔(Precize Inc)Patricia Thaine(私有人工智能)张黎明（康卡斯特）马尔克·瓦伊布哈夫(Cloudflare)阿莎·赫尔拉贾尼南洋理工学院罗恩·F·德尔·罗萨里奥(SAP ISBN)Madhavi Najana（辛辛那提联邦住房贷款银行）高拉夫·普里(META)Bhuvaneswari Selvadurai(北纬互惠)丹·斯托克勒（科尔费尔德）马泰奥·梅ucci（IMQ MINDED SECURITY）张强（科尔费尔德）Joshuaanaguiar（Cohere）戴蒙·贝赫（Nutanix） 目录表 1 范围......................................................................................................................................8 2 规范性引用............................................................................................................8 3 术语和定义..........................................................................................................10 3.1 人工智能.................................................................................................10 3.2 大型语言模型..............................................................................................10 3.3 供应商......................................................................................................................10 3.4 软件供应链................................................................................................10 3.5 开源社区............................................................................................11 3.6 第三方组件 ..............................................................................................11 3.7 机器学习平台.......................................................................................11 3.8 大型语言模型推理框架 ..........................................................11 3.9 大型语言模型应用框架.......................................................11 3.10 分布式计算框架.........................................................................113.11 机器学习物料清单.........................................................................11 4 LLM供应链安全保护概述..................................................12 4.1 LLM的供应链安全...............................................................................12 4.2 LLM供应链安全管理目标 ..................................12 5 LLM的供应链安全管理...................................................................14 5.1监管管理............................................................................................14 5.2 组织和人员管理 .................................................................14 5.3 供应商管理................................................................................................15 6 LLM的供应链安全要求.................................................................15 6.1 网络层 ...........................................................................................................15 6.2 系统层安全要求........................................................................16 6.2.1 操作系统安全要求 ......................................................16 6.2.2 系统软件安全要求........................................................16 6.2.3 运行环境安全要求 ...............................................17 6.3 平台和应用层安全要求...........................................17 6.3.1 组件通用安全要求 ...........................................17 6.3.2 机器学习平台和模型推理框架安全要求 ...........................................................................................................18 6.3.3 模型应用框架安全要求 .................................18 6.3.4 分布式计算框架的安全需求 ...........................19 6.4 模型层安全需求 ........................................................................19 6.4.1 模型获取安全需求.....................................................19 6.4.2 模型部署和管理安全需求.......................20 6.4.3 模型合规性安全需求 ....................................................20 6.5 数据层安全需求............................................................................21 6.5.1 数据安全需求 ...........................................................................21 6.5.2 数据合规性安全需求......................................................