大模型时代软件供应链的效率与安全管理实践
软件供应链管理痛点
AI的风险包括幻觉、偏见、恶意软件、数据投毒、版权、恶意网址、越狱、间接提示注入、恶意指令、私人信息、伪造来源等。数据科学家成为攻击目标，例如JFrog安全研究团队发现每天多次扫描上传到Huggingface的新模型存在恶意行为。
AI/ML与传统软件研发的异同在于，AI/ML模型开发涉及数据科学家、研究工程师、开发人员、DevOps工程师和运维工程师等多个角色，而传统软件研发涉及软件工程师、DevOps工程师和运维工程师。目前AI/ML模型版本管理存在问题，如使用S3存储桶导致命名不一致、文件丢失、重复存储；使用Git导致版本管理混乱。
软件供应链的引入与管理最佳实践
模型被视为基于算法和训练数据生成的二进制文件，用于推理。AI软件供应链应使用单一可信源进行管理，例如Artifactory用于缓存和管理PyPI、Pytorch的包，Docker或OCI用于管理ML运行环境，Helm Charts用于管理ML模型和其他制品。
JFrog模型管理包括Hugging Face代理/缓存、本地模型存储、模型和数据集管理、开源协议扫描、恶意模型扫描、标准化MLOps和单一可信源。
大模型版本管理与治理最佳实践
AI/ML模型版本管理应实现更好的存储和性能（替换FTP/S3）、模型管理版本化、元数据可视化、存储空间可清理、易于分享模型、晋级模型而无额外存储成本、同步模型到生产环境而无额外网络成本、模型安全扫描。
软件供应链可信管理通过元数据记录软件生命周期信息，解决制品黑盒问题，打破部门墙，支持元数据正向、反向查询，并作用于制品筛选、制品清理、制品按需分发等。依赖包交付物包括代码分支、tag、需求/task信息、开发团队/人员信息、构建流水线信息、代码扫描结果、测试结果、供应链扫描结果、第三方安全、合规检测信息、文档信息、审批记录、发布信息、归档信息、准入申请、审批信息、生命周期信息。
与MLFlow集成可删除实验后从JFrog Artifactory存储库中删除模型，有效管理存储资源。JFrog AISecOps与Qwak集成可实现团队间无缝协作，将所有模型、制品集中在唯一可信源中，减少外部服务中断风险，管理和限制对外部存储库的访问，提供内容透明度。并发下载可打满80-100%带宽。多研发中心模型管理通过多地镜像联邦仓库实现模型就近下载、异地多活、计算卡在云上、海外计算。
大模型安全风险治理
模型也存在安全风险，攻击者针对公共机器学习库进行攻击以渗透组织内部。JFrog对Models风险的调研显示，480k+公共机器学习库中60+models有恶意攻击行为，10+models中包含与操作系统无关的反向Shell恶意软件。PyTorch模型和TensorflowKeras模型构成执行恶意代码的最高潜在风险。
恶意模型通过蜜罐运行模型发现多个外部IP连接，但尚未发现攻击者发送哪些指令。加载ML模型可能导致代码执行，某些模型使用“pickle”格式包含加载文件时执行的任意代码。
模型安全使用需考虑漏洞、恶意攻击、开源许可和维护信息。JFrog Curation & Artifactory可实现隔离仓库阻断高危漏洞开源组件，内网JFrog仓库连接到隔离区进行持续漏洞扫描和监管。AI供应链防火墙通过全面的二进制扫描检测嵌入的恶意代码，对被阻止的模型进行全面审计，实施左移策略防止问题模型进入内部库。
JFrog对Model及其他软件供应链进行安全监控，包括SCA漏洞扫描及开源协议扫描、提供漏洞修复建议及调研、跨技术栈影响性分析能力、与仓库集成提供单一可信源、集成全球最完整的商业漏洞数据库VulnDB、提供全生命周期扫描能力、扫描看板、扫描报告、SBOM报告、IDE、代码库、构建工具插件、基于风险及合规信息阻断包下载。
JFrog能帮助开发者节省每年用于修复错误的软件包的总小时数，研发人数为2850人。
未来展望
JFrog| Qwak一体化ML管理平台提供Build, Train, Secure, Serve, and Monitor ML Models and GenAI的统一体验。软件供应链单一可信源通过软件供应链仓库实现，包括操作系统软件供应链、开发语言依赖组件供应链、容器供应链、AI供应链、传统制品等。企业单一可信制品库是软件供应链仓库和企业软件资产仓库，具有低维护成本、高可用、高性能。
JFrog | GitHub深度集成以AI驱动安全开发，包括Curation、IDE Extensions、Issues、Source Control、Artifactory、Binary Management、Binary Security、Actions + Distribution、Code Spaces、Code Security、Actions、Catalog、Copilot、AKS + Runtime Security、Azure Serverless、Admission Control、Continuous Scanning Container Analysis、API。
JFrog MLSecOps解决方案包括Model/LLM Training & Fine Tuning。
