大模型技术在人工智能领域展现出强大的能力，但其安全性问题同样不容忽视。本报告从大模型部署、训练微调、推理优化部署、应用框架以及其他相关工具等多个方面，系统性地分析了大模型面临的安全风险和潜在漏洞。
大模型部署阶段，需要考虑的主要风险包括模型文件的安全性、推理引擎的漏洞以及部署过程中的配置错误。例如，PyTorch分布式RPC框架中的RemoteModule反序列化漏洞（CVE-2024-48063）可能导致远程代码执行，而Ollama的/api/tags未授权访问漏洞（CNVD-2025-04094）则允许攻击者控制Ollama执行任意Prompt指令。
大模型训练微调阶段，主要风险集中在训练工具和微调工具的漏洞。例如，LLaMA-Factory框架中的远程命令注入漏洞（CVE-2024-52803）允许攻击者在训练过程中执行任意操作系统命令，而PyTorch分布式RPC框架中的RemoteModule反序列化漏洞（CVE-2024-48063）则可能导致远程代码执行。
大模型推理优化部署阶段，主要风险集中在推理优化组件和部署组件的漏洞。例如，vLLM框架中的拒绝服务漏洞（CVE-2024-8768）和JSON Web API拒绝服务漏洞（CVE-2024-8939）可能导致服务中断，而Ollama框架中的多个漏洞，如DNS重绑定漏洞（CVE-2024-28224）、路径遍历漏洞（CVE-2024-37032）等，则可能导致远程代码执行、数据泄露等安全问题。
大模型应用框架阶段，主要风险集中在快速构建框架、UI及可视化工具以及分布式计算运维工具的漏洞。例如，AnythingLLM框架中的路径遍历漏洞（CVE-2024-5211）允许攻击者读取、删除或覆盖关键文件，而QAnything框架中的SQL注入漏洞（CVE-2024-25722和CVE-2024-7099）则允许攻击者执行任意SQL语句。
其他大模型相关工具阶段，主要风险集中在工作流扩展工具、数据及特征工具以及开发及实验环境工具的漏洞。例如，ComfyUI-Manager工具中的远程代码执行漏洞（CVE-2024-21574）允许攻击者在服务器上安装恶意代码，而Jupyter-Lab工具中的跨站脚本攻击漏洞（CVE-2024-43805）则允许攻击者执行任意代码。
模型使用阶段，主要风险集中在模型越狱（Jailbreaking）、模型数据泄漏、Prompt泄露与注入以及模型助手类漏洞。例如，模型越狱攻击者可以通过精心设计的提示绕过大模型内置的安全限制，使其生成违反安全策略的内容；模型数据泄漏可能导致训练数据中的敏感信息被泄露；Prompt泄露与注入攻击者可以通过窃取或篡改系统预设的Prompt模板，控制模型的行为；模型助手类漏洞可能导致攻击者通过自定义提示词、知识库及交互逻辑构建个性化智能体，从而实现对模型的控制。
总结，大模型技术虽然具有巨大的潜力，但其安全性问题同样不容忽视。开发者需要采取多层次的安全防护措施，包括数据验证、对抗性训练、访问控制以及漏洞修复等，以确保大模型在复杂环境中的安全性和可靠性。同时，也需要持续关注大模型安全领域的最新研究成果，不断优化安全策略，以应对未来可能出现的新型威胁。
