DeepSeek应用场景中需要关注的十个安全问题和防范措施
DeepSeek安全问题的特点及目前的安全方案框架
- DeepSeek安全问题具有威胁难以预测、攻防非对称的特点，并存在数据隐私、知识产权、责任归属、伦理道德等法律问题。
- 安全方案框架分为内生安全和外延安全，内生安全关注DeepSeek系统自身内部的核心要素，如数据、算法、模型等，而外延安全则关注DeepSeek技术与外部世界交互过程中引发的一系列安全问题和挑战。
DeepSeek模型的5个安全问题
- DDoS攻击：DeepSeek官网曾遭受大规模恶意侵袭，包括HTTP代理攻击、SSDP/NTP反射放大攻击和应用层攻击，并伴随暴力破解。
- 无限推理攻击：DeepSeek可能陷入过度推理甚至无休止的思考，被黑客利用进行DDoS攻击或拖慢模型思考过程。
- 漏洞探测与利用：黑客通过探测外部暴露的服务、识别异常和潜在的内部开发服务，并进行利用验证，获取敏感数据。
- 投毒问题：通过注入虚假或误导性数据污染大模型训练数据集，干扰模型训练时的参数调整，破坏性能、降低准确性或诱导有害输出。
- 越狱问题：通过技术手段绕过LLM的安全机制，可能导致有害输出，如争议话题、过度代理、事实不一致、骚扰、仇恨言论、非法活动、法律信息、错位、过度依赖、隐私攻击、亵渎、自残、敏感信息泄露、色情内容、不道德行为以及暴力/不安全行为等。
DeepSeek私有化部署的2个安全问题
- 针对DeepSeek本地化部署实施网络攻击的风险：黑客可能通过捆绑木马的本地化部署工具或利用部署工具的漏洞，窃取机密数据、破坏模型数据、劫持企业算力。
- DeepSeek本地化部署工具的风险：本地化部署工具如Ollama+OpenWebUI、LM Studio等存在安全风险，如默认开放端口、无鉴权等，可能导致模型被删除、窃取、算力被窃取、模型投毒、远程命令执行等。
DeepSeek外延的3个安全问题
- 仿冒DeepSeek官方APP植入手机木马：黑客捆绑木马的仿冒APP，诱导用户安装并获取手机控制权，窃取个人隐私信息。
- 仿冒DeepSeek官方网站和域名收集用户信息：黑客建立仿冒网站和域名，诱骗用户输入账号密码等敏感信息，实施恶意行为。
- DeepSeek辅助实施攻击：DeepSeek可辅助渗透攻击的各个阶段，包括信息收集、漏洞探测、代码生成、风险评估、验证测试和报告生成等。
DeepSeek外延安全问题的防范方法
- 用户层面：提高安全意识，仔细辨别信息，谨慎点击链接，细看网址域名，使用安全软件，采用多因素认证。
- 企业层面：加强品牌保护，防护与监测，注册商标和域名，发布官方声明，建立监测系统。
- 技术层面：安装安全软件，采用多因素认证，进行网络隔离，设置防火墙，安装入侵检测与防御系统。
总结
本次讲座深入探讨了DeepSeek平台的安全性与可靠性，分析了其面临的模型安全问题、私有化部署问题和外延安全问题，并提出了相应的防范策略。讲座旨在提升用户的安全意识，确保在使用DeepSeek时能够有效应对各类安全挑战。需要说明的是，本讲座中涉及到的安全和法律问题，很多并不是DeepSeek独有的问题，也会是大多数大模型的常见问题，有些问题甚至是整个人工智能行业、以及互联网行业的问题。
