您的浏览器禁用了JavaScript(一种计算机语言,用以实现您与网页的交互),请解除该禁用,或者联系我们。[天津大学]:深度解读DeepSeek:部署、使用、安全 - 发现报告
当前位置:首页/行业研究/报告详情/

深度解读DeepSeek:部署、使用、安全

深度解读DeepSeek:部署、使用、安全

天津大学自然语言处理实验室 TheNaturalLanguageProcessingLaboratoryatTianjinUniversity 深度解读DeepSeek:部署、使用、安全 石玲吴俊茹金任任杨磊熊德意 TJUNLP天津大学 httpstjunlplabgithubio 伏羲传语 01 DeepSeek本地化部署 02 DeepSeek使用方法与技巧 03 DeepSeek安全 一、官方网页版调用官方API部署 通过官方生成的API密钥,调用官方接口根据输入生成对应的输出,集成至控制台。 部署条件:无需本地服务器,仅需互联网连接二、开源版本下载至本地部署 准备相应软硬件设备,下载DeepSeek开源模型权重文件至专用服务器,根据需求从本地调用。 部署条件:搭载高端智算芯片的服务器 调用官方API部署 本地部署 数据安全性 依赖传输加密,数据会泄露至API提供方 数据全程内网闭环 定制化能力 仅支持修改模型的解码参数 可通过私有数据微调模型、开发定制插件 成本结构 按调用量付费(适合低频场景) 部署服务器的使用和维护成本 维护复杂度 无需运维 需专职团队维护相应的软硬件设备 稳定性 会受官方服务器繁忙、网络延迟等影响 主要取决于本地部署相关硬件稳定性 API调用流程 注册账号并获取APIKey:进入API开放平台,创建APIKey并记录下生成的Key。 配置API调用环境:确保设备的联网状态,安装必要的开发工具环境如PythonopenaiSDK。 设置相关参数调用API接口,python脚本如下所示。 样例为非流式输出,可以将stream设置为true来使用流式输出。 注意事项 请勿泄露APIKey给他人,避免被 滥用。 注意API的调用频率和用量限制。 确保网络连接稳定,避免因网络问题导致调用失败。 本地部署流程DeepSeekR1全量版 从httpshuggingfacecodeepseekaiDeepSeekR1下载模型权重文件 安装模型部署相关的依赖包(以vllm为例) 实际部署(以两台分别搭载了8卡H100GPU的服务器为例) 1在两台服务器分别运行该脚本启动Ray,其中 master节点在运行该脚本时需要添加head参数 启动Ray的脚本 2在master节点启动vllm部署模型 启动vllm的脚本 本地部署流程DeepSeekR1蒸馏版 注意事项 硬件兼容性:确保GPU和驱动程序支持CUDA。 模型文件较大,需确保有足够的存储空间。 下载模型时需要稳定的网络连接。 本地部署时,注意数据的保密性和模型的安全性,避免未经授权的访问。 从httpshuggingfacecocollectionsdeepseekaideepseekr1678e1e131c0169c0bc89728d下载对应的模型权重文件 安装模型部署相关的依赖包(以vllm为例) 实际部署 模型建议显卡数量A100H100 DeepSeekR1DistillQwen15B 1 DeepSeekR1DistillQwen7B 1 DeepSeekR1DistillLlama8B 1 DeepSeekR1DistillQwen14B 1 DeepSeekR1DistillQwen32B 2 DeepSeekR1DistillLlama70B 4 本地部署流程DeepSeekR1量化版 下载量化版模型,例如httpshuggingfacecounslothDeepSeekR1GGUF 构建模型部署相关框架(建议使用量化友好框架Llamacpp或Ollama) 实际部署:Llamacpp或Ollama支持仅CPU部署,使用GPU用于推理加速,并随着GPU数量增多速度越快 使用Llamacpp框架部署模型命令,在llamacpp文件下执行使用Llamacpp框架部署后模型调用示例 模型UI界面搭建框架(可选) 1完成度高的框架 OpenWebUIhttpsgithubcomopenwebuiopen webui nextjsollamallmuihttpsgithubcomjakobhoegnextjsollamallmuiLMStudiohttpslmstudioai 2可提供调用的库 基于Gradio的webUIhttpsgradioappquickstartTextGenerationWebUIhttpsgithubcomoobaboogatextgenerationwebui 3多端设备适配开发 React语言、ios端的swift等 01 DeepSeek本地化部署 02 DeepSeek使用方法与技巧 03 DeepSeek安全 1明确任务目标:在提示词中清晰地描述任务类型和预期目标,避免模糊和冗长的描述。 示例(练习题设计) 设计一份适合小学三年级的数学练习题,涵盖加减 乘除四则运算。要求10道题目,难度梯度递增, 包含2道应用题。 示例(食谱设计) 生成一份糖尿病患者日常饮食建议清单。要求 包含早餐、午餐、晚餐各3种推荐食谱,标注卡 路里和含糖量。 2提供上下文和背景信息:为AI提供必要的背景信息,帮助其更好地理解任务场景。 示例(理财计划) 背景:某用户月收入1万元,计划每月存2000元, 希望5年内购房。 任务:根据当前银行利率和房价趋势,制定一份理财计划。 示例(提分方案) 背景:某高中班级有30名学生,英语成绩普遍 较差,尤其是听力部分。 任务:设计一套为期2个月的听力提升方案。 3设定角色:通过角色扮演的方式引导AI以特定视角完成任务。 示例(反诈话术分析) 角色:你是一名资深反诈民警,擅长识别电信诈骗话术套路。 任务:分析以下通话记录,识别诈骗话术并生成预警输入:通话文本 输出:诈骗类型(如“冒充公检法”)、关键词列表、预警 建议 示例(代码优化) 你是一名经验丰富的资深软件工程师,擅长优化代码, 提高性能、可读性和可维护性。请对以下代码进行优化 ,确保代码高效、简洁、易读,同时避免不必要的计算和冗余逻辑。如果可能,提供更优的算法或数据结构,并说明优化的理由。代码: 4规范输出格式:明确指定输出格式,确保结果符合预期。 示例(案情推理)输出格式: 时间线:事件1事件2事件3 嫌疑人画像:性别、年龄、职业推测 作案动机:经济报复其他 证据链完整性:完整部分缺失 5分步骤说明:对于复杂任务,将需求分解为多个步骤。 示例(个性化治疗方案) 步骤1:分析患者病史和体检报告 步骤2:制定初步治疗方案 步骤3:根据患者反馈调整方案 任务:为一位糖尿病患者制定个性化治疗计划。 示例(教学方案设计) 步骤1:确定教学目标(如“掌握100个基础单词”) 步骤2:设计教学活动(如单词卡片游戏) 步骤3:评估学习效果(如小测验)任务:设计一节小学英语课。 6领域知识注入:对应专业性较强的任务,需补充相应领域的专业知识。 示例(法律条文前置) 根据《刑法》第264条盗窃罪立案标准,分析以下案件是否达到刑事立案条件。 盗窃罪立案标准: 案件描述: 7设定约束条件:明确任务的限制条件,帮助AI更精准地完成任务。 示例(垃圾分类宣传方案) 约束条件: 宣传形式:线上线下结合 预算限制:50万元 覆盖范围:10个社区 任务:设计一项垃圾分类宣传推广方案。 示例(博物馆展览设计) 约束条件: 展览面积:500平方米 展品数量:50件 预算限制:200万元 任务:设计一场关于中国古代书画的专题展览。 8结构化表达:通过XML标签、标题、列表等Markdown结构化格式组织内容,提高可读性。 示例(案情报告生成) 示例(健康报告输出整理) 9示例驱动:提供具体示例,帮助AI理解任务要求。 示例(反诈预警) 示例输入: “您好,这里是市公安局,您的银行卡涉嫌洗钱,请配合调查。”示例输出: 诈骗类型:冒充公检法 关键词:涉嫌洗钱、配合调查 预警建议:立即挂断,拨打110核实 请分析以下通话记录:新通话文本 10多角色协作:模拟多个角色协同完成多部门完成任务。 示例一(跨学科课堂) 角色1:语文老师(设计阅读材料) 角色2:美术老师(设计插图)角色3:班主任(安排课程时间)任务:设计一节跨学科主题课。 示例二(康复治疗方案) 角色1:主治医生(制定治疗方案) 角色2:营养师(设计饮食计划) 角色3:康复师(安排运动计划) 任务:为一位心脏病患者制定综合康复方案。 【防诈提醒】警惕专家高价保健品骗局!陌生来电推销特效药、夸大疗效的广告都 是坑。购买药品认准正规渠道,不轻信电话推销,不透露个人信息。收到货到付款的陌生包裹先验真伪,发现虚假宣传立即报警。记住:真专家不会主动推销,治病请到正规医院! 请根据输入生成符合要求的输出。输入:复杂的诈骗案例 输出:通俗易懂的反诈提示,100字 输入:2020年至2023年,被告人刘某甲、吴某勇为谋取非法利益,在河南省信阳市光山县、潢川县租赁房屋,购买手机、电脑等作案工具,先后招揽被告人刘某乙、肖某君、郑某君等人,利用聊天工具,使用统一话术剧本,发布虚假广告,以冒充专家、PS虚假图片等方式,对于市场上销售的“杞草黄精植物饮品、植物蛋白固体饮料”普通男性保健品,虚构具有治疗性功能障碍等疾病的功效等事实,以产品进价的10倍价格出售,骗取他人财物。刘某甲、吴某勇从他人处大量购买含有姓名、手机号、家庭住址等信息的个人信息共计11517条。 具体作案通过有针对性选取被害人,进而骗诱下单购买的方式进行。具体包括: (1)“约单”,由业务员专门针对前期购买过男性药品或者保健品的人员进行联系,谎称公司有专业男科指导老师可以治愈男性生理疾病,初步取得客户信任; (2)“打单”,由其他话务员按照“话术”冒充专业男科指导老师等虚假身份与客户联系,诱骗受害人订购冒充具有功效的产品;(3)“跟单”,在骗取客户信任后使用二维码收款、快递货到付款等方式收取受害人钱款,同时进行售后“服务”,在客户提出异议时进行处理。 2020年1月1日至2023年7月31日,刘某甲团伙诈骗金额为637056446元。被告人刘某甲、吴某勇在实施诈骗的过程中,雇佣员工支付工资等费用284483389元。其中,被告人肖某君负责联系被害人实施诈骗,非法获利109650元;被告人郑某君负责联系被害人实施诈骗,非法获利79535元。 DeepSeekR1实测结果 请根据输入生成符合“正式公文”文风的输出。输入:案件详情 输出:符合《公安机关公文格式的案情通报》 输入:2020年至2023年,被告人刘某甲、吴某勇为谋取非法利益,在河南省信阳市光山县、潢川县租赁房屋,购买手机、电脑等作案工具,先后招揽被告人刘某乙、肖某君、郑某君等人,利用聊天工具,使用统一话术剧本,发布虚假广告,以冒充专家、PS虚假图片等方式,对于市场上销售的“杞草黄精植物饮品、植物蛋白固体饮料”普通男性保健品,虚构具有治疗性功能障碍等疾病的功效等事实,以产品进价的10倍价格出售,骗取他人财物。刘某甲、吴某勇从他人处大量购买含有姓名、手机号、家庭住址等信息的个人信息共计11517条。 具体作案通过有针对性选取被害人,进而骗诱下单购买的方式进行。具体包括:(1)“约单”,由业务员专门针对前期购买过男性药品或者保健品的人员进行联系,谎称公司有专业男科指导老师可以治愈男性生理疾病,初步取得客户信任;(2)“打 单”,由其他话务员按照“话术”冒充专业男科指导老师等虚假身份与客户联系,诱骗受害人订购冒充具有功效的产品;(3)“跟单”,在骗取客户信任后使用二维码收款、快递货到付款等方式收取受害人钱款,同时进行售后“服务”,在客户提出异议时进行处理。 2020年1月1日至2023年7月31日,刘某甲团伙诈骗金额为 637056446元。被告人刘某甲、吴某勇在实施诈骗的过程中,雇佣员工支付工资等费用284483389元。其中