登录
注册
个人信息
我的订单
我的报告豆
我的优惠券
我的笔记
我的阅读
我的收藏
我的下载
我的上传
我的订阅
在线客服
退出登录
回到首页
AI
搜索
发现报告
发现数据
发现专题
专题报告
专题百科
研选报告
定制报告
VIP
权益
付费社群
发现一下
行业研究
公司研究
宏观策略
财报
招股书
会议纪要
Token
低空经济
十五五
AIGC
大模型
当前位置:首页
/
其他报告
/
报告详情
DeepSeek完全实用手册V1.5-技术原理·使用技巧·部署进展
2024-04-26
至顶科技&至顶AI实验室&至顶智库
郭生根
一、DeepSeekV3模型更新
DeepSeek-V3-0324模型开源发布,主要改进后训练方法,参数量约660B,上下文长度为128K(网页端、App和API提供64K)。
更新主要体现于:推理能力提升(数学、代码类相关评测集上取得超过GPT-4.5的成绩)、前端开发能力增强、中文写作升级、中文搜索能力优化。
V3模型采用混合专家架构(MoE),支持多任务处理,在代码生成、数学推理等场景表现优异。
R1模型是基于强化学习训练的推理模型,专注于代码生成和复杂数学问题解决,推理能力可通过蒸馏技术迁移至小型模型。
二、DeepSeek部署进展
DeepSeek模型在我国地方政府、央企、四大直辖市国企以及智能终端的部署情况持续进展。
地方政府部署主要集中在智能问答、公文起草、政务服务、知识库、政策咨询、智能客服、12345热线等方面。
央企部署主要集中在办公、能源、制造、通信、航运等多领域,应用场景涵盖智能问答、知识库、场景应用、智能决策、数据挖掘、智慧运维等方面。
四大直辖市国企40+企业已全面部署DeepSeek模型,应用涵盖生产制造、金融创新、智能汽车、交通运营、水务管理等多个领域。
智能终端部署主要集中在语音交互、智能问答、AI助手、智能座舱等方面,已应用于多款智能手机、AI PC、智能家电和智能汽车产品。
三、DeepSeek技术路线解析
DeepSeekR1模型训练流程:以V3模型作为基座模型训练,通过冷启动生成推理数据,利用推理数据和SFT数据进行强化学习和SFT等训练过程,最终得到R1模型。
成本相关技术:V3和R1模型前馈神经网络均采用混合专家(MoE)架构,每个MoE层包含1个共享专家和256个路由专家;引入多头潜在注意力MLA,减少推理过程中的键值缓存(KV cache),从而降低推理时的内存占用;采用多词元预测训练MTP和FP8混合精度训练方法,降低训练成本和存储占用。
性能相关技术:DeepSeek提出群体相对策略优化(GRPO),对PPO改良,提高计算效率,降低内存占用。
开源级别:DeepSeek属于大模型开源级别,完全公开模型权重、训练数据、代码等,并支持社区协议。
四、DeepSeek调用与部署
DeepSeekR1模型可通过云端调用和本地部署的方式使用。
云端调用:可通过官方API或第三方API直接调用DeepSeek R1模型服务并接入业务中,或可在云平台上创建、部署、微调模型,再通过API连接模型调用。
本地部署:需下载DeepSeekR1满血版或蒸馏版本模型,通过Ollama、vLLM等工具启动模型,并借助可视化界面工具与用户交互。
五、如何使用DeepSeek
DeepSeek的使用可划分为独立使用和工具组合使用两大范式。
独立使用:通过自然语言对话获取核心服务,典型场景包括文本创作、信息咨询、知识推理等。
工具组合:基于文本指令驱动的工具生态协同,实现“DeepSeek+”创新工作流,典型组合形态包括办公增效、创意设计、AI音视频、编程辅助等。
提示工程:通过优化输入指令(提示词),引导AI模型生成更精准、高质量的输出。
六、趋势判断
开源模型将推动AI应用生态的加速繁荣,大幅降低传统企业与创业者接入AI的成本与门槛。
AI技术深入演进,推理模型或将成为主流形态,在精准度与成功率方面表现突出,且输出方式更具可解释性。
每项业务都需要接入至少一种AI模型,每位工作者都需要能跑端侧AI的个人电脑,每个公司都需建设能支撑AI工作流的AI算力平台。
“Agent+协议”可能是企业应用的新范式,Agent将自主规划任务步骤、调用合适工具、判断完成情况,任务执行过程需要少量甚至无需人类参与。
你可能感兴趣
DeepSeek完全实用手册:技术原理·使用技巧·部署进展
信息技术
至顶科技&至顶AI实验室&至顶智库
2025-04-15
DeepSeek完全实用手册——从技术原理到使用技巧
信息技术
至顶
2025-02-26
深度解读DeepSeek:部署、使用、安全
信息技术
天津大学
2025-03-06
深度解读DeepSeek:部署、使用、安全
天津大学自然语言处理实验室
2025-08-27
2025大模型原理、技术与应用:从GPT到DeepSeek
信息技术
哈工大计算学部
2025-02-28
Hermes Agent 完全技术参考手册:从入门到生产部署
信息技术
Nous Research&清华大学清新研究团队&解数咨询&D17&花叔橙皮书
2026-06-14
中国宏观经济月报:DeepSeek的抄袭争议——蒸馏技术的使用
致富证券
2025-02-11
GenAI:74.6%的中国财富500强企业正在部署或使用GenAI技术
信息技术
第一上海证券
2025-09-23
如何向ChatGPT提问以获得高质量答案:提示技巧工程完全指南
未知机构
2023-04-13
DeepSeek如何赋能职场应用——从提示语技巧到多场景应用(0212)
信息技术
清华大学
2025-02-12