AI智能总结
李煜政 中山大学软件工程学院2025年03月 大纲 n人工智能大模型发展现状 nDeepSeek破圈后的大模型发展趋势 n大模型重点应用场景 nDeepSeek能力赋能个人发展 人工智能 2024年3月5日,李强总理在十四届全国人大二次会议上作《政府工作报告》,其中提出:开展“人工智能+”行动。 人工智能 n人工智能的定义 ØArtificialIntelligence,缩写为AI Ø1955年,约翰·麦卡锡定义为:“制造智慧机器的科学与工程”。 Ø1989年,罗杰·彭罗斯定义为:“通过机器(通常是电子设备)尽可能多地模仿人类智力活动,并可能在这些方面提高人类的能力”。 约翰·麦卡锡(人工智能之父) 人工智能 n人工智能的分类 Ø弱人工智能ArtificialNarrowIntelligence(ANI) •擅长于单个方面的人工智能 Ø强人工智能ArtificialGeneralIntelligence(AGI) •人类级别的人工智能,在各方面都能和人类比肩 Ø超人工智能ArtificialSuperintelligence(ASI): •“在几乎所有领域都比最聪明的人类大脑都聪明很多,包括科学创新、通识和社交技能。”——牛津哲学家,知名人工智能思想家NickBostrom 科技趋势 nGartner十大科技趋势预测 Ø2017:人工智能和先进机器学习(第1)Ø2018:人工智能基础(第1)Ø2019:自动化的一切(第1)Ø2020:人工智能安全(第10)Ø2021:人工智能工程化(第8)、超级自动化(第9)Ø2022:生成式AI(第12)Ø2023:自适应AI(第4)Ø2024:全民化的生成式AI(第1)、AI信任、风险、安全管理(第2)Ø2025:代理型AI(第1)、AI治理平台(第2) 人工智能 人工智能 nLLM的原理:大参数函数 人脑约有1000亿个神经元 人工智能 n人工智能相比人类的优点 Ø速度:计算(机器2GHzvs人脑200Hz)、信息传播(光速vs人脑120m/s) Ø容量:机器具有更大的储存空间 Ø可靠性和持久性:晶体管比神经元更加精确可靠 Ø可编辑性、升级性:软件更容易升级、修正、测试 Ø集体能力:机器>人类>其他物种 人工智能 人工智能 n人工智能的发展需要受到规范 工业革命 n四次工业革命 人工智能大模型发展现状 DeepSeek热潮 DeepSeek热潮 nDeepSeek版本发布路径 Ø23年11月:DeepSeekLLM Ø24年1月:DeepSeek-MoE Ø24年2月:DeepSeekMath Ø24年5月:DeepSeek-V2 Ø24年11月20日:DeepSeek-R1-Lite-Preview Ø24年12月26日:DeepSeek-V3 Ø25年01月15日:DeepSeekApp Ø25年01月20日:DeepSeek-R1 Ø25年01月27日:DeepSeek暴击美股 国内AI软件的关注度(微信指数) DeepSeek热潮 nDeepSeek版本发布路径 Ø23年11月:DeepSeekLLM Ø24年1月:DeepSeek-MoE Ø24年2月:DeepSeekMath Ø24年5月:DeepSeek-V2 Ø24年11月20日:DeepSeek-R1-Lite-Preview Ø24年12月26日:DeepSeek-V3 Ø25年01月15日:DeepSeekApp Ø25年01月20日:DeepSeek-R1 Ø25年01月27日:DeepSeek暴击美股 DeepSeek热潮 n全球云服务厂商火速接入 1月31日,英伟达、亚马逊、微软云全部接入DeepSeek 2月1日~2月3日,国内云厂商陆续宣布接入DeepSeek DeepSeek热潮 n成为央国企数字化转型“新基建” 通信行业 Ø三大运营商:移动、联通、电信,全面接入DeepSeek,应用于智能客服和云计算赋能 能源行业 Ø电力:南方电网“大瓦特”;国家电网“光明电力大模型”;中国华电“华电睿思”Ø三桶油:中国石油昆仑大模型;中国石化长城大模型;中国海油海能人工智能模型 汽车行业 Ø Ø东风汽车、长安汽车、吉利、极氪:应用于智能语音交互、AI导航系统及自动驾驶辅助 金融行业 Ø国有银行、十余家券商:完成本地部署,应用于信息检索、行业研究、合规问答等场景 DeepSeek热潮 n延伸到智慧政务领域 北京市 Ø丰台区、昌平区、海淀区:部署DeepSeek用于优化行政审批流程与数据分析广东省 Ø广州市:政务服务和数据管理局,部署DeepSeek-R1/V3模型,应用于民生政策解读、12345热线工单分派等场景Ø深圳市:基于政务云提供DeepSeek模型服务,覆盖龙岗区、福田区、大鹏新区等,实现政务应用一体化升级Ø佛山市:完成DeepSeek本地化部署,接入“粤治慧·佛山城市大脑”,支撑智能问答、公文写作等政务功能Ø珠海市:政务服务和数据管理局,在市电子政务外网上线DeepSeek-R1671B大模型江苏省 Ø Ø南京、苏州、无锡、常州、盐城、连云港等地:接入DeepSeek用于优化营商环境、政策解读及智能客服江西省 Ø赣州市:作为省内首个部署DeepSeek的城市,应用于政务服务与城市治理河北省 Ø秦皇岛市:交通运输局引入DeepSeek推动智慧交通建设,数据和政务服务局上线智能审批助手 人工智能大模型发展现状 DeepSeek核心价值赏析 DeepSeek核心价值赏析 nDeepSeek简介 ØDeepSeek-R1能力 DeepSeek核心价值赏析 n推理模型是什么? Ø《Modelneedsmoretokenstothink》思维链(Chain-of-Thought,CoT) Ø案例: Ø“计算Starwberry里有几个r” Ø“计算Starwberry里有几个r?请一步步来,先拆解单词拼写,再计算每个字母是否是r,同时注意可能有连续出现的相同字母r” DeepSeek核心价值赏析 n思维链技术的局限性 Ø对用户的专业技能要求高、使用门槛高 Ø例如: Ø两个能量分别为E1和E2的量子态,其寿命分别为10^-9秒和10^-8秒。我们希望清晰区分这两个能级,以下哪个选项可能是它们的能量差值,使得二者能够被明确分辨? Ø请拆解为思维链… DeepSeek核心价值赏析 n推理模型 Ø自动生成链式思考的过程 DeepSeek核心价值赏析 n推理模型的适用场景 Ø不适用: Ø适用: Ø简单问题Ø知识性问答Ø娱乐聊天Ø延迟要求高 Ø谜题、数学证明Ø复杂决策Ø开放式答案Ø需要显式的思考步骤 DeepSeek核心价值赏析 n长思维链的效果 Ø2024年9月GPT-o1发布后,借助LongInternalCoT,在数学竞赛,编程竞赛,科学问答方面显著提升,甚至击败人类专家。 DeepSeek核心价值赏析 n复现o1推理能力的探索过程 Ø主流探索方向 ØPRM(过程监督奖励模型) 主流的研发方向没有跳出PRM模式 DeepSeek核心价值赏析 n复现o1推理能力的探索过程 ØKimi团队,从蛛丝马迹中,找到关键破局点 ØTrainLLMsthroughRLtosolveproblemswithexactrewardsØAvoidstructuredapproachesastheyultimatelylimitmodelperformance;letthemodelexplorethinkingparadigmsonitsownØThinkingincludessearchprocessesandallowsformistakes DeepSeek核心价值赏析 nDeepSeek模型的演化路径–阶段1 ØDeepSeek团队,提出DeepSeek-R1-Zero的纯强化学习方法(PureRL),以数学、物理、编程等有标准答案的题目进行训练 Ø准确度激励: Ø问“1+1=?”答2,加一分;答1,零分 Ø格式激励: Ø问“1+1=?” Ø答:<think>用户问我1+1等于几,这应该是一道很简单的数学题,我们可以形象的思考,我有一个苹果,再给我个,就有两个。因此答案应该是2。</think><answer>2</answer>加一分 Ø答:<think></think><answer>2</answer>零分 DeepSeek核心价值赏析 nDeepSeek模型的演化路径–阶段1 Ø在训练过程中,模型自主学会了长思考:随着训练轮次增加,平均返回结果长度逐渐上升 DeepSeek核心价值赏析 nDeepSeek模型的演化路径–阶段1 Ø纯强化学习,无人工指引,模型效果赶超OpenAIo1 Ø但存在回复文本可读性差、推理过程语言混乱问题 DeepSeek核心价值赏析 nDeepSeek模型的演化路径–阶段2 Ø训练流程(武当梯云纵,左脚踩右脚) DeepSeek核心价值赏析 nDeepSeek模型的演化路径–阶段2 Ø追赶上了o1系列模型的能力 Ø但不是谁都可以左脚踩右脚,需要强大的基础模型 DeepSeek核心价值赏析 nDeepSeek模型的演化路径–阶段3 (将大模型的知识浓缩到一个小模型上,在降低计算量的同时尽可能使小模型接近大模型的性能) Ø效果大幅提升(证明超大模型的SFT数据,可以低成本地显著拔高现有模型) Ø模型尺寸变小(引发本地部署热潮、破圈) DeepSeek核心价值赏析 nDeepSeek对应功能 大纲 n人工智能大模型发展现状 nDeepSeek破圈后的大模型发展趋势 n大模型重点应用场景 nDeepSeek能力赋能个人发展 大模型发展趋势 n从摩尔定律到知识密度提升 Ø摩尔定律趋缓 Ø定律:每隔大约18个月,集成电路上可容纳的晶体管数量将翻倍,同时计算性能也会随之提升,而成本保持不变Ø近年来摩尔定律趋缓(芯片制程接近物理极限),单纯依赖芯片性能提升已无法满足大模型指数级增长的算力需求 Ø大模型开始依赖更高效的架构优化 Ø知识密度:每一次的计算所需要参与的参数以及对应能力所需要消耗的算力Ø一个知识密度越强的模型意味着能力越强,每一次计算所需要的参数规模越小Ø模型的知识密度增强将呈现出每8个月提升一倍的规律 大模型发展趋势 n大模型由数据飞轮向智慧飞轮升级演进 Ø使用合成数据进行训练成为主流 Ø强化学习新范式,带来AI模型的自我迭代 大模型发展趋势 nTest-timescalinglaw Ø模型能力提升维度: 预训练计算量、模型尺寸、数据量、思考时间 大模型发展趋势 nTest-timescalinglaw 2025年国际消费电子展(CES2025)——全球最大的消费电子展上,Nvidia(英伟达)创始人兼CEO黄仁勋发表了一场主题演讲,将过去、现在和未来紧密结合在一起。 “随着预训练的收益达到瓶颈或变得过于昂贵,我们找到了一种新的扩展方向(Test-TimeScaling),它展示了一条通往AGI的路径。” 大模型发展趋势 大模型发展趋势 n通用大模型与垂域大模型协同发展 Ø通用大模型在专业领域常常产生幻觉(如司法领域) Ø垂域大模型关注解决问题,提高生产力和工作效率Ø但一个好的通用大模型,可以决定垂域大模型的下限 通用大模型在专业领域产生幻觉:2020年5月28日,《中华人民共和国民法典》表决通过,自2021年1月1日起施行。 大模型发展趋势 n本地部署小模型成为主流应用渠道 ØDeepSeek发布后,通过蒸馏有效提升了小模型的能力 Ø小模型本地部署的资源要求低 Ø本地部署能有效提升数据安全性,拓宽落地场景 大纲