您的浏览器禁用了JavaScript(一种计算机语言,用以实现您与网页的交互),请解除该禁用,或者联系我们。[东方证券]:计算机行业周报:OpenAI推出重磅模型O1提升推理能力,算力行业景气度持续得到验证 - 发现报告
当前位置:首页/行业研究/报告详情/

计算机行业周报:OpenAI推出重磅模型O1提升推理能力,算力行业景气度持续得到验证

信息技术2024-09-19浦俊懿、陈超、宋鑫宇东方证券L***
计算机行业周报:OpenAI推出重磅模型O1提升推理能力,算力行业景气度持续得到验证

行业研究|行业周报 看好(维持) OpenAI推出重磅模型O1提升推理能力,算力行业景气度持续得到验证 计算机行业 国家/地区中国 行业计算机行业 报告发布日期2024年09月19日 核心观点 计算机板块上周上涨0.3%,金融IT以及信创板块表现相对较好,车路云板块则有较明显回调。中报披露之后,投资者对政策主线的关注度有所提升,并积极自下而上挖掘个股机会。上周OpenAI推出了O1模型,用强化学习的方法把大模型的逻 辑推理能力提升到了新的高度,从而有助于提升投资者对AI应用与算力行业的信心,此外下周还有两场重磅行业会议,一是华为全连接大会,二是云栖大会,有望带来投资者对ICT领域的关注度。 OpenAIO1将大模型逻辑推理能力提升至新高度。9月12日,OpenAI发布了O1模型,该模型用强化学习的方法,实现了复杂推理任务上的重大进步,代表了AI能力的新水平。我们认为,O1模型的推出,将有助于环节投资者对模型迭代速度的担心,而复杂推理的解锁,也将给众多大模型应用带来可能,包括代码生成、智能体应用以及垂直行业应用都有望迎来新的发展契机。 算力行业利空担忧一再被消除,继续看好国产算力行业前景。近期在投资者对AI算力需求的持续性以及国内智算中心的建设节奏产生一定疑虑,但无论是从英伟达CEO黄仁勋参加高盛会议上的表态,以及甲骨文发布计划采购13.1万块英伟达B系列芯片打造Zettascale运算力集群,都凸显算力需求依然强劲。而从国内来看,各国产芯片厂商也将在下半年推出或量产新一代芯片,性能与竞争力将显著提升,因此国产芯片仍然值得重视和布局。 信创有望迎来景气反转。科技自立自强是三中全会公报再次强调的方向,而从国内科技产业链而言,华为毫无疑问在软硬件全栈领域均处于领先的地位,随着华为全连接大会召开日期的临近,以及下半年预期有更多的产品发布,市场关注华为在半导体、以及计算产业链方面的进展与变化。党政信创过去两年由于资金保障不足而需求放缓,但最新一届三中全会把安全作为主线任务,以及2027年信创整体工作目标不变,我们判断财政资金很可能将对党政信创进行专项支持,行业有望迎来景气反转。 新型电力系统行动方案发布,电力IT领域持续推荐。近期发改委和能源局共同印发 《加快构建新型电力系统行动方案(2024-2027年)》,开展9项专项行动以推进新型电力系统建设,涵盖煤电、新能源、电力电网系统、智慧调度、电动汽车、需求侧响应等多领域。行动方案》的落地彰显了国家推进电力市场化、建设新型电力系统的决心和具体步骤,电网、配网数字化公司以及电力市场化企业值得关注。 投资建议与投资标的 算力领域:建议关注海光信息、寒武纪-U、神州数码、中科曙光、紫光股份、浪潮信息。 信创产业:建议关注达梦数据、中国软件、软通动力、吉大正元、华大九天、广立微、顶点软件、润和软件、中望软件。 电力数字化领域:建议关注国能日新、国网信通、威胜信息、远光软件、安科瑞、东方电子等。 AI应用领域:建议关注金山办公、科大讯飞、中科创达、虹软科技、彩讯股份、福昕软件。 低空经济与自动驾驶领域:建议关注莱斯信息、通行宝、四维图新、千方科技、万集科技、金溢科技、高新兴。 风险提示 相关政策出台落地不及预期风险;相关技术发展不及预期风险 浦俊懿021-63325888*6106 pujunyi@orientsec.com.cn 执业证书编号:S0860514050004 陈超021-63325888*3144 chenchao3@orientsec.com.cn 执业证书编号:S0860521050002 宋鑫宇songxinyu@orientsec.com.cn 执业证书编号:S0860524090002 板块自下而上机会开始增加,短期关注信创、车路云等领域 2024-09-09 24H1净利润下滑明显,但Q2收入增速、 2024-09-01 利润下滑幅度均较Q1改善:——计算机行业24年半年报总结板块即将迎来业绩披露高峰,相对看好算 2024-08-28 力与信创国产化领域 有关分析师的申明,见本报告最后部分。其他重要信息披露见分析师申明之后部分,或请与您的投资代表联系。并请阅读本证券研究报告最后一页的免责申明。 目录 一、大模型迎来重磅更新,算力行业需求持续得到验证4 二、OpenAIO1大幅提升推理能力,有望解锁更多场景4 2.1OpenAIO1推出,推理能力迎来重大突破4 2.2GPT-4以来文本与逻辑推理能力提升速度趋缓5 2.3强化学习打开大模型新的能力空间7 投资建议与投资标的9 风险提示10 图表目录 图1:OpenAIO1模型在数学、代码等能力上提升明显5 图2:O1模型在各类测试中表现突出5 图3:OpenAI各模型在文本与多模态能力上的评测结果6 图4:模型性能与计算量、模型参数量及数据量相关6 图5:大模型预训练性能与参数量与token数关系6 图6:主流模型预训练成本以及计算量估计6 图7:O1模型效果随着训练和推理时间的增加而增加7 图8:机器学习三大经典范式7 图9:强化学习原理示意图7 图10:AlphaGo击败了围棋世界冠军李世石8 图11:SuperCLUE-Reasoning中文高阶推理测评基准8 一、大模型迎来重磅更新,算力行业需求持续得到验证 计算机板块上周上涨0.3%,金融IT以及信创板块表现相对较好,车路云板块则有较明显回调。中报披露之后,投资者对政策主线的关注度有所提升,并积极自下而上挖掘个股机会。上周OpenAI推出了O1模型,用强化学习的方法把大模型的逻辑推理能力提升到了新的高度,从而有助于提升投资者对AI应用与算力行业的信心,此外下周还有两场重磅行业会议,一是华为全连接大会,二是云栖大会,有望带来投资者对ICT领域的关注度。 OpenAIO1将大模型逻辑推理能力提升至新高度。9月12日,OpenAI发布了O1模型,该模型用强化学习的方法,实现了复杂推理任务上的重大进步,代表了AI能力的新水平。我们认为,O1模型的推出,将有助于环节投资者对模型迭代速度的担心,而复杂推理的解锁,也将给众多大模型应用带来可能,包括代码生成、智能体应用以及垂直行业应用都有望迎来新的发展契机。 算力行业利空担忧一再被消除,继续看好国产算力行业前景。近期在投资者对AI算力需求的持续性以及国内智算中心的建设节奏产生一定疑虑,但无论是从英伟达CEO黄仁勋参加高盛会议上的表态,以及甲骨文发布计划采购13.1万块英伟达B系列芯片打造Zettascale运算力集群,都凸显算力需求依然强劲。而从国内来看,各国产芯片厂商也将在下半年推出或量产新一代芯片,性能与竞争力将显著提升,因此国产芯片仍然值得重视和布局。 信创有望迎来景气反转。科技自立自强是三中全会公报再次强调的方向,而从国内科技产业链而言,华为毫无疑问在软硬件全栈领域均处于领先的地位,随着华为全连接大会召开日期的临近,以及下半年预期有更多的产品发布,市场关注华为在半导体、以及计算产业链方面的进展与变化。党政信创过去两年由于资金保障不足而需求放缓,但最新一届三中全会把安全作为主线任务,以及2027年信创整体工作目标不变,我们判断财政资金很可能将对党政信创进行专项支持,行业 有望迎来景气反转。 新型电力系统行动方案发布,电力IT领域持续推荐。近期发改委和能源局共同印发《加快构建新型电力系统行动方案(2024-2027年)》,开展9项专项行动以推进新型电力系统建设,涵盖煤电、新能源、电力电网系统、智慧调度、电动汽车、需求侧响应等多领域。行动方案》的落地彰显了国家推进电力市场化、建设新型电力系统的决心和具体步骤,电网、配网数字化公司以及电力市场化企业值得关注。 二、OpenAIO1大幅提升推理能力,有望解锁更多场景 2.1OpenAIO1推出,推理能力迎来重大突破 9月12日,OpenAI官宣推出新的模型OpenAIO1,据官方介绍,O1在推理能力上有重大进步,可进行复杂的任务推理,在编程、奥数、理化跻身人类最强大脑水平。在处理复杂问题时,O1会借助较长的内部思考链进行推理,从而获得更加精准的回答,这样的思考过程更接近人类对复杂问题的处理流程。 据介绍,O1模型在国际数学奥林匹克资格考试中正确率达到了83.3%,远高于GPT-4o的13.4%,在竞技编程问题(Codeforces)上的排名位于89百分位,在物理、生物和化学问题的基准测试(GPQA)上也超过了人类博士学位级别的准确度。我们认为,O1模型无论是在逻 辑思维能力上,还是训练的方法与架构上都有重大突破,标志着AI发展进入全新阶段。 图1:OpenAIO1模型在数学、代码等能力上提升明显 数据来源:OpenAI官网、东方证券研究所 图2:O1模型在各类测试中表现突出 数据来源:OpenAI官网、东方证券研究所 2.2GPT-4以来文本与逻辑推理能力提升速度趋缓 OpenAI在此次推出O1模型之前,24年3月推出GPT-4、在规模和性能上较GPT3.5呈现显著提升,自此之后继续进行模型迭代,相继推出GPT-4V(增加图像识别、推理)、GPT-4T (推理、数学、编码能力提升)、GPT-4o(跨模态模型,多模态能力大幅提升),此外,还推出了文生视频应用Sora。我们注意到,以MMLU得分衡量,OpenAI的模型在文本能力上自GPT-4后提升速度较慢,以数学与逻辑推理为代表的理科能力提升也不明显,只是多模态能力持续提升,对应MMMU得分有较明显增加。 图3:OpenAI各模型在文本与多模态能力上的评测结果 数据来源:MMLU、MMMU,东方证券研究所 OpenAI在2020年的论文《ScalingLawsforNeuralLanguageModels》中提出了著名的Scalinglaw,即在Transformer架构下,大语言模型的最终性能主要与计算量、模型参数量、和数据量大小三者相关,而与模型的具体结构(层数/深度/宽度)基本无关,而为了提升模型性能,模型参数量和数据大小需要同步放大。谷歌DeepMind团队则在论文《TrainingCompute-OptimalLargeLanguageModels》中提出,最优语言模型的参数量和数据集大小的近似满足:D=20P,其中D表示Token数量,P表示模型参数量。 图4:模型性能与计算量、模型参数量及数据量相关图5:大模型预训练性能与参数量与token数关系 数据来源:OpenAI,东方证券研究所数据来源:谷歌,东方证券研究所 在Scalinglaw的指引下,各家大模型公司不断用更大规模算力集群和更庞大的数据规模去训练更大参数模型,希望不断提升模型性能,获得进一步的智能涌现。在GPT-4之前,这样的方法被普遍采用,但现在ScalingLaw存在放缓现象,正如新浪微博技术研发负责人张俊林所指出的:大模型中的世界知识含量,基本是和训练数据量成正比的,而大模型见过越多数据,则新数据里面包含的新知识比例越小,此外,逻辑推理方面,由于训练数据中自然数据(代码、数学题、物理题、科学论文等)比例太低,也导致了即便增加训练数据也不容易提升推理能力,因此采用的新的训练方法与架构以提升模型性能成为各厂商努力的方向。 图6:主流模型预训练成本以及计算量估计 数据来源:《ArtificialIntelligenceIndexReport2024》,东方证券研究所 2.3强化学习打开大模型新的能力空间 OpenAI在训练O1模型时采用了强化学习的方法,能够在高效训练数据的过程中使用其“思维链”进行思考,从而增强模型的能力。随着更多的强化学习和更多的思考时间,o1的性能持续提高。OpenAIo1模型的发布,标志着人工智能在复杂推理任务上的重大进步,代表了AI能力的新水平。 图7:O1模型效果随着训练和推理时间的增加而增加 数据来源:OpenAI,东方证券研究所 机器学习三大范式(监督学习、非监督学习、