您的浏览器禁用了JavaScript(一种计算机语言,用以实现您与网页的交互),请解除该禁用,或者联系我们。[上海证券]:计算机行业周报(2024.4.15—2024.4.19):Llama3发布,开源大模型迎重要进展 - 发现报告
当前位置:首页/行业研究/报告详情/

计算机行业周报(2024.4.15—2024.4.19):Llama3发布,开源大模型迎重要进展

信息技术2024-04-23吴婷婷上海证券洪***
AI智能总结
查看更多
计算机行业周报(2024.4.15—2024.4.19):Llama3发布,开源大模型迎重要进展

证Llama3发布,开源大模型迎重要进展 券 研——计算机行业周报(2024.4.15—2024.4.19) 究 报增持(维持)市场回顾 告行业:计算机 过去一周(4.15-4.19)上证综指上涨1.52%,创业板指下跌0.39%, 日期: 2024年04月23日 沪深300指数上涨1.89%,计算机(申万)指数下跌3.94%,跑输上 证综指5.45pct,跑输创业板指3.55pct,跑输沪深300指数5.83pct, 位列全行业第25名。 分析师:吴婷婷 Tel:021-53686158 最近一年行业指数与沪深300比较 计算机 沪深300 3% -4%04/2307/2309/2311/2302/2404/24 -10% -16% -22% -28% -34% -40% -47% E-mail:wutingting@shzq.comSAC编号:S0870523080001 行业周报 相关报告: 《华为发布AIPC新品,鸿蒙生态再迎里程碑式进展》 ——2024年04月16日 《国家数据局再度发声,数据要素化进程不断加快》 ——2024年04月10日 《华为P70发布在即,鸿蒙迎重大催化》 ——2024年04月04日 《Kimi掀起长文本大战,终端智能进展不断》 ——2024年03月25日 《AI大模型持续迭代,关注终端智能进展》 ——2024年03月19日 周观点 Llama-3正式发布,开源大模型迎来新进展。4月18日,Meta正式发布了开源大模型——Llama-3。据悉,Llama-3共有80亿、700亿两种参数,分为基础预训练和指令微调两种模型。Llama3的主要亮点包括:(1)基于超过15Ttoken训练,相当于Llama2数据集的7倍还多;(2)支持8K长文本,改进的tokenizer具有128Ktoken的词汇量,可实现更好的性能;(3)在大量重要基准中均具有最先进性能,Llama38B在MMLU、GPQA、HumanEval、GSM-8K等多项基准上超过谷歌Gemma7B和Mistral7BInstruct,Llama370B也在MMLU、HumanEval、GSM-8K等基准上超越了闭源的谷歌GeminiPro1.5、Claude3Sonnet;(4)新能力范畴,包括增强的推理和代码能力;(5)训练效率比Llama2高3倍;(6)带有LlamaGuard2、CodeShield和CyberSecEval2的新版信任和安全工具。基于最新的Llama3模型,Meta的AI助手现在已经覆盖Instagram、WhatsApp、Facebook等全系应用,并单独开启了网站。另外还有一个图像生成器,可根据自然语言提示词生成图片。此外,Llama3系列 最大模型规模将超过4000亿参数,目前正在训练中,英伟达科学家JimFan认为,这一版本未来的推出将意味开源社区的一个分水岭,开源模型将一举翻越GPT-4这一高峰。 Create2024百度AI开发者大会召开,“开箱即用”降低AI应用开发门槛。4月16日,百度举办了Create2024百度AI开发者大会,会上发布了一个强大的基础模型系列和三大AI开发工具,并将它们组成了一个工具箱,支持开发者打包带走,随取随用。强大的基础模型系列,文心大模型系列,包括:旗舰版的ERNIE3.5和4.0,和轻量版的ERNIESpeed、Lite、Tiny等;正式发布文心大模型4.0的工具版。模型算法的训练效率提升至原来的5.1倍,周均训练有效率达到98.8%,推理性能提升105倍,推理的成本降至原来的1%。三大“开箱即用”的AI开发工具,包括智能体开发工具AgentBuilder、AI原生应用开发工具AppBuilder、各种尺寸的模型定制工具ModelBuilder,代表了先进生产力。生态持续扩张,文心一言自23年3月16日发布,截止目 前用户数、API日均调用量均突破2亿,服务客户数达8.5万,利用千帆平台开发的AI原生应用数超过19万。目前,文心大模型已成为中国最领先、应用最广泛的AI基础模型。我们认为,在强大的基础模型、开箱即用的开发工具以及繁荣的生态赋能下,AI原生应用的未来发展值得期待,带来AI生产力、创造力的持续变革。 投资建议 行业周报 建议关注:(1)AI算力:工业富联、中科曙光、浪潮信息、软通动力、神州数码、拓维信息、海光信息、寒武纪、景嘉微等;(2)AI应用:科大讯飞、金山办公、万兴科技、同花顺、佳发教育、新致软件、鼎捷软件、焦点科技等。 风险提示 下游景气度不及预期;政策推进不及预期;技术创新不及预期、行业竞争加剧。 目录 1周观点4 2市场回顾5 2.1计算机板块表现5 2.2计算机个股表现6 3行业要闻6 3.1国内要闻6 3.2海外动态8 4公司动态9 4.1重大事项9 4.2股份增减持13 4.3股权激励13 5一级投融资一览13 6风险提示14 图 图1:过去一周申万一级行业指数市场表现5 图2:计算机指数(申万)近10年PE(TTM)6 表 表1:过去一周各类指数行情回顾5 表2:过去一周计算机个股涨跌幅及换手率前五6 表3:过去一周计算机行业一级投融资情况14 1周观点 Llama-3正式发布,开源大模型迎来新进展。4月18日,Meta正式发布了开源大模型——Llama-3。据悉,Llama-3共有80亿、700亿两种参数,分为基础预训练和指令微调两种模型。Llama3的主要亮点包括:(1)基于超过15Ttoken训练,相当于Llama2数据集的7倍还多;(2)支持8K长文本,改进的tokenizer具有128Ktoken的词汇量,可实现更好的性能;(3)在大量重要基准中均具有最先进性能,Llama38B在MMLU、GPQA、HumanEval、GSM-8K等多项基准上超过谷歌Gemma 7B和Mistral7BInstruct,Llama370B也在MMLU、HumanEval、GSM-8K等基准上超越了闭源的谷歌GeminiPro1.5、Claude3Sonnet;(4)新能力范畴,包括增强的推理和代码能力;(5)训练效率比Llama2高3倍;(6)带有LlamaGuard2、CodeShield和CyberSecEval2的新版信任和安全工具。基于最新的Llama3模型,Meta的AI助手现在已经覆盖Instagram、WhatsApp、Facebook等全系应用,并单独开启了网站。另外还有一个图像生成器,可根据自然语言提示词生成图片。此外,Llama3系列最大模型规模将超过4000亿参数,目前正在训练中,英伟达科学家JimFan认为,这一版本未来的推出将意味开源社区的一个分水岭,开源模型将一举翻越GPT-4这一高峰。 Create2024百度AI开发者大会召开,“开箱即用”降低AI应用开发门槛。4月16日,百度举办了Create2024百度AI开发者大会,会上发布了一个强大的基础模型系列和三大AI开发工具,并将它们组成了一个工具箱,支持开发者打包带走,随取随用。强大的基础模型系列,文心大模型系列,包括:旗舰版的ERNIE3.5和4.0,和轻量版的ERNIESpeed、Lite、Tiny等;正式发布文心大模型4.0的工具版。模型算法的训练效率提升至原来 的5.1倍,周均训练有效率达到98.8%,推理性能提升105倍,推理的成本降至原来的1%。三大“开箱即用”的AI开发工具,包括智能体开发工具AgentBuilder、AI原生应用开发工具AppBuilder、各种尺寸的模型定制工具ModelBuilder,代表了先进生产力。生态持续扩张,文心一言自23年3月16日发布,截止目前用户数、 API日均调用量均突破2亿,服务客户数达8.5万,利用千帆平台开发的AI原生应用数超过19万。目前,文心大模型已成为中国最领先、应用最广泛的AI基础模型。我们认为,在强大的基础模型、开箱即用的开发工具以及繁荣的生态赋能下,AI原生应用的未来 发展值得期待,带来AI生产力、创造力的持续变革。 建议关注:(1)AI算力:工业富联、中科曙光、浪潮信息、软通动力、神州数码、拓维信息、海光信息、寒武纪、景嘉微等; (2)AI应用:科大讯飞、金山办公、万兴科技、同花顺、佳发教育、新致软件、鼎捷软件、焦点科技等。 2市场回顾 2.1计算机板块表现 过去一周(4.15-4.19)上证综指上涨1.52%,创业板指下跌 0.39%,沪深300指数上涨1.89%,计算机(申万)指数下跌 3.94%,跑输上证综指5.45pct,跑输创业板指3.55pct,跑输沪深 300指数5.83pct,位列全行业第25名。 表1:过去一周各类指数行情回顾 资料来源:iFinD,上海证券研究所 图1:过去一周申万一级行业指数市场表现 资料来源:iFinD,上海证券研究所 当前计算机板块整体处于低估值水平。截至2024年4月19日,计算机板块市盈率-TTM为47.23,历史中位数为57.67,分位点处于近十年的13.85%。计算机指数(申万)过去10年市盈率-TTM低点为13.85,发生于2022年4月;历史高点为159.70,发生于2015年6月。 图2:计算机指数(申万)近10年PE(TTM) 资料来源:Wind,上海证券研究所 2.2计算机个股表现 过去一周计算机(申万)板块中,个股涨幅前五名分别为:同为股份、恒拓开源、莱斯信息、京北方、志晟信息;跌幅前五名分别为:*ST左江、永信至诚、ST迪威迅、古鳌科技、信息发展;换手率前五分别为莱斯信息、君逸数码、古鳌科技、恒拓开源、卡莱特。 表2:过去一周计算机个股涨跌幅及换手率前五 证券代码 周涨幅前五证券简称收盘价 (元) 周涨跌幅 (%) 证券代码 周跌幅前五证券简称收盘价 (元) 周涨跌幅 (%) 证券代码 换手率前五 证券简称 收盘价(元) 换手率 (%) 002835.SZ 同为股份 24.06 61.04 300799.SZ *ST左江 10.59 -29.91 688631.SH 莱斯信息 83.23 28.39 834415.BJ 恒拓开源 10.03 40.67 688244.SH 永信至诚 33.59 -28.27 301172.SZ 君逸数码 31.69 24.38 688631.SH 莱斯信息 83.23 35.33 300167.SZ ST迪威迅 1.53 -27.14 300551.SZ 古鳌科技 8.88 21.15 002987.SZ 京北方 16.20 11.57 300551.SZ 古鳌科技 8.88 -26.31 834415.BJ 恒拓开源 10.03 16.25 832171.BJ 志晟信息 6.85 11.20 300469.SZ 信息发展 12.25 -19.04 301391.SZ 卡莱特 85.88 16.11 资料来源:iFinD,上海证券研究所 3行业要闻 3.1国内要闻 北大林宙辰团队提出具有万有逼近性质的神经网络架构的设计方法。北京大学林宙辰教授团队提出了一种易于操作的基于优化算法设计具有万有逼近性质保障的神经网络架构的方法,其通过将 基于梯度的一阶优化算法的梯度项映射为具有一定性质的神经网络模块,再根据实际应用问题对模块结构进行调整,就可以系统性地设计具有万有逼近性质的神经网络架构,并且可以与现有大多数基于模块的网络设计的方法无缝结合。论文还通过分析神经网络微分方程(NODE)的逼近性质首次证明了具有一般跨层连接的神经网络的万有逼近性质,并利用提出的框架设计了ConvNext、ViT的变种网络,取得了超越baseline的结果。论文被人工智能顶刊TPAMI接收。(来源:机器之心) 2024百度Create大会:李彦宏带来三大AI开发工具,让人人都是开发者。4月16日,百度创始人、董事长兼首席执行官李彦宏在Create2024百度AI开发者大会上发表“人人都是开发者”的主题演讲,他指出,“AI正在掀