AI存算加速成为大模型竞争升级的关键
市场回顾
本周(03.23-03.27),沪深300指数下跌1.41%,中小板指数下跌0.61%,创业板指数下跌1.68%,计算机(中信)板块下跌3.22%。板块个股涨幅前五名分别为:*ST汇科、渤海化学、天玑科技、优博讯、运达科技;跌幅前五名分别为:朗科科技、同有科技、GQY视讯、神州信息、浩云科技。
行业要闻
- OpenAI永久关停Sora视频生成项目,战略转向AI代理。
- Anthropic诉美国防部胜诉,法院叫停AI禁用令。
- 中关村论坛AI主题日密集发布开源与具身智能成果。
- 广州发布AI万亿级产业蓝图,打造全球垂类模型之都。
- 国家统计局:我国Token调用量增长超千倍。
公司动态
- 汇金股份:筹划以现金方式收购库珀新能源20%股权,实现控股,切入新能源储能领域。
本周要点
“打破内存墙”成为确定的技术趋势
- AI发展加速,内存墙问题凸显:算力性能增长远超内存带宽和数据传输能力,导致“内存墙”问题。GPU等AI芯片计算能力提升3倍以上,而内存带宽仅增加1.6倍,通信带宽增加约1.4倍。
- 训练侧挑战:CheckPoint机制因低速存入造成算力闲置。GPT-4模型CheckPoint大小达21.12TB,频繁保存和恢复导致大量时间和算力开销。
- 推理侧挑战:访存效率是影响计算效率的核心。大模型推理阶段(Prefill和Decode)中,Decode访存带宽密集,时延主要由访存带宽决定。
- “打破内存墙”技术路径:算法压缩、存内计算/存算一体、系统级互连与池化、以存换算等。
投资建议
- 聚焦存储产业链全球龙头:美光、海力士、闪迪、三星、铠侠等。
- 关注AI原生存算加速体系稀缺标的:信测标准(投资锋行致远布局AI存算加速)、星环科技(布局AI原生数据库)、澜起科技等。
本周市场回顾
本周沪深300指数下跌1.41%,中小板指数下跌0.61%,创业板指数下跌1.68%,计算机(中信)板块下跌3.22%。板块个股涨幅前五名分别为:*ST汇科、渤海化学、天玑科技、优博讯、运达科技;跌幅前五名分别为:朗科科技、同有科技、GQY视讯、神州信息、浩云科技。
风险提示