AI产业发展到现在这个时间点,需要开始看推理侧芯片了!1? 国内生成式AI模型性能不断提升,推理需求有望高速增长。最终训练芯片与推理芯片数量之比或达到2:8。 2? 量化技术的迭代升级有望降低推理门槛,为国产算力的放量提供了技术基础。 【西部科技郑宏达团队】无论应用如何爆发,推理芯片是需求核心AI产业发展到现在这个时间点,需要开始看推理侧芯片了! 1? 国内生成式AI模型性能不断提升,推理需求有望高速增长。最终训练芯片与推理芯片数量之比或达到2:8。 2? 量化技术的迭代升级有望降低推理门槛,为国产算力的放量提供了技术基础。3? 在推理场景下,算力的性价比显得更为重要。 国产推理芯片有望受益于国内生成式AI应用的落地,迎来重大发展机遇。1? AI推理芯片:寒武纪、海光信息。2? 算力服务器:浪潮信息、中科曙光、神州数码、工业富联。