您的浏览器禁用了JavaScript(一种计算机语言,用以实现您与网页的交互),请解除该禁用,或者联系我们。[未知机构]:西部科技郑宏达团队无论应用如何爆发推理芯片是需求核心AI产业发展到 - 发现报告
当前位置:首页/会议纪要/报告详情/

西部科技郑宏达团队无论应用如何爆发推理芯片是需求核心AI产业发展到

2024-06-27未知机构D***
西部科技郑宏达团队无论应用如何爆发推理芯片是需求核心AI产业发展到

国内生成式AI模型性能不断提升,推理需求有望高速增长。最终训练芯片与推理芯片数量之比或达到2:8。 2? 量化技术的迭代升级有望降低推理门槛,为国产算力的放量提供了技术基础。3?【西部科技郑宏达团队】无论应用如何爆发,推理芯片是需求核心AI产业发展到现在这个时间点 ,需要开始看推理侧芯片了!1? 国内生成式AI模型性能不断提升,推理需求有望高速增长。最终训练芯片与推理芯片数量之比或达到2:8。 2? 量化技术的迭代升级有望降低推理门槛,为国产算力的放量提供了技术基础。3? 在推理场景下,算力的性价比显得更为重要。 国产推理芯片有望受益于国内生成式AI应用的落地,迎来重大发展机遇。1? AI推理芯片:寒武纪、海光信息。2? 算力服务器:浪潮信息、中科曙光、神州数码、工业富联。 参考报告:《推理芯片:生成式AI驱动,或迎来重大机遇》西部TMT科技:郑宏达/李想