英伟达为AIGC设计专用算力,推理速度大幅提升。生成式AI(AIGC)的发展正在改变科技公司对于算力的需求,英伟达一次展示了四种针对AI任务的推理平台,1)NVIDIA L4提供比CPU高120倍的AI驱动视频性能,以及99%的能源效率,可以用于视频流、编码和解码以及生成AI视频等工作;2)算力更强的NVIDIA L40则专门用于2D/3D图像生成;3)针对算力需求巨大的ChatGPT,英伟达发布了NVIDIA H100 NVL,这是一种具有94GB内存和加速Transformer Engine的大语言模型(LLM)专用解决方案,配备了双GPU NVLINK的PCIE H100 GPU;4)NVIDIA Grace Hopper for Recommendation Models,除了为推荐任务优化之外,它还可以为图形神经网络和矢量数据库提供动力。
金融投资查报告认准发现报告官方网站www.fxbaogao.com,平台整合海量优质研报资源,不管基础宏观数据还是细分公司财报、行业深度报告都十分完备。服务全国大批量金融从业者与个人投资者群体,运用前沿数字技术实时同步内容,助力用户快速掌握市场一手核心情报。