高通:针对于 AI PC,推出骁龙 X Elite,性能优于竞品。今年 6 月,针对 AIPC,高通在 Computex 大会宣布骁龙 X 系列产品,其中骁龙 X Elite NPU 算力高达 45 TOPS,能效是 M3 的 2.6 倍,是 Ultra7 处理器的 5.4 倍;此外,在 ISO 供电情况下,骁龙 X Elite 的 CPU 性能比竞品领先高达 51%,在 PC 达到相同 CPU 峰值性能时,功耗相比竞品低 65%。
Intel:针对于 AI PC,推出 Lunar Lake 架构。今年 6 月 Intel 宣布 Lunar Lake 架构,采用全新的 Lion Cove 架构 P-Core 和 Skymont 架构 E-Core,其中 P-Core 在 IPC 相比商代产品提升 14%,E-Core 在多线程性能上实现提升。此外,Lunar Lake NPU 算力高达 48 TOPS,搭配 Xe2 GPU 核心在图形处理性能上较上代产品提升 1.5 倍,结合全新 XMX 阵列作为第 2 个 AI 加速器,提供 67 TOPS 的性能,Intel 称该架构专为下一代 AIPC 而生,根据 Intel 24Q2 Earnings Conference Call,Lunar Lake 于今年 7 月提前实现量产发布,第三季度开始出货。Lunar Lake 将为 20 多家 OEM 的 80 多台新 Copilot+PC 提供动力。
MTK:针对于 AI PC,推出 Kompanio 838。今年 6 月 MTK 在 Computex 大会宣布面向高阶 Chromebook 的 Kompanio 838 移动计算芯片,该芯片内部集成 AI 处理器 NPU650,以高能效特性支持 Chromebook 产品所需的 AI 增强功能,提升用户互动和多媒体体验。其中 MTK NPU 专为高效的图像数据处理而设计,能够快速执行复杂的计算。与 Kompanio 500 系列相比,图形性能提升高达 76%。
高通:推出高性能 AI 100 Ultra 云端推理卡。23 年 11 月,高通发布 CloudAI 100 Ultra(云 AI 推理加速卡),专为生成式 AI 和 LLM 而设计。该产品 INT8 峰值算力高达 870 TOPS,片上内存 576MB,单卡集成 64 个 AI 核,可提供相当于上一代产品 4 倍的性能,可以在单张 150W 的卡上部署 100B 参数模型。利用高通 AI 堆栈,可以使客户能够“在任何地方训练,并通过 CloudAI 100 Ultra 进行推理”,从而支持模型的移植和优化。
Intel:迭代软硬件产品,Gaudi 3 AI 性能超过 H100。硬件方面,本季度,Intel 推出 Gaudi3 ASIC 芯片,Gaudi3 与英伟达上一代产品 H100 相比,训练性能提高了 170%,推理能力提高 50%,效率提高 40%,但成本大幅下降。同时 CPU 方面,Intel 推出 Xeon6 处理器,主要针对生成式 AI 计算。Xeon6 处理器包含高效核心 E-core 和性能核心 P-core。Xeon6 E-core,相比第二代 Xeon 处理器,性能每瓦提高 2.4 倍,并且机架密度提高 2.7 倍。根据 Intel 24Q2 Earnings Conference Call,Xeon6 处理器将于 2024 年第三季度开始出货。英特尔 Gaudi3 AI 加速器也有望在第三季度推出。软件生态方面,英特尔 Gaudi3 针对生成式 AI 提供端到端全栈 AI 软件解决方案,包括嵌入式软件、软件套件、AI 软件、AI 应用。依靠丰富的 AI 软件生态,Gaudi3 也支持常见的 AI 框架库、使用场景和工具,并对有代表性的模型进行支持。
MTK:针对手机等移动设备,快速迭代 AI 芯片。今年 5 月,针对手机及平板等移动设备,MTK 发布天玑 9300+ 生成式 AI 移动芯片,9300+ 拥有比上一代更先进的 AI 处理能力,内置 APU790 AI 引擎使天玑 9300+ 不仅支持 1B、7B 和 13B 参数的 LLM,可扩展性高达 33B,还可以快速高效地运行 LLM。借助 NeuroPilot 推测解码加速,天玑 9300+ 可以以每秒 22 Tokens 的速度运行具有 70 亿个参数 LLM。根据 MTK 24Q2 Earning Call,今年 10 月将上市 Dimensity 9400,采用 3nm 制程工艺和 Arm 的 v9 内核,此外,9400 针对 GenAI 功能进行了进一步优化。根据 IT 之家信息,9400 支持最新 LPDDR5X 的传输速率高达 10.7Gbps,性能比上代提升 25%,借助高速内存,AI 手机可以更快调用 AI 算力,让用户体验到更高性能和实时的 AI 体验。得益于更先进的 AI 性能,9400 将支持在设备端运行更大的 AI 模型,预计将超过天玑 9300 的 330 亿参数大语言模型。