高通AI白皮书：让AI触手可得

高通AI白皮书总结

摘要

生成式AI技术正迎来黄金时代，AI计算重心从云端向终端迁移，5G技术为AI在云端、边缘云和终端侧协同奠定基础。高通作为AI前沿科技的开拓者，致力于将高性能低功耗的AI计算能力带入终端设备，通过异构计算AI引擎，支持生态系统在跨多品类终端上开发并实现生成式AI用例、体验和领先产品，让智能计算无处不在。

生成式AI简介和当前趋势

ChatGPT等生成式AI应用引发产业界广泛探讨，生成式AI将带来生产力提升。大模型技术日新月异，商业化应用步伐加快，生成式AI走向终端成为不可逆转的趋势。智能终端的新应用、新形态、新场景为AI技术普及提供广阔空间。

混合AI对生成式AI规模化扩展至关重要

拥有数十亿参数的生成式AI模型对计算基础设施提出极高需求，混合AI架构在云端和边缘终端之间分配并协调AI工作负载，实现更强大、更高效且高度优化的AI。混合AI架构或仅在终端侧运行AI，能够在全球范围带来成本、能耗、性能、隐私、安全和个性化优势。

终端侧AI的演进与生成式AI的需求密切相关

AI处理重心正在向边缘转移，终端侧AI能力是赋能混合AI并让生成式AI实现全球规模化扩展的关键。性能十分强大的生成式AI模型正在变小，同时终端侧处理能力正在持续提升，数量可观的生成式AI模型可从云端分流到终端上运行。

跨终端品类的生成式AI关键用例

基于基础模型的生成式AI迅速兴起，正在驱动新一轮内容生成、搜索和生产力相关用例的发展，覆盖包括智能手机、笔记本电脑和PC、汽车、XR以及物联网等终端品类。混合AI架构将赋能生成式AI在上述这些终端领域提供全新的增强用户体验。

高通在推动混合AI规模化扩展方面独具优势

高通技术公司作为终端侧AI领导者，面向数十亿手机、汽车、XR头显与眼镜、PC和物联网等边缘终端提供行业领先的硬件和软件解决方案，对推动混合AI规模化扩展独具优势。高通的硬件解决方案具有行业领先的能效，持续的AI研发投入是产品领导力的基础。

高通AI引擎：面向生成式AI的业界领先异构计算

高通AI引擎包含多个硬件和软件组件，以加速骁龙和高通平台上的终端侧AI。高通AI引擎具有业界最领先的异构计算架构，包括Hexagon NPU、Adreno GPU、高通Kryo或高通Oryon CPU、高通传感器中枢和内存子系统，所有硬件都经过精心设计以实现协同工作，在终端侧快速高效地运行AI应用。

骁龙平台领先的AI性能

实现领先性能需要卓越的硬件和软件。尽管每秒万亿次运算（TOPS）数值能够反映硬件性能潜力，但决定硬件可访问性和总体利用率的是软件。AI基准测试可以更好的展示性能，但最终的评估方式还是在实际应用中，测试峰值性能、持续稳定性能和能效。

通过高通软件栈访问AI处理器

仅有优秀的AI硬件还不够。让开发者能够获取基于异构计算的AI加速，对于终端侧AI的规模化扩展至关重要。高通AI软件栈将我们的互补性AI软件产品整合在统一的解决方案中，OEM厂商和开发者可在高通的产品上创建、优化和部署AI应用，充分利用高通AI引擎性能，让AI开发者创建一次AI模型，即可跨不同产品部署。

总结

混合AI势不可挡。生成式AI用例将持续演进并成为主流体验，云端和其基础设施需求将不断增加。凭借终端侧AI的先进能力，混合AI架构将规模化扩展，以满足企业和消费者的需求，带来成本、能耗、性能、隐私、安全和个性化的优势。云端和终端将协同工作，依托强大、高效且高度优化的AI能力打造下一代用户体验。