腾讯云异构计算澎湃智能算力,以AI触手可及为目标,集结国内外前沿芯片,搭载腾讯自研3.2T RDMA星脉网络,实现200G VPC内网传输及1TB/s读写带宽、千万级IOPS的GooseFS/CFS Turbo超高性能存储,打破计算、网络、存储性能“木桶”效应,突破算力瓶颈。软件层面,通过高性能应用服务HAI、推理集群、TACO训推加速套件,实现训推提速80%。实例丰富度全球领先,云上充沛算力随取随用,打造极致性能与性价比,引领云智算新纪元。
产品介绍
腾讯云高性能计算集群(HCC)以高性能云服务器为节点,通过RDMA互联,提供高带宽和极低延迟的网络服务,满足大规模高性能计算、人工智能、大数据推荐等应用的并行计算需求。
核心优势
- 全景矩阵图:计算、存储、网络并驾齐驱,规避单模块“木桶”效应,充分释放GPU算力,借助云原生智算服务实现极致降本。
- 产品框架图:包括编排调度层(分布式云Serverless、容器服务TKE)、框架层(机器学习平台、高性能应用服务HAI)、软件定义层、基础设施层(星脉网络RDMA、星星海服务器自研智能网卡)。
- 应用场景:AI计算、AIGC大模型训练与推理、搜索、广告、推荐、自然语言处理等。
产品方案
- “零”改造适配:轻松接入,业务代码无侵入,框架独家优化,软硬协同,针对腾讯云硬件定制适配。
- 训练一键部署:支持主流A1框架、训练作业模板。
- 推理混布调度:充分利用闲置训练集群资源。
- 网络故障无感知:基于SDHD实现硬件故障隔离。
- 5%超细粒度切分:支持qGPU对单卡进行算力隔离。
- 云原生一致体验:提供云上网络、存储、镜像。
产品优势
- 极致性能:海量算力无损释放,灵活取用。
- 高性价比:稳定,低门槛,助力中小企业及开发者快速部署LLM、AI作画、数据科学等应用。
- 易上手:原生集成配套开发工具与组件,大幅提高应用层开发效率。
高性能应用服务HAI
- 性能优势:高性价比,稳定,低门槛,提供多种GPU卡型与常见环境。
- 应用场景:智能客服、医疗问诊、金融风控、工业质检、电商推荐、语音交互、教育测评、法律咨询等。
- 客户痛点:AI部署经验不足,无法统一管理所有实例的生命周期,学员基础弱,需要可视化操作界面进行课程学习。
- 最佳实践:节省约80%的时间和资源,预计年度成本减少约40%,节省约30%的运维时间成本,提供可视化交互界面。
客户案例
- 助力医疗-大模型agent客户落地:基于自研推理引擎、共享KVCache、P2P模型加载等技术助力推理加速,支持TEE技术确保模型和数据安全。
研究结论
- 性能领先:腾讯云智算位列产品性能全球第一,未来潜力亚太第一。
- 产品创新:腾讯云智算产品创新指数排名第一。
- 行业认可:腾讯云智算入围《信息技术 算力服务 能力成熟度评估模型》,高性能计算集群HCC首批通过认证,获得增强级(最高级)。
- 市场覆盖:智算服务与资源遍布全球21个国家,58个可用区,支持本地部署,覆盖15+个行业,已服务100,000+客户,90%国内头部大模型厂商的首选智算底座。
总结
腾讯云异构计算澎湃智能算力通过软硬件协同,打破算力瓶颈,实现极致性能与性价比,引领云智算新纪元。其产品方案全面适配各类AI应用场景,助力企业实现智能化升级,获得行业高度认可和市场广泛覆盖。