华为Atlas 300T训练卡(型号9000)技术白皮书总结
1. 概述
华为Atlas 300T训练卡(型号9000)是一款为数据中心提供强劲算力的AI加速卡,单卡最高提供220 TFLOPS FP16算力,适用于互联网、运营商、金融等AI训练及高性能计算领域。该卡具有超强算力、高度集成、高速带宽等特点。
2. 产品特点
2.1 性能特点
- 高度集成:AI算力、通用算力、I/O能力三合一,集成30个达芬奇AI Core、16个TaiShan核及1个100GE RoCE v2网卡。
- 超强算力:内置30个达芬奇AI Core,提供220 TFLOPS FP16算力。
- 高速带宽:支持PCIe 4.0和100G RoCE接口,总出口带宽56.5 Gb/s,无需外置网卡,提升训练数据和梯度同步效率10%~70%。
2.2 可维护性特点
- 支持带内在线升级功能。
- 支持带内及带外获取设备状态信息(温度、电压、功耗等)。
- 提供完备的命令行管理功能。
- 支持带内及带外资产管理功能。
2.3 典型使用场景
主要应用于AI训练和人机交互操作,涉及系统管理员、生产装备人员、算法工程师等角色。
3. 基本规格
- 基本规格:具体参数见表格3-1。
- 环境条件:硬件应用环境条件见表格3-2。
- 时钟要求:遵从标准PCIe 4.0协议。
- 热插拔:不支持通知式热插拔和暴力热插拔。
- 电源管理:最大功耗300W,要求对应槽位提供5.5A@12V及0.5A@3.3V供电,辅助电源连接器提供18.75A@12V。
- 散热规格:
- 散热要求:用于带风扇的主动散热环境,支持双向进风出风,建议风量5.0CFM以上。
- 温度监控:支持带内及带外监控Ascend 910、存储芯片温度,工作温度范围5℃~45℃。
4. 硬件兼容性
- 支持华为Atlas 800推理服务器(型号:3000、3010)。
- 支持第三方服务器,详细信息可查询昇腾兼容性认证服务器目录。
5. 管理功能
5.1 带内管理
- 在线升级功能。
- 设备管理功能。
- 命令行管理功能。
- 资产管理功能。
5.2 带外管理
- 通过iBMC提供带外管理功能,包括资产信息、温度、电压、功耗及芯片监控状态等信息。
- iBMC可接管对应告警信息。
6. 通过认证
具体认证信息未详细列出。
7. 维保
详细信息请参见《维保与保修信息》。