智算服务是发挥极致集群算力的关键要素,其包含智算集成、运维、计算使能和优化、辅助运营等方面。智算中心建设面临规划与建设、运维、运营与优化等挑战,需要构建智算服务产业共识,持续推进智算服务产业升维。
智算服务架构总体分为三类:基础设施类服务,模型支持和行业应用类服务。
基础设施类服务包含业务咨询,规划设计,实施建设,运维服务以及运营优化等;模型支持类服务包含模型选择,数据治理,模型迁移,模型调优以及模型运营等;行业应用类服务包含通信、互联网、政府和公共事业,金融,教育、医疗等行业的智算应用。
案例集中展示了多个智算服务案例,包括:
- 基础设施类服务案例:中讯院全流程支撑广东联通深圳智算中心高效交付、联通河北政务云智算中心利用数字化平台实现智能建造技术实践、L1&L2 联动节能在广东移动深圳宝观液冷数据中心的创新实践、广东电信韶关数据中心间接蒸发冷却技术应用、联合开发智算运维调度系统保证集群训练长稳高效。
- 模型支持和行业应用类服务案例:面向“一网协同”和“一网通办”场景的大模型应用、华为 ModelMate RAG+Agent 助力海关共启智能政务新篇章、面向智慧文旅场景的大模型应用-讯飞文旅大模型、AI 计算使能服务支撑基于昇腾算力的科研创新应用、大模型全面助力科学教育、AI 赋能全流程患者管理的医疗大模型应用、证券信创项目 AI 计算使能优化服务实践。
案例集中的关键数据和结论包括:
- 深圳智算中心提供 691Pflops 智能算力,中讯院探索了智算项目全流程集成交付的新模式。
- 联通河北政务云智算中心通过数字化平台实现智能建造,安全管理智能化、质量管理精细化、进度管理可控化、造价管控网络化、施工管理绿色化。
- 广东移动深圳宝观液冷数据中心通过 L1&L2 联动节能平台,实现能耗降低 10%。
- 广东电信韶关数据中心采用间接蒸发冷却技术应用,PUE 值小于或等于 1.25,相比同地域平均 PUE为 1.45 的数据中心,一年省电 2593 万度。
- 飞星一号集群基础设施零重大故障,计算设备集群性能从30%提升到 95%,NPU 月均利用率平均可达 95%以上,算力可用度 98%以上。
- 讯飞“政务智能体”打造了 AI 咨询导办助理、AI 导服助理、AI 预检助理、AI 综窗助理、AI 惠企助理等系列政务数字人,构建政务服务“主动式、智能化”新范式。
- 讯飞文旅大模型在利川文旅平台构建覆盖 GBC 三端 25 个场景的全链条服务体系,平台注册用户超 4 万人,经营流水超 1300 万元。
- D 大学智算中心支撑平台课题组用户 87 个,已覆盖计算机、网安、生科、集成电路、信息等 22 个学院,算力资源平均使用率在 85%以上。
- “智医随行”大模型已在普外科、骨科、血液内科、神经外科、心血管内科、肿瘤科等重点专科形成重要助力,覆盖肝切除术后、腰椎间盘突出、膝关节骨关节炎、造血干细胞移植、颅脑外伤、高血压、冠心病及肺部肿瘤等 9 类专病。
- Z 证券公司项目共部署与迁移 17 个模型,牵引了迁移设备扩容,项目整体性能达到预期。