鲲鹏BoostKit分布式存储使能套件技术白皮书
方案概述
鲲鹏BoostKit分布式存储使能套件以鲲鹏硬件平台为底座,结合开源Ceph分布式存储软件,为客户提供块存储、文件存储、对象存储服务。方案依托鲲鹏硬件的自研处理器、网卡、SSD、管理芯片、AI芯片的全方位整体优势,实现高性能、开放生态的存储体验。
方案架构
方案架构主要由硬件平台、操作系统、中间件、分布式存储软件构成,当前分布式存储软件仅支持开源Ceph。
分布式存储集群架构
- Ceph存储集群: Ceph提供一个可无限伸缩的存储集群,基于RADOS(Reliable Autonomic Distributed Object Store),包含Ceph监视器和Ceph OSD守护进程两种类型的守护进程。Ceph存储集群通过CRUSH算法高效地计算数据位置,并支持多副本和Erasure Code两种数据一致性方案。
- 动态集群管理: Ceph通过CRUSH算法动态地将对象映射到归置组,再将归置组映射到OSD,实现数据的动态映射、重均衡和数据一致性维护。
方案优势
- 高性能: 依靠鲲鹏硬件平台的高性能计算能力,鲲鹏BoostKit分布式存储系统在业务性能方面具有显著优势,例如在数据压缩应用场景中,对比业界主流双路服务器,性能提升20%。
- 开放生态: 方案支持开源Ceph分布式存储系统和多种操作系统,例如Ubuntu、CentOS、openEuler等,为客户提供开放灵活的存储解决方案。
方案组网
方案组网示意图展示了鲲鹏BoostKit分布式存储系统的网络架构,包括服务器的连接方式、网络设备的配置等。
方案特性
- 块存储服务、文件存储服务、对象存储服务: 方案提供块存储、文件存储、对象存储服务,满足不同场景的存储需求。
- 公共特性: 包括Bcache、Journal、多副本、Erasure Code等公共特性,保证数据的高可靠性和安全性。
- IO直通特性: 通过规避数据落盘时的刷新缓存操作,提升数据读写效率。
- EC Turbo: 支持局部读写,有效解决条带读写过程中的读写放大问题,提升读写性能。
- 存储算法加速库: 华为自研的存储算法加速库,包括EC编解码算法、CRC16校验算法和CRC32校验算法,提升系统性能。
- 智能写Cache、压缩算法、数据压紧、智能预取、Ucache读缓存、元数据加速、存储维护工具库、SPDK框架支持KAE加速器、Ceph支持UCX RDMA网络、BoostIO分布式缓存加速、HDFS使能KAE&KSAL、Ceph支持SPDK IO加速、Ceph对象存储元数据缩减、FUSE内核态优化: 方案提供多种存储优化特性,提升存储系统的性能和效率。
特性清单
特性清单表格列出了鲲鹏BoostKit分布式存储使能套件的特性、子特性、特性描述、约束、软件包获取等信息。
典型配置
典型配置部分提供了全闪存、均衡型、冷存储等不同场景下的典型硬件配置方案。
软件兼容性
鲲鹏BoostKit分布式存储已兼容的软件清单请通过兼容性查询工具进行查询。
使用流程
使用流程图展示了使用鲲鹏BoostKit分布式存储使能套件的流程步骤。
参考资料
参考资料部分提供了Ceph官方网站的文档页面链接。