波司登集团基于阿里云 SelectDB OLAP 分析平台的优化升级
公司简介
波司登创立于1976年,专注羽绒服制造领域48年,产品畅销全球72个国家。2023年实现全年营收232.14亿,同比增长38.4%。波司登秉持“用户至上,开放创新”的价值观,在数据领域积极投入。
业务背景
波司登在数字化转型过程中面临诸多挑战,现有数字化工具难以满足个性化需求。作为强业务型公司,业务主导性强,但羽绒服销售旺季短暂(四个月),业务部门需求需无条件满足,数字化建设更为困难。公司决心逐步淘汰旧有产品,向开源组件靠拢,提升效率并降低成本。数字化转型分为三个阶段:
- 2015年~2018年:以SAP框架为基础建立经营分析系统
- 2018年~2023年:全面构建数仓,完成架构变更和层级建设转型
- 2023年~未来:未来3年完成新一代大数据平台和数仓升级建设
转型期架构介绍
当前架构存在存储资源浪费、数据冗余度高、运维复杂、性能瓶颈、弹性能力差等问题。业务数据通过PG、Dataphin、Kafka、Flink、MaxCompute、FineReport等系统流转,数据中台未能有效发挥价值。
基于阿里云 SelectDB 的数仓升级方案
波司登进行POC测试,验证SelectDB在多场景负载下的性能和稳定性:
- 中小查询:QPS 2000,平均响应20ms
- 大查询:10并发下平均响应30秒
- 拖拉拽:5并发下最长5分钟返回
- 大数据下载:2GB数据下载耗时43.8秒
- 混合负载:日常报表场景不受影响
- 长稳:持续9小时,中小查询QPS达2000以上,集群稳定无宕机
基于SelectDB的实时数仓迁移方案:
- 迁移策略:按兼容度递减、业务重要性递增依次收敛数据库,迁移前准备回滚方案
- 部署验证:产品化一键购买部署,数据链路和应用层访问验证
- 数据模型迁移:x2doris、catalog、dataphin,存量数据迁移
- 数据同步:Kafka/Flink数据接入,建立数据同步
- 应用层切换:按报表优先级迁移Doris/SR、PG等
架构核心收益和效果
- 统一技术栈:Doris、SR、PG、其他库统一为Doris
- 目标端统一:减少流量费用,消除数据冗余
- 资源共享:共享存储资源,数据灵活调用
- 统一调度:统一任务调度,数据底座和存储格式
- 收益量化:
- 节省29.58%存储成本
- 下降61.53%流量费用
- 减少30%资源消耗
- 节省36%运维成本
资源隔离和查询性能稳定性
- 资源完全隔离:根据业务需求实现软隔离和硬隔离
- 查询性能和稳定性:基于SelectDB的数仓架构提升性能和稳定性,双十一期间指标稳定运行
未来优化和展望
- 替换自建Doris可观测平台底座,释放运维成本
- 统一架构,借助arrow flight sql功能提升数据传输效率
- 推进AI for BI场景,提升数据分析能力