02-斗鱼高并发架构实践-李奇

直播流高并发架构实践总结

直播流介绍

• 性能指标：请求成功率4个9，响应耗时10ms，首屏时间要求高
• 业务特点：TPS 40w+，大主播首映，流质量不稳定
• 业务核心：故障等级P0，响应异常零容忍，SLA要求4个9

架构实践

微服务化

• 实施原因：快速扩容、模块隔离、技术异构
• 架构设计：包含网关、核心服务、日志库等模块
• 监控体系：建立监控中心、配置中心、性能诊断工具
• 性能优化：通过全链路压测（流量染色、数据隔离、风险熔断）优化网关缓存、核心服务性能、日志库性能
• 日志优化：实施日志性能优化策略

直播流秒开

• 实施原因：优化首屏时间、降低卡顿率、减少失败率
• 架构设计：采用天枢系统全链路监控，分层次（客户端缓存、服务端缓存）和分等级（头部主播重点缓存、长尾主播过期缓存）优化
• 客户端缓存：预埋流地址、HttpDNS预加载
• 服务端缓存：动静缓存（配置数据、黑白名单；开播信息、房间信息）、数据代理（数据标签、版本、预编码、分片）
• 首帧时间优化：精简字段（fieldmask按需索取）

多云多活

• 实施原因：多云容灾、解决容量瓶颈、同城多活
• 架构设计：实现中央注册中心、专线/公网访问切换
• 强弱依赖分析：明确服务依赖关系
• 故障演练：进行多轮故障演练验证架构

总结与规划

• 核心方法：测量评估优化
• 实施效果：通过全链路优化和多云多活架构显著提升系统性能和可靠性