Gdevops 全球敏GlobalDe捷vOpsSummit运维峰会 新东方基于FinOps的运维一体化 安全数据研发平台建设 演讲人:钟仕骏 个人介绍 钟仕骏新东方教育科技集团 运维研发高级经理 首师大毕业,现就职于新东方教育,曾就职于搜狐,快手。搜狐大厦资深 老烟民,曾在搜狗、搜狐视频移动端NO工作过,负责运维及后台数据研发 快手第一位SRE,曾负责快手「所有」运维基础化建设,规划并参与了2020 年春晚红包项目。现任新东方教育运维研发高级经理,负责企业基础架构标准化体系研究、自动化平台研发等 Gdevops全球敏捷运维峰会北京站 目录 01FinOps平台初期问题 数据和安全建设 03成本中心一体化 04经验沉淀 Gdevops全球敏捷运维峰会北京站 01 FinOps平台的建立 仅供学习不 初期困境 Gdevops全球敏捷运维峰会北京站 面临的困境:急需成本一体化平台集成,解决孤岛效应 blus AiOps 0203 烟窗效应数据孤岛组织熵增 性化的逻值音署IT系统,目独立采新业务新市场的拓展过程中各内部各个平台功能单,化,平台与平 购建设,导致内部亲统非内林立, 很难做到据互联互道 新数据无法与原有的数赔互逆,加免了数据卫鸟的问题 常提乱,避看企业核心业增长带车了效半假下的问题 Gdevops全球敏捷运维峰会北京站 问题1:哪些独立功能需要集成? 资源申请 信息检索 流程操 成本控制数据安全 Gdevops全球敏捷运维峰会北京站 高效稳定 问题2:集成后如何方便地进行资源的成本分摊? 资源获取资源位置资源类型项目节点 TIDBSOL变更电请 SQL变更申调 集群电酒 +//85 ELK流水线申清P(B事 SE.SGT.Sr ketMQ集群申请 API同步公有云 实时计算任务申请 oBtH Source表查询中请 Gdevops全球敏捷运维峰会北京站 解决办法服务树 鲁集团业务线管项日集成项日长宜用 ·@普集区 小共事按务 集团人物系统 一级-集团更品喜户服务 结构顶层,根节点 业务线 二级-业务线 P2- 各大机构、组织业务P2-1服务 teP2-1 三级-项目集&P2226 同类项目集合 项目集 eP4-上↑ 四级-项目④暨企业学习 各类研发立项 @品富网APP@0A么 品综会业务线 五级-应用应用①品核心业务 模块、APP组件等?品技水架构 Gdevops全球敏捷运维峰北京站 通过服务树关联集成业务功能 集团云化资源 业务线正线发布 项目集成本中心 项目数据平台 应用安全中心 Gdevops全球敏捷运维峰会北京站 集中授权 02 仅供学 数据和安全建设 大数据研发体系✁割裂与整合 关于DevSecOps✁一些CASE Gdevops全球敏捷运维峰会北京站 案例:实时计算平台大数据实时计算架构 Myset PolerDB ORACLE实时计算平台 集中式效培 全量数据初始化 data摄初化 增量数据分5tarRocks OCEANBASE mongoDB 发 SL江 量 实时仓 分布式故尼Xstr 业务数范 (Rsdtnedabarttore) kafka. Hw01/Spsrt50 Hive/Hudi 增量 EL3. Ambari YARN logstash HDFS 现点日志 业务日志 系统日志 K8S 1、自研实时计算开发平台二整在项日上正式推广使用大强弱基硅平台 2、实现实时数仓交互式分折引擎拒架统一标准化建设 Gdevops全球敏捷运维峰会北京站 案例:实时计算平台上下游通过流程串联 实时计算任务审格流程图 开发负责人开发负责人数据库管理员 开单国际游学、用户画像、续班分析、人财物分析等13D多个数据处理任务 案例:实时计算平台数据处理能力升级-实时数据研发平台 mogoDS CDhudi ICEBERGO gekafka APULSAR 建立自动化数据研发管理模型,由制裂变集成,通过数据驱动,将业务库表联动服务树,利用报警组机制将风险快速反馈至研发人员,推动研发改进分析模型,提升数据分折效率, 目前上线了16个业务线,130+个分析征务,累积提单5300+ 节省了30%以上✁跨平台人工调用,邮件数据传递成本。 Gd 安全项目驱动开发-部分项目展示 红监对抗救感数据检测APP合规闭环 务模板 托 地方校、机构客服生产环境不容忍、不产生、不传逆选 渗透划试安全心心CA认iF&KMS 5Q运权管理传 级各价 Gdevops全球敏捷运维峰会北京站 案例2:APP闭环检测系统流程 基于现有✁APP安全检测设各✁基础上,从管理和技术两个方面, 对于集团下属APP进行安全合规管理,从而减低APP✁安全风险, 设计/代PP开发APP安全格APPA皮用市场上停止运告 安全合证基队 安全评串 美安全队APP安全孕审 SOK志押 APFE 上载营权停上宝营价送 Gdevops全球敏捷运维峰会北京站 案例2:APP闭环检测系统DashBoard和详情页 Gdevops全球敏捷运维峰会北京站 案例3:CA认证中心 公私密钥对认证 优点:难于拷贝背通 缺点:仍可传递,且不常变 传统密码认证 优点:认证相对方便简单缺点:易于拷贝传递背诵 CA机构自签认证 优点:需要三方共同认证身份,传递无效 CA缺点:实现较复杂,业内实践少 Gdevops全球敏捷运维峰会北京站 案例3:CA认证流程图 Gdevops全球敏捷运维峰会北京站 案例3:CA认证中心实现安全登录 aba Gdevops全球敏捷运维峰会北京站 03 成本中心一体化 仅供学 将基建与云上资源与PaaS服务等内容 纳入成本管理 Gdevops全球敏捷运维峰会北京站 FinOpsFinOps定义了一系列云财务管理规则和最佳实践,通过助力工 程和财务团队、技术和业务团队彼此合作,进行数据驱动✁成 Framework 原则 本决策,使组织能够获得最大收益。 角色 成熟度 团队协作FinOps从业者x0阶段CrawlWalkRun 成本节省,人人有责 中心化团队驱动FinOps管理层 实时报表助力决策业务价值驱动决策 灵活利用云上成本模型 业务/产品免质人财务/采购 Inform Optimize 工程/运维Operate Com 能力 理解用量和成本绩效跟踪和展示实时决策费率优化用量优化组织支撑 Gdevops全球敏捷运维峰会北京站 云成本优化✁FinOps框架图 FinOps睡架压 多云是单管理要源总本优化分所多云预算管理 资票成本优化量议预算告置 基相平台 以否单儿为核心✁在代管理fab 云单元篇理(MDB云服务欢心监控 多云 与阿里云AAzure跨讯云 Gdevops全球敏捷运维峰会北京站 FinOps一体化平台组成 成本中心运维门户 预发账单财务报表FinOPS资源管理数据平台 服务树 预算管理安全中心 Gdevops全球敏捷运维峰会北京站 FinOps云成本优化业务组成 业务应用云课堂东方甄选比邻素养 成本数据API 成本中心运维门户 FinOps预发账单财务报表资源管理云化中请 系统 预算管理移课通数据平台安全中心 财年账单Paas管理 三方依赖 公有云APIvSphereOpenStackA SDKPI Gdevops全球敏捷运维峰会北京站 案例:项目月度账单报表 现金账单:企业实际支付✁费用,一般分为包月或按量计费 摊销账单:多租户用✁主机:按主机费用分摊到各业务线 Gdevops全球敏捷运维峰会北京站 案例:阿里云RDS报表 20250520230 *-)ERID: X.FE2SHRI,Ihels4 a.g-011a/ 292.5.0571 292>05-99-8 FEDTA2MSOLRRS sageB200) 9.5K2 P±(35: or-beline- BERA:LAR 9.496 248 bt Gdevops全球敏捷运维峰会北京站 案例:移课通报表账单 O202305 REZREE表 下 8.R240,RRSI08%+R%-B08%R0RES*Rr:8:18/ 135 ±$95E.333.00O.002623-05ds 4230 $4Fetic62304H 营32023-(6 当低三10 2t23-(6 0,00I: 2t23-8 NE95RR=2023-05= 675223-06 12033-06 *0.0)(t2)(s #181108/5 Gdevops全球敏捷运维峰会北京站 FinOps云成本闭环优化 iops 成本结果集观测付费合理性预测 基于降本节约性建议,优化付费方式,生基于IT账单,判断目前消费环节✁有效性, 成业务月账单现金成本✁结果集,实现成合理性,是否符合预期,是否存在超预算 本支出✁可观测性,作为预算参考。✁必要支出。 降本节约性建议 基于合理性预测,结合算法检直付费方式(RDS按月/按量、移课通套餐一/套餐二)在不影响业务✁前提下,选择更有助于优化成本✁付费方式 Gdevops全球敏捷运维峰会北京站 案例:业务线月度费用报表-费用预算和最终账单参考 新东方云T资源及服务·项目费用规计 新东方云管品地 老婷,您好! 严禁 期:2003年5月 便全单1月直实际温营支付量单! ktigif) Yz. SEDSR2VL=: JBE RE* Gdevops全球敏捷运维峰会北京站 案例:云实例规格配置管理 阿显云 ==R5.BA52 6N69181:$13E1+ Xv H 4CiSe.atdag a 4049gcxw roC>11G/ecaYLx SKS +* Gdevops全球敏捷运维峰会北京站 云实例规格,自定义配置优先级, 减少因人为配置余导致✁成本上升 案例:闲置率报表及成本黑名单 闲置资源✁三种处理方式: 退租、混部、迁移 用置程务器-OA等 项目负费人 电TERRRE Gdevops全球敏捷运维峰会北京站 优化步骤与成本考核 原因 目前每个月✁IT开销很高,阅置率统计和服告,刚开给与恨标需名单结合有收效,但后续成本曲线叉上去,效果不明显,高针对业务步定成本考核机电 成本分摊云资源盘活优化策路考核指标 闲资源进行混布迁多云实例规格优先级,阿里云追过对业务线成本考核方式成本分摊月账单,包括云服池化(池化后不再进行计费,RDS包年策略、移课通和短推动业务资源利用率提高, 务器、PaaS费用等代者退租),提高利用率,信套餐选择等情保ROI在较高水平 减少闲百 Gdevops全球敏捷运维峰会北京站 案例:年度IT各类费用趋势 IT资源费用 O-IT资源费用(元)-○一云外呼费用(元)一0一短信费用(元) 严禁商业用 2022-072022-102022-12022--12 2022 Gdevops全球敏捷运维峰会北京站 Q4 仅供学习不 经验沉淀 项目开发过程经验总结 Gdevops全球敏捷运维峰会北京站 降本增效✁经验:聚焦和成本控制 业务板块聚焦 精简申请流程 降本增效上云及容器化 闲置资源回收 超额资源审 1.分为降本(资金和时间成本)和增效两环节; 2.约整体降本30%,增效40%,加速投产 Gdevops全球敏捷运维峰会北京站 =202843 oss 技术提效思维 复制牛人经验,提高作战能力避免重复造轮子 核心模块抽象,高内聚低耦合提高抽象度,实现能力重用 架构微服务化,增加通用接利用网关接口路由 文档定期沉淀鼓励知文档库、技术公众号、大会 Gdevops全球敏捷运维峰会北京站 运维业务研发精进过程 沟通业务痛点明确需求方向方向统原则依据优先级了解现有资源确认优先级明确拆分依据阶段性产出熟悉运维流程确认需求难度需求分级拆解管理时间分片构建基本思路规划实现方计定文类别属性目标达成率 目标定义需求分析目标拆解阶段实现 Gdevops全球敏捷运维峰会北京站 Gdevops 全球敏GlobalDe捷vOpsSummit运维峰会 THANKYOU! 新东方