一、DataOps概述
DataOps是数据开发的新范式,将敏捷、精益等理念融入数据开发过程,通过重新组织数据相关人员、工具和流程,打破协作壁垒,构建集开发、治理、运营于一体的自动化数据流水线,不断提高数据产品交付效率与质量。
DataOps的构建目标包括:
- 敏捷:形成敏捷数据产品开发流程,通过自动化实现快速、可靠和高效的数据交付,并利用自服务方式满足数据需求。
- 高效:构建高效的跨域协同机制,通过组建跨职能的复合型团队,更深入地了解业务需求和痛点,更灵活地选择系统架构和技术栈,更高效地沟通协作。
- 标准:打造研发治理一体化流水线,将数据治理工作前置,打造自动化测试流水线,持续发现、处理数据质量问题,并实时监控数据流水线的运行状态。
- 健康:建立精细化的数据运营体系,通过不断引入自动化、智能化技术工具提升工作效率、质量及价值密度,并基于数据全链路可观测能力,降低企业的数据运营成本。
二、DataOps能力标准与实践
DataOps能力模型围绕数据开发流水线,形成“4+3”的能力体系框架,包括4项研运能力和3项保障能力。
- 4项研运能力:数据研发管理、数据交付管理、数据运维管理、价值运营,确保数据产品高效生产与持续优化。
- 3项保障能力:技术工具、组织管理、数据安全风险管理,为研运流水线平滑运转提供保障。
数据研发管理包括数据需求管理、模型设计管理、数据开发管理和自助服务,企业通过流程重构、技术优化和跨团队协同,显著提升数据开发效率与质量。
数据交付管理包括配置管理、数据测试管理、数据部署与发布管理,企业通过自动化测试和交付流水线,加强数据与代码的版本和质量管理,提升数据产品交付的自动化水平,加快交付速度,提高交付质量。
数据运维包括监控管理、资源管理、变更管理、异常管理、持续优化,企业基于全链路数据可观测能力,及时发现并反馈全局数据工作的效能、资源、质量、成本等方面的问题,进而不断优化数据开发全流程。
价值运营包括数据成本管理、持续变革、量化驱动,企业基于量化指标对数据开发工作的成本进行精细化管理,驱动经营管理、开发流程和技术工具持续优化,形成“以数治数,持续革新”的闭环运营。
技术工具包括数据需求管理平台、数据研发治理一体化平台、数据自动化交付部署平台、数据一体化运维平台,为企业的一体化数据研发治理能力提供强有力的技术支撑。
组织管理包括组织架构管理、岗位角色管理、协作协同管理,通过重构组织架构、岗位角色及协同机制配合DataOps流水线运行,打破传统职能壁垒,提升资源配置效率、团队协作效能及整体数据文化。
数据安全风险管理包括数据安全风险策略、数据风险管理、数据安全测试,通过健全风险管理策略,结合外部法律法规、监管要求与企业内部安全需求,并不断更新完善,主动对数据研发过程的各环节进行安全测试,提前发现问题、处理问题。
三、DataOps实践路径
企业处于不同的发展阶段,DataOps实践的基本路径不同,包括战略文化、组织职能、流程驱动、平台建设、持续优化等方面。
- 数据即资源:企业具有一定的数据能力建设基础,但仅将数据作为资源进行管理,并未将其价值进行充分释放。
- 数据即产品:企业具有较为扎实的数据能力建设基础,能够以用户需求为中心,建设数据应用,打造数据产品。
- 数据即文化:企业已在组织内部形成浓郁的数据文化,并具备业界领先的数据能力,超前探索前沿技术和方法论,不断通过数据驱动业务发展。
四、AI-Ready DataOps应运而生
AI-Ready DataOps也称“人工智能数据工程”,是指通过融合DataOps理念,面向人工智能场景进行高效、高质量、安全的数据供给,打造高质量数据集。
AI-Ready DataOps能力参考框架覆盖从数据供给到多端消费的全链路,包括研发阶段、交付阶段、运维阶段和运营阶段。
- 研发阶段:以开发“AI训练所需”的数据为目标,构建数据研发治理一体化流程,包括需求管理、设计管理及数据加工。
- 交付阶段:将研发好的数据安全、合规、高质量地供给给下游应用,包括测试管理和数据集发布。
- 运维阶段:以保障数据在使用过程中的高可用性、流程运转的稳定与高效性为目标,构建持续监控与动态管理的运维体系,包括监控管理和资源管理。
- 运营阶段:以最大化发挥数据价值、高效利用组织资源,并持续优化数据服务为目标,包括数据集管理、成本管理及持续优化。
AI-Ready DataOps实践探索提出高质量数据集建设的五步法:数据管理应用现状盘点、规范体系与技术体系建设、数据集研发、数据集管理、全链路运营。
五、展望
- 打造全域数据工程体系:DataOps将向全域数据工程演进,实现结构化与非结构化数据、AI与BI场景的深度融合,构建统一的数据治理框架,使多模态数据能够在分析、训练、决策等不同场景间高效流动。
- DataSecOps⸺数据安全与运营的深度协同:DataSecOps将成为未来数据安全治理的关键范式,将安全能力无缝嵌入数据开发、运营和管理的各个环节,实现“操作即可信”的目标。
- AI-Native DataOps⸺迈向自治化数据管理:DataOps将进入自治化时代,AI成为驱动数据管理决策的核心引擎,未来的数据系统将具备自优化、自修复和自适应的能力,重塑企业数据生产力的形态。