数据治理方法论

数据治理中心 数据治理方法论 文档版本01 发布日期2022-07-15 华为技术有限公司 版权所有©华为技术有限公司2022。保留一切权利。 非经本公司书面许可，任何单位和个人不得擅自摘抄、复制本文档内容的部分或全部，并不得以任何形式传播。 商标声明 和其他华为商标均为华为技术有限公司的商标。 本文档提及的其他所有商标或注册商标，由各自的所有人拥有。 注意 您购买的产品、服务或特性等应受华为公司商业合同和条款的约束，本文档中描述的全部或部分产品、服务或特性可能不在您的购买或使用范围之内。除非合同另有约定，华为公司对本文档内容不做任何明示或暗示的声明或保证。 由于产品版本升级或其他原因，本文档内容会不定期进行更新。除非另有约定，本文档仅作为使用指导，本文档中的所有陈述、信息和建议不构成任何明示或暗示的担保。 目录 1目的1 2面向的读者2 3数据治理框架3 3.1数据治理框架3 3.2数据治理模块域3 3.3数据治理各模块域之间的关系4 4数据治理组织架构7 4.1数据治理组织架构框架7 4.2数据治理组织职责7 5数据治理度量评估体系10 5.1数据治理实施方法论10 5.2数据治理度量维度11 5.3数据治理度量评分规则11 6华为数据治理案例13 6.1华为数据治理思考13 6.2华为数据治理实践14 6.3华为数据治理效果15 7新冠疫情数据治理思考16 8DAYU方法论产品落地17 1目的 数据是企业核心资产，企业需要建立起数据字典，有效管理其日益重要的数据和信息资源；同时建立数据持续改进机制，来不断提升数据质量。数据的价值和风险应被有效管理，以支撑企业管理简化、业务流集成、运营效率提升和经营结果的真实呈现。数据准确是科学决策的基础，数据架构和标准的统一是全流程高效运作、语言一致的前提。 当前企业数据面临很多的问题：没有统一的数据标准，各业务系统间数据无法充分共享，关键核心数据无法识别及跨系统无法拉通等。为有效管理企业数据资产，实现数据价值的最大化，急需建立一个完善的数据治理框架体系，为企业数字化转型打下坚实的数据基础。 对于华为数据使能服务DAYU，DAYU数据治理方法论是华为数据管理方法论的精华总结，参考了业界数据治理最佳实践，并结合华为数字化转型成功经验优化而成。本文旨在帮助客户持续完善数据管理体系，沿企业主业务流打通信息链和数据流，提升数据质量，实现数据“清洁”，以支撑运营效率提升和经营结果的真实呈现，实现智慧数据驱动有效增长，充分实现数据资产价值。 本文先概要介绍了数据治理框架、数据治理组织架构和数据治理度量评估体系，然后结合华为数据治理案例和新冠疫情简单描述了数据治理的应用，最后描述了DAYU方法论在DataArtsStudio产品上的落地以及详细的落地指导文档。 2面向的读者 本文面向的读者包括：企事业各级管理人员、参与数据工作的相关人员、工具平台开发维护的相关人员等。 3数据治理框架 3.1数据治理框架 数据治理框架制定如下：图3-1数据治理框架 3.2数据治理模块域 数据治理主要专注于如下模块域： ●数据集成 数据集成用来完成数据入湖动作，不是简单的数据搬家，而是按照一定的方法论进行数据备份。数据入湖的前提条件是满足6项数据标准，包括：明确数据Owner、发布数据标准、定义数据密级、明确数据源、数据质量评估、元数据注册。此标准由数据代表在入湖前完成梳理并在数据治理平台上进行资产注册。 ●数据标准 数据标准管理着重建立统一的数据语言，L1到L5数据层级业务对象的定义是数据标准的载体，并对应发布包括L1到L5数据层级的数据标准。各业务对象对应物理 实现的IT系统需发布相应的数据字典并进行数据源认证。而对于梳理出来，但没有落IT系统的业务对象，需在后继的开发中进行数字化落地。 ●数据开发 数据开发是编排、调度和运维的中心，数据开发是一个提供分析、设计、实施、部署及维护一站式数据解决方案，完成数据加工、转换和质量提升等。数据开发屏蔽了各种数据存储的差异，一站式满足从数据集成、数据清洗/转换、数据质量监控等全流程的数据处理，是数据治理实施的主战场。 ●数据质量 数据质量管理的目标在于保证数据满足使用的要求。数据标准是衡量数据质量最基本的基准。数据质量要求各业务部门对相应数据领域的数据质量全权负责，按业务需求设计数据质量标准，制定数据质量管控目标，并遵循企业数据治理要求进行数据质量度量，制定符合各自业务情况的数据质量政策及数据质量相关的改进计划，持续进行数据质量管控。 ●数据资产 数据资产包括业务资产、技术资产、指标资产等。数据资产管理是数据治理的重要支撑手段，核心是构建企业级的元数据管理中心、建立数据资产目录、建立数据搜索引擎、实现数据血缘和数据全景可视。其中元数据包括业务元数据、技术元数据和操作元数据，要求将企业所有概念数据模型、逻辑数据模型以及物理数据模型系统化地管理起来，同时建设企业数据地图及数据血缘关系，为数据调用、数据服务、数据运营及运维提供强有力的信息支撑。 ●数据服务 数据服务通过在整个企业范围统一数据服务设计和实现的规范并进行数据服务生命周期管理，集约管理数据服务并减少数据调用和集成的开发成本。 ●数据安全 由于企业使用的数据资源，既有来自于内部业务系统，所有权属于企业的数据，同时也有来自外部的数据，必须将数据安全纳入数据治理的范畴，对所有企业数据要求依据数据安全等级定义进行数据安全定级，在数据产生、传输、存储和使用的过程中进行必要的数据安全访问控制，同时对数据相应的CRUD活动均需产生日志以完成安全审计。 ●主数据 主数据管理是数据标准落地和提升数据质量的重要手段，是企业级数据治理的重要范畴，其目标在于保证在企业范围内重要业务实体数据的一致(定义和实际物理数据的一致)。主数据管理首先进行企业主数据的识别，然后对已识别主数据按照主数据规范要求进行数据治理和IT改造，以支撑企业业务流和工具链的打通和串联。 ●管理中心 数据治理的开展离不开组织、流程和政策的建设，管理中心也管理着数据治理过程中公共核心的统一数据源、数据驾驶舱等，满足不同角色的用户拥有个性化的工作台。 3.3数据治理各模块域之间的关系 数据治理主要模块域之间的关系如下图所示： 图3-2数据治理各模块之间的关系 ●数据标准为数据开发和设计工作提供核心参考，同时也通过数据开发实现数据标准化落地。数据标准为数据应用提供“一致的语言”；数据标准为主数据管理提 供主数据定义的基准，数据标准也是数据质量管理策略设计、数据质量规则制定的核心依据；数据标准所定义的密级分类和责任主体，为数据安全管理提供依据；数据标准也是数据资产管理重要输入。 ●主数据管理通过数据开发实现核心数据的一致性地记录、更新和维护，是数据质量提升的重要手段。主数据管理保障了数据应用和运营过程中核心数据的存在和一致性。 ●数据质量管理是数据应用和运营过程中数据准确性、一致性、完整性、及时性、唯一性、有效性的重要保障，是数据业务价值创造的重要前提。 ●数据资产管理模块完成元数据的采集和注册，数据资产管理为数据应用和数据消费提供了解数据的窗口。 ●数据服务管控实现在数据服务开发过程中服务标准、规范、要求和管理的落实，数据服务打通数据应用和数据消费的物理通道。 ●数据安全在数据开发过程中完成数据安全的IT实现，以达成数据应用过程中安全管理规范的要求。 以上工作的有效开展，离不开组织管理、明确的责任人、考核体系、流程制度、数据治理政策和数据治理平台的支撑。 图3-3DataArtsStudio各模块之间的示意图 DataArtsStudio平台提供了上述各个功能模块，满足数据接入、数据建模、标准化、质量监控、数据服务等全流程的数据管理动作。 4数据治理组织架构 4.1数据治理组织架构框架 数据治理可以采用集中化（全时投入）和虚拟化（部分投入）混合的组织模式。结合具备专业技能的专职数据治理人员和熟悉业务和IT系统的已有人员，在运作上实现数据治理团队的快速构建和能力导入，捆绑业务、IT开发和数据团队并利用已有人员熟悉度快速切入重点工作。 在工作内容和责任上具体到三层的工作组织：图4-1数据治理工作组织 4.2数据治理组织职责 在战略层面，由数据治理Sponsor和各部门负责人组成的数据治理领导组制定数据治理的战略方向，以构建数据文化和氛围为纲，整体负责数据治理工作的开展、政策的推广和执行，并作为数据治理问题的最终决策组织解决争议，监控和监督数据治理工作 的绩效，并确保数据治理工作预算支持。 数据治理委员会和各领域数据治理工作组是数据治理战略在运作层面具体的实施团队。其中： ●数据治理委员会：由数据治理负责人、数据治理专家和数据架构专家团组成，面向企业进行数据治理工作的统筹并提供工作指导，在整个企业范围定期沟通数据治理工作，形成数据质量精细化管控文化。根据数据治理领导组的愿景和长期目 标，建立和管理数据治理流程、阶段目标和计划，设计和维护数据治理方法、总则、工具和平台，协助各数据领域工作组实施数据治理工作，对整体数据治理工作进行度量和汇报，并对跨领域的数据治理问题和争议进行解决和决策。 ●各领域数据治理工作组：在各领域数据范围内进行数据治理的工作，依据数据治理委员会制定的数据治理方法和总则，制定本领域数据治理目标和工作计划，负责领域数据资产的看护，维护更新相应数据标准和及相关元数据，设计本领域数 据度量和规则，监控收集数据质量问题并持续改进提升，主动升级数据相关问题。最终完成领域内数据资产的看护，并支撑数据治理目标的达成。 领域数据治理工作组由数据Owner、数据代表、数据管家、数据专员和数据架构师组成。其中： ●数据Owner(DataOwners)：数据Owner是领域数据治理工作的责任人。 –制定本领域数据治理的目标，工作计划和执行优先级。 –建立数据治理责任机制，将本领域的数据治理工作分解到工作组成员,并跟进及管理工作组工作。 –设计数据质量规格，承接数据需求，对数据问题及争议进行裁决。 –建设和维护本领域信息架构。 –建立和推动领域数据文化和氛围。 ●数据代表(DataRepresentatives)：数据代表是领域数据治理工作的专家带头人。 –深刻理解数据工作的目标、方法、规则、工具，并通过识别关键业务流程和IT系统，对本领域数据治理的路标和工作计划进行细化并排序，最终管理执行。 –作为本领域数据治理专家，管理并解决问题和争议，必要时提交数据Owner进行裁决。 –对业务环节数据的完整性、及时性、准确性、一致性、唯一性、有效性负责，确保行为即记录，记录即数据，并依据数据质量规格对本领域数据进行度量和报告。 –落实本领域信息架构的建设和遵从，负责本领域数据资产的看护，维护相应数据标准和数据目录并更新发布。 –承接上下游数据需求，并主动根据领域内应用场景和业务需求识别数据需求，对需求的实现进行推动和管理。 –依据相关规定定义本领域数据安全等级，并进行数据授权管理。 ●数据管家(DataStewards)：数据管家是领域数据治理工作的协助者。 –确保领域治理工作的流程和内容规范，符合数据治理要求。 –协助数据代表进行问题跟踪和解决。 –梳理、维护并更新领域数据元数据（业务对象、数据标准、数据模型）。 –推广和维护数据治理工具和平台在本领域的应用。 ●数据专员(DataSpecialists)：数据专员是领域数据治理工作的专家团队。基于本领域数据治理的工作计划，利用数据专项技能，支撑数据代表完成数据Owner分配的各类数据治理工作。 ●数据架构师(DataArchitects)：数据架构师是领域数据治理工作在IT层面的代表。 –开发和维护本领域的数据系统或子系统，确保数据在系统中得以记录，数据标准、数据质量规则、数据安全、主/参考数据管理、数据