大数据平台数据治理与建设方案.pptx

大数据平台数据治理与建设方案

第一部分 数据治理概述

数据治理意义、作用和价值意义?是构建完善、共享、统一管理数据环境的基本保障和重要组成部分?是把数据作为资产来管理的有效手段作用?确定了一系列岗位角色和相应的责任及管理流程?保证了业务数据在采集、集中、转换、存储、应用整个过程中的完整性、准确性、一致性和时效性价值?企业进行数据治理的最大驱动力来自数据质量，通过提高数据质量实现更多的业务价值?将实现业务目标作为数据管理和服务的核心驱动力，优化数据架构，提升数据仓库/信息化管理系统建设，支持管理能力的提高、精细化和决策的科学性

一、应用（需求）驱动主导数据平台的实现，加强业务的关注和参与二、初期能够快速见效并体现建设价值，不盲目投入三、借鉴同业的成功经验和成果，选择成熟技术架构和解决方案四、重视内部人员培养，建设配套运营制度和管理体系应用是展现数据总线建设效果的门户，因此需要建设业务人员最紧迫和最关注的需求和应用，让业务部门最快参与数据总线的建设当中。实施周期不易过长，规模不易过大，能够快速的见到数据总线带来的效果和价值。尽量参考同行业、同规模、同类型企业行的建设经验，适当创新。前期让公司内IT人员尽量更多、更深入的参与到数据总线的建设中，后期角色以管理为主，尽量与合作伙伴共同建设二期以上。配套的管理规范、技术规范、运营体系。数据平台建设原则

数据战略数据应用与服务数据管理保障机制促进支撑实现支撑数据战略与规划 数据组织与职责数据制度与管理流程数据服务管理数据需求管理数据服务应用系统建设数据架构与模型管理数据标准管理数据质量管理元数据管理主数据管理数据保留与归档管理数据安全管理内容管理数据治理框架

数据调度与处理大数据平台数据结构化转换大数据分析计算分布式数据库分布式文件系统数据生命周期管理数据平台数据传输数据服务数据集市数据质量检核元数据管理数据管理平台数据应用统计报表基础数据平台贴源层整合层汇总层数据切分数据源业务系统物联网互联网数据交换平台内部数据外部数据其他系统数据接口数据架构数据挖掘高管驾驶舱

第二部分 某行数据现状及问题

数据应用现状分析-总体情况行领导综合业务系统 信贷管理 国际业务系统债券管理系统 ……数据交换平台综合报表平台财务会计部 信贷管理部 国际业务部 资金计划部 …….客户信息…..贷款余额客户信息…..贷款余额…..客户信息 客户信息….. 客户信息…..业务职能不清晰或相互重叠，观察数据视角不尽相同，缺少数据标准与业务统一定义，语轨不一致IT架构中中都是以部门级应用为主（如计财、资金计划部等），缺乏从大的管理职能（财务、风险、运营等）综合方面的数据整合、数据标准和统一业务定义业务人员X\?567

数据应用现状分析-数据架构方面?由于全行的数据散落在各个业务系统中，没有进行有效整合，形成竖井式架构，造成多个信息孤岛，整体架构缺少一个稳定的、抗源变化的保存最细粒度历史数据的数据层。无法支撑未来共享性应用。集市层客户风险客户一部中间业务汇总数据层主题层报表应用共用主题数据客户风险报表客户一部报表中间业务报表支付报表支付业务ODS层DEP层BDS层其它报表?业务表现?信息孤岛?数据冗余?共享性差?历史数据缺失?问题?数据分散，难以管理?没有一个稳定的，抗源变化的数据层源系统 综合业务信贷管理 国际结算 债券核算竖井式架构，造成信息孤岛缺少一个稳定的、抗源变化的数据层客户管理绩效考核……没有进行整合，无法共享，不能支持如客户管理等共享性应用

数据应用现状分析-数据应用难题?业务表现?各系统存在冗余数据?各系统存在业务含义一致，名称定义不一致的属性?各系统存在含义不一致，名称定义一致的情况?业务代码定义混乱?问题?重复投入?数据不一致、不准确?难以利用和管理?各系统数据难以共享?缺少统一的基础数据标准 核心贷款分户账表贷款主档代码贷款余额。。。五级分类标志计息方式信贷管理借据表贷款账号贷款余额。。。5级分类标志借据计息周期业务含义一致，名称定义不一致数据冗余相同业务代码定义不一致核心五级分类代码信贷管理五级分类代码1正常 01正常2关注 02关注3次级（不良） 03次级4可疑（不良） 04可疑5损失（不良） 05损失

数据应用现状分析-数据应用难题?业务表现?各集市系统指标存在重复?各集市系统在保有存量的同时，不断产生新的指标（增量）?集市指标派生无法实现?指标逻辑视图（指标分类）不一致?问题?重复投入?数据不一致?指标设计、口径不一致?指标难以共享客户风险集市客户一部集市资金计划部借据号期末余额。。。借据编号期末贷款余额总资产用户我想看本期贷款余额，看哪个呢？主营业务收入负债总额。。。我想看客户经营情况信息，有哪些呢？用户活期存款指标数据怎么不一致呢？?缺