数据管控规范

《数据管控规范》由会员上传分享，免费在线阅读，更多相关内容在应用文档-天天文库。

1、1数据管理架构1.1数据管理平台功能蓝图数据管理就是对交易中心现有的业务支撑系统的数据进行统一的数据管理、质量管控、并且通过标准的共享模式，实现核心数据统一存储，维护和使用的问题，提升交易中心现有数据的安全存储和高效使用等能力，并更加深入地进行数据挖掘等工作，为中心创造更多的价值。未来的数据管理平台将对中心现有系统的数据进行统一的数据的整合、数据的管控，并运用数据进行统一的服务管控来提升服务共享的水平，为中心的服务提供全方面的数据支撑。数据管理平台的功能蓝图如图所示：l数据整合域，是对现有业务系统的数据进行采集和清洗转换，并对采

2、集过程中的数据进行质量检测，来确保整合数据的准确性和可靠性。l数据管控域，对采集到数据按照其不同的属性进行分类存储管控，对数据的质量、数据的安全以及信息的生命周期进行统一的管理，并对数据在使用过程的各种信息进行统计分析。l服务共享域，利用数据管理平台已有的数据资源，进行自定义的数据服务配置，定制出符合要求的服务，进行相关服务流程的编排，通过数据中心将服务进行发布。...l服务管理域，主要是对提供的服务进行管理，包括服务应用的管理，服务流程的管理以及服务监控。1.1数据集成数据整合就是将离散于各个业务系统中的数据进行集中化。数据整

3、合阶段主要分为以下三个步骤执行：l数据类型识别根据业务使用情况分析目前各个系统中的数据实体，其中哪些是主数据，哪些是非主数据但需要共享的数据，哪些是私有数据。数据类型会作为制定同步规则和清洗规则的重要依据。l数据同步规则确定分析采集的各种数据需要达到的同步频率，从实时、准实时到天、月不等，针对不同的同步频率需求结合每次同步的数据量来选择同步方式，ETL（抽取-转化-加载）和ESB（企业服务总线）分别适用于不同场景。ETL本身也有多种具体的技术手段来实现各种情况下的同步，如Hotplug、全表对比、时间戳等。在这里，将根据不同的数

4、据类别和数据使用频度和需求频度等情况，制定出相应的数据同步的机制，采用实时数据整合和批量数据整合两种方式进行数据的整合。l数据清洗规则确定在进行数据整合过程中，由于不同系统中可能重复出现的数据，以及数据本身的缺失和错误等问题，为了避免由于不同系统中相同数据由于编码规则、格式之间的差异，在清洗过程中需要制定统一的数据清洗规则，对数据进行清洗和转换，确保数据管理平台中的数据能够保持一致性。同时，在数据清洗的过程中，需要对采集数据的质量以及清洗后数据的质量进行检测。其中，在数据采集过程中，对采集的数据进行整合，确保采集的数据都能满足质

5、量要求，能够通过正确的清洗和转换；对于转换完成的数据，通过再次的检测，保证转换数据的一致性和正确性，从而确保数据的准确行和权威性。1.2数据管控数据管控就是对于进行整合后的数据进行相关的管控，使其能够满足交易中心管理对于...数据使用的各种需求。1.1.1数据生命周期规划数据生命周期规划，就是对数据从在各个应用系统的中产生，然后通过各种采集整合手段聚合到数据管理平台，直至最终通过建立各种主题数据仓库提供各种数据服务的整个过程进行规划，使数据能够满足各种业务的使用需要。数据生命周期规划，把数据划分为以下3个域，分别保存不同阶段的数

6、据：ADB应用数据库数据管理平台数据仓库核心功能为操作型应用提供数据存储和访问提供领域内统一、一致的数据视图，包含MDM主数据管理1、存储数据管理平台历史数据2、为分析应用提供多维数据基础数据模型应用自身的数据模型共享数据模型共享关系模型，多维分析模型数据存储类型关系型数据库关系型数据库关系型数据库、多维数据库、或多维数据引擎软件数据内容本应用需要的所有细节信息运营共享信息数据管理平台的所有历史数据支撑的应用实时应用统一视图、准实时/实时的数据访问支撑分析型应用数据更新频率秒分钟到1天1天-1周数据存储周期3-12个月3-12个

7、月所有lADB应用数据库应用数据库主要是为交易中心主要的业务支撑系统和内部管理系统的应用提供数据存储和访问。在应用数据库只存储支撑本系统运行的数据资源，以满足本系统的使用要求。应用数据库的数据在进行日常业务处理的过程中，不断的进行更新，以便同实际的业务情况保持一致。l数据管理平台...应用数据库的数据，经过统一的清洗和转换后，进入数据管理平台进行统一的存储管理。在数据管理平台，将通过建立统一的数据视图，为各种数据服务提供数据。数据管理平台的数据更新根据不同的数据需求和应用系统的实际情况进行区分，通过实时的数据采集和批量数据采集两

8、种方式进行。l数据仓库数据仓库是为了满足某一特定的决策支持和联机分析而建立的结构化数据环境。交易中心在进行业务活动和内部管理的过程中形成了大量的数据资源，利用数据仓库，对已有的数据资源进行深入的挖掘和联机分析，即可以满足交易中心日常的数据查询要求；又可充分挖掘数