首页 > 大数据 > 正文

数据仓库在异构数据库集成中的应用

2013-01-30 13:55:10  来源:万方数据

摘要:数据仓库是面向主题的、集成的、随时间变化的、非易失性的数据集合,它用于支持管理层的决策过程。数据仓库的创建和使用都是围绕着主题的。
关键词: 数据仓库

    1、引言

 

    由于企业信息系统是逐步建立起来的,因此基于不同时期的计算机技术而建立起来的各领域信息系统采用了不同的数据库系统,且自成一体。并以不同的数据模式描述数据,使用不同的语言描述数据存储和操纵事务,它们无法通过计算机网络实现系统间的信息交换和结合,因此企业信息系统中形成了多个异构的、分散的数据库系统,并出现了大量的信息孤岛。在现有的异构数据库系统的基础上,为了有效地实现各个数据库系统之间的信息共享、传递和反馈,解决企业信息系统中的信息孤岛现象,我们有必要对数据库系统中的数据进行再加工,集成异构数据库系统,形成综合的、面向分析的操作平台,从而更好地支持企业的决策分析。数据仓库技术就是解决异构数据库信息集成的有效方案,因为数据仓库可以从异构的数据库系统中使用统一的全局模式来描述数据,并将这些数据集成在数据仓库中,用户可以通过数据仓库提供的统一的数据接口进行统计分析,最终支持决策者的决策过程。

 

    2、数据仓库技术

 

    数据仓库是面向主题的、集成的、随时间变化的、非易失性的数据集合,它用于支持管理层的决策过程。数据仓库的创建和使用都是围绕着主题的,数据仓库中的数据不是将业务处理系统中的数据简单集合,而是对各种源数据进行抽取、筛选、清理、综合而得到的数据集合目。数据仓库中所存储的数据不经常进行更新处理,它主要用于查询和分析。与传统的数据库相比,数据仓库的主要特点表现在:集成了面向主题的综合数据、带有数据集成性质、数据不常更新、数据是随时间不断加载的。

 

    3、异构数据库集成的实现方案

 

    数据仓库技术作为异构数据库集成的解决方案,不仅可以通过数据抽取和转移工具将位于不同地域、不同操作系统平台、不同数据结构的数据按照一定的数据模式集成在一起,同时能够保证数据的一致性。下面将给出异构数据库集成的解决方案。

 

    3.1异构数据库的集成方法

 

    该方法的基本思想是:在原有的不同领域信息系统的基础上,按照决策者的决策需求确定查询主题,定义基于数据仓库的新的数据全局模式,从异构数据库中通过数据抽取和转换工具将数据抽取出来,以一定的格式装载到数据仓库中。同时按照决策者和用户的查询需求编写应用程序,最后以查询报告或表格形式反馈给决策者或用户。

 

    3.2定义新的数据模型

 

    由于数据仓库注重的是数据查询,设计的目的是使用户能够尽可能地直接访问到数据,因此数据是按照决策分析的主题来组织的,每个主题对应一个宏观的分析领域。因此数据的概念模型是多维数据模型,这样可以用多维分析的方法从多角度、多层次对数据进行统计分析。

 

    为实现异构数据库的数据集成, 须首先通过数据的抽取和转换工具将位于不同操作系统平台、不同数据组织形式的数据按照 定的数据模型集成到数据仓库中,其目的就是保证数据仓库中数据的一致性。

 

[page]    (1)抽取

 

    为了将来自不同数据库系统的数据集成到数据仓库中,必须首先从外部数据库将有关数据抽取出来。数据的抽取是数据仓库成功的关键。为了将数据抽取出来,我们必须按照已确定的新的数据模型来抽取数据,因为在新的数据模型中描述了哪些数据需要抽取。

 

    在此基础上我们需要编写数据的抽取程序。该抽取程序的基本功能就是利用OBDC技术访问异构数据库并将不同数据结构的数据抽取出来。具体的实现方法是:

 

    ① 利用ODBC数据源管理器根据不同的数据库系统创建相应的数据源;

 

    ② 在相应的抽取程序中根据该数据源读取源数据库中的数据。

 

    (2)转换

 

    从源数据库中抽取出来的数据必须依据事先定义好的标准数据格式进行数据的转换。由于企业信息系统中同一个数据可能存放在不同子系统的数据库中,这些数据库之间是分散和异构的,因此就会出现数据名称、数据单位、数据类型甚至数据值不一致的情况,如果这些数据被抽取到数据仓库中,必然会造成数据的不真实性,为此有必要对这些抽取的数据进行彻底地转换。

 

    数据转换的基本思想是:首先建立数据转换规则集和元数据库。抽取出来的数据必须按照数据转换规则集和元数据库中定义的标准对数据进行转换或修补以适应新标准,然后才能将数据装载到数据仓库中。数据转换规则集的表结构见表1。

 

    元数据库存放的是关于数据的数据,即对抽取出来的数据的描述与说明,是数据转换的一个重要依据,数据被抽取出来后,如果在元数据库中存在该数据,则要按照元数据中定义的标准数据格式处理数据。否则就要筹建新的数据标准并存储到元数据库中。

 

    4、结束语

 

    采用数据仓库技术解决异构数据库的集成问题应该是一个好的解决方案。因为ODBC技术为访问异构数据库提供了统一的方式。同时也为各异构数据库之间的协作和多个异构数据库之间的操作提供了系统平台;而数据仓库的建立,不仅实现了企业信息系统中信息的集成,同时为充分利用这些综合数据、历史数据,为企业决策系统提供信息源打下了良好的基础。


第三十五届CIO班招生
国际CIO认证培训
首席数据官(CDO)认证培训
责编:fanwei

免责声明:本网站(http://www.ciotimes.com/)内容主要来自原创、合作媒体供稿和第三方投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。
本网站刊载的所有内容(包括但不仅限文字、图片、LOGO、音频、视频、软件、程序等)版权归原作者所有。任何单位或个人认为本网站中的内容可能涉嫌侵犯其知识产权或存在不实内容时,请及时通知本站,予以删除。