數(shù)據(jù)倉庫(英語:Data Warehouse,簡稱數(shù)倉、DW),是一個用于存儲、分析、報告的數(shù)據(jù)系統(tǒng)。數(shù)據(jù)倉庫的目的是構(gòu)建面向分析的集成化數(shù)據(jù)環(huán)境,分析結(jié)果為企業(yè)提供決策支持(Decision Support)。
數(shù)據(jù)倉庫本身并不“生產(chǎn)”任何數(shù)據(jù),其數(shù)據(jù)來源于不同外部系統(tǒng); 同時數(shù)據(jù)倉庫自身也不需要“消費”任何的數(shù)據(jù),其結(jié)果開放給各個外部應(yīng)用使用。
Hadoop數(shù)據(jù)倉庫的主要特征有面向主題性、集成性、非易失性和時變性,接下來對這四個特性做詳細(xì)介紹。
主題是一個抽象的概念,是較高層次上企業(yè)信息系統(tǒng)中的數(shù)據(jù)綜合、歸類并進行分析利用的抽象。在邏輯意義上,它是對應(yīng)企業(yè)中某一宏觀分析領(lǐng)域所涉及的分析對象。
傳統(tǒng)OLTP系統(tǒng)對數(shù)據(jù)的劃分并不適用于決策分析。而基于主題組織的數(shù)據(jù)則不同,它們被劃分為各自獨立的領(lǐng)域,每個領(lǐng)域有各自的邏輯內(nèi)涵但互不交叉,在抽象層次上對數(shù)據(jù)進行完整、一致和準(zhǔn)確的描述。
主題相關(guān)的數(shù)據(jù)通常會分布在多個操作型系統(tǒng)中,彼此分散、獨立、異構(gòu)。因此在數(shù)據(jù)進入數(shù)據(jù)倉庫之前,必然要經(jīng)過統(tǒng)一與綜合,對數(shù)據(jù)進行抽取、清理、轉(zhuǎn)換和匯總,這一步是數(shù)據(jù)倉庫
建設(shè)中最關(guān)鍵、最復(fù)雜的一步,所要完成的工作有: 要統(tǒng)一源數(shù)據(jù)中所有矛盾之處;如字段的同名異義、異名同義、單位不統(tǒng)一、字長不一致等等。
進行數(shù)據(jù)綜合和計算。數(shù)據(jù)倉庫中的數(shù)據(jù)綜合工作可以在從原有數(shù)據(jù)庫抽取數(shù)據(jù)時生成,但許多是在數(shù)據(jù)倉庫內(nèi)部生成的,即進入數(shù)據(jù)倉庫以后進行綜合生成的。
下圖說明了保險公司綜合數(shù)據(jù)的簡單處理過程,其中數(shù)據(jù)倉庫中與“承?!敝黝}有關(guān)的數(shù)據(jù)來自于多個不同的操作 型系統(tǒng)。
這些系統(tǒng)內(nèi)部數(shù)據(jù)的命名可能不同,數(shù)據(jù)格式也可能不同。把不同來源的數(shù)據(jù)存儲到數(shù)據(jù)倉庫之前,需要去除這些不一致。
數(shù)據(jù)倉庫是分析數(shù)據(jù)的平臺,而不是創(chuàng)造數(shù)據(jù)的平臺。我們是通過數(shù)倉去分析數(shù)據(jù)中的規(guī)律,而不是去創(chuàng)造修改其中的規(guī)律。因此數(shù)據(jù)進入數(shù)據(jù)倉庫后,它便穩(wěn)定且不會改變。
數(shù)據(jù)倉庫的數(shù)據(jù)反映的是一段相當(dāng)長的時間內(nèi)歷史數(shù)據(jù)的內(nèi)容,數(shù)據(jù)倉庫的用戶對數(shù)據(jù)的操作大多是數(shù)據(jù)查詢或比較復(fù)雜的挖掘,一旦數(shù)據(jù)進入數(shù)據(jù)倉庫以后,一般情況下被較長時間保留。
數(shù)據(jù)倉庫中一般有大量的查詢操作,但修改和刪除操作很少。
數(shù)據(jù)倉庫包含各種粒度的歷史數(shù)據(jù),數(shù)據(jù)可能與某個特定日期、星期、月份、季度或者年份有關(guān)。當(dāng)業(yè)務(wù)變化后會失去時效性。因此數(shù)據(jù)倉庫的數(shù)據(jù)需要隨著時間更新,以適應(yīng)決策的需要。
從這個角度講,數(shù)據(jù)倉庫建設(shè)是一個項目,更是一個過程。
Copyright ? 2013-2021 河南云和數(shù)據(jù)信息技術(shù)有限公司 豫ICP備14003305號 ISP經(jīng)營許可證:豫B-20160281