什么是數(shù)據(jù)清洗？數(shù)據(jù)清洗的原理是什么？

數(shù)據(jù)清洗技術(shù)是提高數(shù)據(jù)質(zhì)量的有效方法。這項(xiàng)技術(shù)是一個較新的研究領(lǐng)域，對大數(shù)據(jù)集的清洗工作需要花費(fèi)很長的時間。由于不同的應(yīng)用領(lǐng)域?qū)?shù)據(jù)清洗有不同的解釋，因此數(shù)據(jù)清洗直到現(xiàn)在都沒有一個公認(rèn)、統(tǒng)一的定義。數(shù)據(jù)清洗主要應(yīng)用于3個領(lǐng)域，即數(shù)據(jù)倉庫領(lǐng)域、數(shù)據(jù)挖掘領(lǐng)域以及數(shù)據(jù)質(zhì)量管理領(lǐng)域。

在數(shù)據(jù)倉庫領(lǐng)域中，當(dāng)多個數(shù)據(jù)庫合并時或多個數(shù)據(jù)源進(jìn)行集成時，都需要進(jìn)行數(shù)據(jù)清洗。例如，當(dāng)同一個實(shí)體的記錄在不同數(shù)據(jù)源中以不同的表示格式或錯誤表示的情況下，合并后的數(shù)據(jù)倉庫中就會出現(xiàn)重復(fù)的記錄，數(shù)據(jù)清洗的程序就需要識別出重復(fù)的記錄并消除重復(fù)的記錄，也就是所謂的數(shù)據(jù)合并或清除（Merge/Purge）問題。在數(shù)據(jù)倉庫環(huán)境中，數(shù)據(jù)清洗主要包括數(shù)據(jù)的清洗和結(jié)構(gòu)的轉(zhuǎn)換兩個過程。

在數(shù)據(jù)挖掘領(lǐng)域中，數(shù)據(jù)清洗是數(shù)據(jù)進(jìn)行預(yù)處理過程的第一個步驟。在數(shù)據(jù)預(yù)處理應(yīng)用中，數(shù)據(jù)清洗的主要任務(wù)是提高數(shù)據(jù)的可用性，即去除噪聲、無關(guān)數(shù)據(jù)以及空值等，并考慮數(shù)據(jù)的動態(tài)變化。在字符分類問題中，通過使用機(jī)器學(xué)習(xí)的技術(shù)進(jìn)行數(shù)據(jù)清洗，即使用特定算法檢測數(shù)據(jù)庫對缺失和錯誤的數(shù)據(jù)予以修改。

在數(shù)據(jù)質(zhì)量管理領(lǐng)域中，數(shù)據(jù)質(zhì)量管理是一個學(xué)術(shù)界和商業(yè)界都感興趣的領(lǐng)域。數(shù)據(jù)質(zhì)量管理主要用于解決信息系統(tǒng)中的數(shù)據(jù)質(zhì)量及集成問題。在該領(lǐng)域中，數(shù)據(jù)清洗從數(shù)據(jù)質(zhì)量的角度出發(fā)，把數(shù)據(jù)清洗過程和數(shù)據(jù)生命周期集成在一起，對數(shù)據(jù)的正確性進(jìn)行檢查并提高數(shù)據(jù)質(zhì)量。

數(shù)據(jù)清洗是利用相關(guān)技術(shù)將“臟”數(shù)據(jù)轉(zhuǎn)換為滿足質(zhì)量要求的數(shù)據(jù)。下面通過一張圖描述數(shù)據(jù)清洗的原理。

從圖中可以看出，同一值的不同表示、拼寫錯誤、不同的命名習(xí)慣、不合法的值以及空值都會導(dǎo)致“臟”數(shù)據(jù)出現(xiàn)，通過定義好的數(shù)據(jù)清洗策略和清洗規(guī)則（即數(shù)理統(tǒng)計(jì)技術(shù)、數(shù)據(jù)挖掘技術(shù)等清洗策略）對“臟”數(shù)據(jù)進(jìn)行清洗，得到滿足數(shù)據(jù)質(zhì)量要求的數(shù)據(jù)。需要注意的是，數(shù)據(jù)清洗的目的是解決“臟”數(shù)據(jù)問題，即不是將“臟”數(shù)據(jù)洗掉，而是將“臟”數(shù)據(jù)洗干凈。干凈的數(shù)據(jù)指的是滿足質(zhì)量要求的數(shù)據(jù)。