Ⅰ 怎麼把重復項的數據整合
把重復項的數據整合方法如下：
1、首先打開excel，選擇需要合並重復項的單元格數據。
2、然後在表格頂部點擊數據，在子菜單中選擇「刪除重復項」。
3、這個時候彈出一個窗口，選擇刪除重復項。
4、然後在彈出的窗口中點擊確定，就完成了。
excel介紹
Excel一般指MicrosoftOfficeExcel。MicrosoftExcel是Microsoft為使用Windows和AppleMacintosh操作系統的電腦編寫的一款電子表格軟體。直觀的界面、出色的計算功能和圖表工具，再加上成功的市場營銷，使Excel成為最流行的個人計算機數據處理軟體。
Ⅱ Python數據挖掘006-數據集成
數據集成就是間來源於多個不同數據源的數據合並存放在一個一致的數據存儲（比如數據倉庫）中的過程。
不同數純瞎悉據源的數據之間可能會有不匹配或屬性重復，所以要考慮實體識別問題和屬性冗餘問題。
是指從不同數據源識別出現實世界的實體，它的任務是統一不同源數據的矛盾之處。
常見形式有：同名異義，異名同義，單位不統做乎一等。
實體識別問題就是檢測和解決這些沖突。
數據冗餘，比如：同一屬性出現多次，同一屬性命名不一致導致重復等。
冗餘屬性要先檢測，再刪除掉。冗餘屬性用相關性分析也能判斷出來。
參考資料：
《Python數據分析和挖掘實戰》神指張良均等
Ⅲ 數據預處理
在數據挖掘中，海量的原始數據中存在大量不完整（有缺失值）、不一致、有異常的數據，會嚴重影響到數據挖掘建模的執行效果，甚至會導致挖掘結果的偏差，進而數據清洗就變得尤為重要。在數據清洗完成後接著甚至同時進行數據集成、變換、規約等一系列的處理，而整個過程稱之為 數據預處理 。在整個數據挖掘過程中，數據預處理工作大致占據整個過程的 60% 。
一般來說，數據預處理的主要包括如下內容： 數據清洗、數據集成、數據變換、數據規約。
接下來的內容，我們也是從這幾方面闡述。
常見的缺失值處理方法： 刪除法、替換法、插補法等
（1）、刪除法： 最簡單的缺失值處理方法。從不同角度進行數據處理劃分：
<code>
缺失值的處理
inputfile$date=as.numeric(inputfile$date)#將日期轉換成數值型變數
sub=which(is.na(inputfile$sales))#識別缺失值所在行數
inputfile1=inputfile[-sub,]#將數據集分成完整數據和缺失數據兩部分
inputfile2=inputfile[sub,]
行刪除法處理缺失，結果轉存
result1=inputfile1
</code>
（2）、替換法
一般根據屬性將變數分：數值型和非數值型
在數據挖掘過程中，可能會存在數據分布在不同的數據源中，而這個時候需要將多個數據源合並存放在一個一致的數據存儲（如數據倉庫），整個過程稱之為 數據集成 。
【
數據倉庫：
關於數據倉庫構思
漫談數據倉庫之維度建模
漫談數據倉庫之拉鏈表（原理、設計以及在Hive中的實現）
】
在R中，通過將存儲在兩個數據框中的數據以關鍵字為依據，以行為單位做列向合並，直接通過merge()函數完成。
merge(數據框1，數據框2，by="關鍵字")，而合並後的新數據自動按照關鍵字取值大小升序排列。不過在數據集成過程中存在表達形式不一樣，導致不能直接完成匹配，就需要我們進行加以轉換、提煉、集成等操作。具體從如下幾方面：
（1）、實體識別
從不同數據源識別出現實世界的實體，來完成統一不同源的數據矛盾之處。
實體識別承擔著檢測和解決這些沖突的任務
（2）、冗餘屬性識別
數據變換主要對數據進行規范化處理、連續變數的離散化以及屬性屬性的構造，將數據轉換成「適當的」形式，來滿足挖掘任務及演算法的需要。
（1）、簡單函數變換
對原始數據進行某些數學函數變換，常見平方、開方、取對數、差分運算等等
主要來完成不具有正態分布變換服從正態分布；非平穩序列變為平穩序列等等
（2）、數據規范化
為了清除指標之間的量綱和取值范圍差異的影響，需要進行標准化處理，將數據按照比例進行縮放，使之落入一個特定區域，便於進行綜合分析。
常見方法如下：
<code>
讀取數據
data=read.csv('./data/normalization_data.csv',he=F)
最小-最大規范化
b1=(data[,1]-min(data[,1]))/(max(data[,1])-min(data[,1]))
b2=(data[,2]-min(data[,2]))/(max(data[,2])-min(data[,2]))
b3=(data[,3]-min(data[,3]))/(max(data[,3])-min(data[,3]))
b4=(data[,4]-min(data[,4]))/(max(data[,4])-min(data[,4]))
data_scatter=cbind(b1,b2,b3,b4)
零-均值規范化
data_zscore=scale(data)
小數定標規范化
i1=ceiling(log(max(abs(data[,1])),10))#小數定標的指數
c1=data[,1]/10^i1
i2=ceiling(log(max(abs(data[,2])),10))
c2=data[,2]/10^i2
i3=ceiling(log(max(abs(data[,3])),10))
c3=data[,3]/10^i3
i4=ceiling(log(max(abs(data[,4])),10))
c4=data[,4]/10^i4
data_dot=cbind(c1,c2,c3,c4)
</code>
（3）、連續屬性離散化
在數據的取值范圍內設定若干個離散的劃分點，將取值范圍劃分為不同的離散化的區間，最後使用不同的符號或數值代表落在不同區間的數據值。
常見離散方法：
（4）、屬性構造
利用已有的屬性構造出新的屬性
（5）、小波變換（本次不進行闡述）
數據規約在大數據集上產生更小的且保持原數據完整性的新數據集，提升在數據集合上進行分析和挖掘的效率。
意義如下：