hadoop與空間大數據挖掘分析

① 《Hadoop與大數據挖掘》epub下載在線閱讀全文，求百度網盤雲資源

《Hadoop與大數據挖掘》（張良均 樊哲 位文超劉名軍等 著）電子書網盤下載免費在線閱讀

鏈接：https://pan..com/s/1Y4VjGQW9vMNi0hkmQWcfgg

書名：Hadoop與大數據挖掘

作者: 張良均 樊哲 位文超 劉名軍等 著

出版社: 機械工業出版社

出版年: 2017-6-1

頁數: 322

內容簡介

這是一本適合教學和零基礎自學的Hadoop與大數據挖掘的教程，即便你完全沒有Hadoop編程基礎和大數據挖掘基礎，根據本書中的理論知識和上機實踐，也能迅速掌握如何使用Hadoop進行大數據挖掘。全書主要分為兩篇：基礎篇（1-7章），首先從宏觀上介紹了大數據相關概念和技術，然後逐一對Hadoop、Hive、HBase、Pig、Spark、Oozie等一系列大數據技術的概念、原理、架構，以及企業應用方法進行了詳細介紹，同時配有大量的案例。掌握了這些內容，就具備了大數據技術的基礎；挖掘實戰篇（8章），主要是一個企業級大數據應用項目——電子商務智能推薦系統。通過分析應用背景、構建系統，使讀者了解針對系統的每一層應用使用什麼大數據技術來解決問題。涉及的流程有數據採集、數據預處理、模型構建等，在每一個流程中會進行大數據相關技術實踐，運用實際數據來進行分析，使讀者...

作者簡介

張良均 樊哲 位文超劉名軍 專業計算機領域研究

② 如何架構大數據系統 hadoop

大數據數量龐大，格式多樣化。大量數據由家庭、製造工廠和辦公場所的各種設備、互聯網事務交易、社交網路的活動、自動化感測器、移動設備以及科研儀器等生成。它的爆炸式增長已超出了傳統IT基礎架構的處理能力，給企業和社會帶來嚴峻的數據管理問題。因此必須開發新的數據架構，圍繞「數據收集、數據管理、數據分析、知識形成、智慧行動」的全過程，開發使用這些數據，釋放出更多數據的隱藏價值。

一、大數據建設思路

1）數據的獲得

四、總結

基於分布式技術構建的大數據平台能夠有效降低數據存儲成本，提升數據分析處理效率，並具備海量數據、高並發場景的支撐能力，可大幅縮短數據查詢響應時間，滿足企業各上層應用的數據需求。

③ 大數據是什麼大數據和Hadoop之間有什麼聯系

大數據在近些年來越來越火熱，人們在提到大數據遇到了很多相關概念上的問題，比如雲計算、 Hadoop等等。那麼，大數據是什麼、Hadoop是什麼，大數據和Hadoop有什麼關系呢？
大數據概念早在1980年，著名未來學家阿爾文·托夫勒提出的概念。2009年美國互聯網數據中心證實大數據時代的來臨。隨著谷歌MapRece和 GoogleFile System （GFS）的發布，大數據不再僅用來描述大量的數據，還涵蓋了處理數據的速度。目前定義：大數據(big data)，或稱巨量資料，指的是所涉及的資料量規模巨大到無法透過目前主流軟體工具在合理時間內獲取、管理、處理、並整理為幫助企業經營決策。
大數據目前分為四大塊：大數據技術、大數據工程、大數據科學和大數據應用。其中雲計算是屬於大數據技術的范疇，是一種通過Internet以服務 的方式提供動態可伸縮的虛擬化的資源的計算模式。那麼這種計算模式如何實現呢，Hadoop的來臨解決了這個問題，Hadoop是Apache（阿帕切） 的一個開源項目，它是一個對大量數據進行分布式處理的軟體架構，在這個架構下組織的成員HDFS（Hadoop分布式文件系統），MapRece、 Hbase 、Zookeeper（一個針對大型分布式系統的可靠協調系統），hive（基於Hadoop的一個數據倉庫工具）等。
1.雲計算屬於大數據中的大數據技術范疇。
2.雲計算包含大數據。
3.雲和大數據是兩個領域。
雲計算是指利用由大量計算節點構成的可動態調整的虛擬化計算資源，通過並行化和分布式計算技術，實現業務質量的可控的大數據處理的計算技術。而作為雲計算技術中的佼佼者，Hadoop以其低成本和高效率的特性贏得了市場的認可。Hadoop項目名稱來源於創立者Doung Cutting兒子的一個玩具，一頭黃色的大象。

Hadoop項目的目標是建立一個可擴展開源軟體框架，能夠對大數據進行可靠的分布式處理。
Hadoop的框架最核心的設計就是：HDFS和MapRece。HDFS為海量的數據提供了存儲，則MapRece為海量的數據提供了計算。HDFS是一個分布式文件系統，具有低成本、高可靠性性、高吞吐量的特點。MapRece是一個變成模型和軟體框架。
簡單理解，Hadoop是一個開源的大數據分析軟體，或者說編程模式。它是通過分布式的方式處理大數據的，因為開元的原因現在很多的企業或多或少的在運用hadoop的技術來解決一些大數據的問題，在數據倉庫方面hadoop是非常強大的。但在數據集市以及實時的分析展現層面，hadoop也有著明顯的不足，現在一個比較好的解決方案是架設hadoop的數據倉庫而數據集市以及實時分析展現層面使用永洪科技的大數據產品，能夠很好地解決hadoop的分時間長以及其他的問題。
Hadoop大數據技術案例
讓Hadoop和其他大數據技術如此引人注目的部分原因是，他們讓企業找到問題的答案，而在此之前他們甚至不知道問題是什麼。這可能會產生引出新產品的想法，或者幫助確定改善運營效率的方法。不過，也有一些已經明確的大數據用例，無論是互聯網巨頭如谷歌，Facebook和LinkedIn還是更多的傳統企業。它們包括：
情感分析： Hadoop與先進的文本分析工具結合，分析社會化媒體和社交網路發布的非結構化的文本，包括Tweets和Facebook，以確定用戶對特定公司，品牌或產品的情緒。分析既可以專注於宏觀層面的情緒，也可以細分到個人用戶的情緒。
風險建模： 財務公司、銀行等公司使用Hadoop和下一代數據倉庫分析大量交易數據，以確定金融資產的風險，模擬市場行為為潛在的「假設」方案做准備，並根據風險為潛在客戶打分。
欺詐檢測： 金融公司、零售商等使用大數據技術將客戶行為與歷史交易數據結合來檢測欺詐行為。例如，信用卡公司使用大數據技術識別可能的被盜卡的交易行為。
客戶流失分析： 企業使用Hadoop和大數據技術分析客戶行為數據並確定分析模型，該模型指出哪些客戶最有可能流向存在競爭關系的供應商或服務商。企業就能採取最有效的措施挽留欲流失客戶。
用戶體驗分析： 面向消費者的企業使用Hadoop和其他大數據技術將之前單一 客戶互動渠道（如呼叫中心，網上聊天，微博等）數據整合在一起， 以獲得對客戶體驗的完整視圖。這使企業能夠了解客戶交互渠道之間的相互影響，從而優化整個客戶生命周期的用戶體驗。
當然，上述這些都只是大數據用例的舉例。事實上，在所有企業中大數據最引人注目的用例可能尚未被發現。這就是大數據的希望。

④ 大數據分析方法解讀以及相關工具介紹

大數據分析方法解讀以及相關工具介紹
要知道，大數據已不再是數據大，最重要的現實就是對大數據進行分析，只有通過分析才能獲取很多智能的，深入的，有價值的信息。
越來越多的應用涉及到大數據，這些大數據的屬性，包括數量，速度，多樣性等等都是呈現了大數據不斷增長的復雜性，所以，大數據的分析方法在大數據領域就顯得尤為重要，可以說是決定最終信息是否有價值的決定性因素。基於此，大數據分析方法理論有哪些呢？
大數據分析的五個基本方面
（預測性分析能力）
數據挖掘可以讓分析員更好的理解數據，而預測性分析可以讓分析員根據可視化分析和數據挖掘的結果做出一些預測性的判斷。
（數據質量和數據管理）
數據質量和數據管理是一些管理方面的最佳實踐。通過標准化的流程和工具對數據進行處理可以保證一個預先定義好的高質量的分析結果。
AnalyticVisualizations（可視化分析）
不管是對數據分析專家還是普通用戶，數據可視化是數據分析工具最基本的要求。可視化可以直觀的展示數據，讓數據自己說話，讓觀眾聽到結果。
SemanticEngines（語義引擎）
我們知道由於非結構化數據的多樣性帶來了數據分析的新的挑戰，我們需要一系列的工具去解析，提取，分析數據。語義引擎需要被設計成能夠從「文檔」中智能提取信息。
DataMiningAlgorithms（數據挖掘演算法）
可視化是給人看的，數據挖掘就是給機器看的。集群、分割、孤立點分析還有其他的演算法讓我們深入數據內部，挖掘價值。這些演算法不僅要處理大數據的量，也要處理大數據的速度。
假如大數據真的是下一個重要的技術革新的話，我們最好把精力關注在大數據能給我們帶來的好處，而不僅僅是挑戰。
大數據處理
大數據處理數據時代理念的三大轉變：要全體不要抽樣，要效率不要絕對精確，要相關不要因果。具體的大數據處理方法其實有很多，但是根據長時間的實踐，筆者總結了一個基本的大數據處理流程，並且這個流程應該能夠對大家理順大數據的處理有所幫助。整個處理流程可以概括為四步，分別是採集、導入和預處理、統計和分析，以及挖掘。
採集
大數據的採集是指利用多個資料庫來接收發自客戶端的數據，並且用戶可以通過這些資料庫來進行簡單的查詢和處理工作。比如，電商會使用傳統的關系型資料庫MySQL和Oracle等來存儲每一筆事務數據，除此之外，Redis和MongoDB這樣的NoSQL資料庫也常用於數據的採集。
在大數據的採集過程中，其主要特點和挑戰是並發數高，因為同時有可能會有成千上萬的用戶來進行訪問和操作，比如火車票售票網站和淘寶，它們並發的訪問量在峰值時達到上百萬，所以需要在採集端部署大量資料庫才能支撐。並且如何在這些資料庫之間進行負載均衡和分片的確是需要深入的思考和設計。
統計/分析
統計與分析主要利用分布式資料庫，或者分布式計算集群來對存儲於其內的海量數據進行普通的分析和分類匯總等，以滿足大多數常見的分析需求，在這方面，一些實時性需求會用到EMC的GreenPlum、Oracle的Exadata，以及基於MySQL的列式存儲Infobright等，而一些批處理，或者基於半結構化數據的需求可以使用Hadoop。統計與分析這部分的主要特點和挑戰是分析涉及的數據量大，其對系統資源，特別是I/O會有極大的佔用。
導入/預處理
雖然採集端本身會有很多資料庫，但是如果要對這些海量數據進行有效的分析，還是應該將這些來自前端的數據導入到一個集中的大型分布式資料庫，或者分布式存儲集群，並且可以在導入基礎上做一些簡單的清洗和預處理工作。也有一些用戶會在導入時使用來自Twitter的Storm來對數據進行流式計算，來滿足部分業務的實時計算需求。導入與預處理過程的特點和挑戰主要是導入的數據量大，每秒鍾的導入量經常會達到百兆，甚至千兆級別。
挖掘
與前面統計和分析過程不同的是，數據挖掘一般沒有什麼預先設定好的主題，主要是在現有數據上面進行基於各種演算法的計算，從而起到預測的效果，從而實現一些高級別數據分析的需求。比較典型演算法有用於聚類的K-Means、用於統計學習的SVM和用於分類的Naive Bayes，主要使用的工具有Hadoop的Mahout等。該過程的特點和挑戰主要是用於挖掘的演算法很復雜，並且計算涉及的數據量和計算量都很大，還有，常用數據挖掘演算法都以單線程為主。
大數據分析工具詳解 IBM惠普微軟工具在列
去年，IBM宣布以17億美元收購數據分析公司Netezza；EMC繼收購數據倉庫軟體廠商Greenplum後再次收購集群NAS廠商Isilon；Teradata收購了Aster Data 公司；隨後，惠普收購實時分析平台Vertica等，這些收購事件指向的是同一個目標市場——大數據。是的，大數據時代已經來臨，大家都在摩拳擦掌，搶占市場先機。
而在這裡面，最耀眼的明星是hadoop，Hadoop已被公認為是新一代的大數據處理平台，EMC、IBM、Informatica、Microsoft以及Oracle都紛紛投入了Hadoop的懷抱。對於大數據來說，最重要的還是對於數據的分析，從裡面尋找有價值的數據幫助企業作出更好的商業決策。下面，我們就來看以下八大關於大數據分析的工具。
EMC Greenplum統一分析平台(UAP)
Greenplum在2010年被EMC收購了其EMC Greenplum統一分析平台（UAP）是一款單一軟體平台，數據團隊和分析團隊可以在該平台上無縫地共享信息、協作分析，沒必要在不同的孤島上工作，或者在不同的孤島之間轉移數據。正因為如此，UAP包括ECM Greenplum關系資料庫、EMC Greenplum HD Hadoop發行版和EMC Greenplum Chorus。
EMC為大數據開發的硬體是模塊化的EMC數據計算設備（DCA），它能夠在一個設備裡面運行並擴展Greenplum關系資料庫和Greenplum HD節點。DCA提供了一個共享的指揮中心（Command Center）界面，讓管理員可以監控、管理和配置Greenplum資料庫和Hadoop系統性能及容量。隨著Hadoop平台日趨成熟，預計分析功能會急劇增加。
IBM打組合拳提供BigInsights和BigCloud
幾年前，IBM開始在其實驗室嘗試使用Hadoop，但是它在去年將相關產品和服務納入到商業版IBM在去年5月推出了InfoSphere BigI雲版本的 InfoSphere BigInsights使組織內的任何用戶都可以做大數據分析。雲上的BigInsights軟體可以分析資料庫里的結構化數據和非結構化數據，使決策者能夠迅速將洞察轉化為行動。
IBM隨後又在10月通過其智慧雲企業（SmartCloud Enterprise）基礎架構，將BigInsights和BigSheets作為一項服務來提供。這項服務分基礎版和企業版；一大賣點就是客戶不必購買支持性硬體，也不需要IT專門知識，就可以學習和試用大數據處理和分析功能。據IBM聲稱，客戶用不了30分鍾就能搭建起Hadoop集群，並將數據轉移到集群裡面，數據處理費用是每個集群每小時60美分起價。

Informatica 9.1：將大數據的挑戰轉化為大機遇
Informatica公司在去年10月則更深入一步，當時它推出了HParser，這是一種針對Hadoop而優化的數據轉換環境。據Informatica聲稱，軟體支持靈活高效地處理Hadoop裡面的任何文件格式，為Hadoop開發人員提供了即開即用的解析功能，以便處理復雜而多樣的數據源，包括日誌、文檔、二進制數據或層次式數據，以及眾多行業標准格式（如銀行業的NACHA、支付業的SWIFT、金融數據業的FIX和保險業的ACORD）。正如資料庫內處理技術加快了各種分析方法，Informatica同樣將解析代碼添加到Hadoop裡面，以便充分利用所有這些處理功能，不久會添加其他的數據處理代碼。
Informatica HParser是Informatica B2B Data Exchange家族產品及Informatica平台的最新補充，旨在滿足從海量無結構數據中提取商業價值的日益增長的需求。去年， Informatica成功地推出了創新的Informatica 9.1 for Big Data，是全球第一個專門為大數據而構建的統一數據集成平台。

甲骨文大數據機——Oracle Big Data Appliance
甲骨文的Big Data Appliance集成系統包括Cloudera的Hadoop系統管理軟體和支持服務Apache Hadoop 和Cloudera Manager。甲骨文視Big Data Appliance為包括Exadata、Exalogic和 Exalytics In-Memory Machine的「建造系統」。Oracle大數據機(Oracle Big Data Appliance)，是一個軟、硬體集成系統，在系統中融入了Cloudera的Distribution Including Apache Hadoop、Cloudera Manager和一個開源R。該大數據機採用Oracle Linux操作系統，並配備Oracle NoSQL資料庫社區版本和Oracle HotSpot Java虛擬機。Big Data Appliance為全架構產品，每個架構864GB存儲，216個CPU內核，648TBRAW存儲，每秒40GB的InifiniBand連接。Big Data Appliance售價45萬美元，每年硬軟體支持費用為12%。
甲骨文Big Data Appliance與EMC Data Computing Appliance匹敵，IBM也曾推出數據分析軟體平台InfoSphere BigInsights，微軟也宣布在2012年發布Hadoop架構的SQL Server 2012大型數據處理平台。
統計分析方法以及統計軟體詳細介紹
統計分析方法有哪幾種？下面我們將詳細闡述，並介紹一些常用的統計分析軟體。

一、指標對比分析法指標對比分析法
統計分析的八種方法一、指標對比分析法指標對比分析法，又稱比較分析法，是統計分析中最常用的方法。是通過有關的指標對比來反映事物數量上差異和變化的方法。有比較才能鑒別。單獨看一些指標，只能說明總體的某些數量特徵，得不出什麼結論性的認識；一經過比較，如與國外、外單位比，與歷史數據比，與計劃相比，就可以對規模大小、水平高低、速度快慢作出判斷和評價。
指標分析對比分析方法可分為靜態比較和動態比較分析。靜態比較是同一時間條件下不同總體指標比較，如不同部門、不同地區、不同國家的比較，也叫橫向比較；動態比較是同一總體條件不同時期指標數值的比較，也叫縱向比較。這兩種方法既可單獨使用，也可結合使用。進行對比分析時，可以單獨使用總量指標或相對指標或平均指標，也可將它們結合起來進行對比。比較的結果可用相對數，如百分數、倍數、系數等，也可用相差的絕對數和相關的百分點（每1％為一個百分點）來表示，即將對比的指標相減。
二、分組分析法指標對比分析法
分組分析法指標對比分析法對比，但組成統計總體的各單位具有多種特徵，這就使得在同一總體范圍內的各單位之間產生了許多差別，統計分析不僅要對總體數量特徵和數量關系進行分析，還要深入總體的內部進行分組分析。分組分析法就是根據統計分析的目的要求，把所研究的總體按照一個或者幾個標志劃分為若干個部分，加以整理，進行觀察、分析，以揭示其內在的聯系和規律性。
統計分組法的關鍵問題在於正確選擇分組標值和劃分各組界限。
三、時間數列及動態分析法
時間數列。是將同一指標在時間上變化和發展的一系列數值，按時間先後順序排列，就形成時間數列，又稱動態數列。它能反映社會經濟現象的發展變動情況，通過時間數列的編制和分析，可以找出動態變化規律，為預測未來的發展趨勢提供依據。時間數列可分為絕對數時間數列、相對數時間數列、平均數時間數列。
時間數列速度指標。根據絕對數時間數列可以計算的速度指標：有發展速度、增長速度、平均發展速度、平均增長速度。
動態分析法。在統計分析中，如果只有孤立的一個時期指標值，是很難作出判斷的。如果編制了時間數列，就可以進行動態分析，反映其發展水平和速度的變化規律。
進行動態分析，要注意數列中各個指標具有的可比性。總體范圍、指標計算方法、計算價格和計量單位，都應該前後一致。時間間隔一般也要一致，但也可以根據研究目的，採取不同的間隔期，如按歷史時期分。為了消除時間間隔期不同而產生的指標數值不可比，可採用年平均數和年平均發展速度來編制動態數列。此外在統計上，許多綜合指標是採用價值形態來反映實物總量，如國內生產總值、工業總產值、社會商品零售總額等計算不同年份的發展速度時，必須消除價格變動因素的影響，才能正確的反映實物量的變化。也就是說必須用可比價格（如用不變價或用價格指數調整）計算不同年份相同產品的價值，然後才能進行對比。
為了觀察我國經濟發展的波動軌跡，可將各年國內生產總值的發展速度編制時間數列，並據以繪製成曲線圖，令人得到直觀認識。
四、指數分析法
指數是指反映社會經濟現象變動情況的相對數。有廣義和狹義之分。根據指數所研究的范圍不同可以有個體指數、類指數與總指數之分。
指數的作用：一是可以綜合反映復雜的社會經濟現象的總體數量變動的方向和程度；二是可以分析某種社會經濟現象的總變動受各因素變動影響的程度，這是一種因素分析法。操作方法是：通過指數體系中的數量關系，假定其他因素不變，來觀察某一因素的變動對總變動的影響。
用指數進行因素分析。因素分析就是將研究對象分解為各個因素，把研究對象的總體看成是各因素變動共同的結果，通過對各個因素的分析，對研究對象總變動中各項因素的影響程度進行測定。因素分析按其所研究的對象的統計指標不同可分為對總量指標的變動的因素分析，對平均指標變動的因素分析。
五、平衡分析法
平衡分析是研究社會經濟現象數量變化對等關系的一種方法。它把對立統一的雙方按其構成要素一一排列起來，給人以整體的概念，以便於全局來觀察它們之間的平衡關系。平衡關系廣泛存在於經濟生活中，大至全國宏觀經濟運行，小至個人經濟收支。平衡種類繁多，如財政平衡表、勞動力平衡表、能源平衡表、國際收支平衡表、投入產出平衡表，等等。平衡分析的作用：一是從數量對等關繫上反映社會經濟現象的平衡狀況，分析各種比例關系相適應狀況；二是揭示不平衡的因素和發展潛力；三是利用平衡關系可以從各項已知指標中推算未知的個別指標。
六、綜合評價分析
社會經濟分析現象往往是錯綜復雜的，社會經濟運行狀況是多種因素綜合作用的結果，而且各個因素的變動方向和變動程度是不同的。如對宏觀經濟運行的評價，涉及生活、分配、流通、消費各個方面；對企業經濟效益的評價，涉及人、財、物合理利用和市場銷售狀況。如果只用單一指標，就難以作出恰當的評價。
進行綜合評價包括四個步驟：
1.確定評價指標體系，這是綜合評價的基礎和依據。要注意指標體系的全面性和系統性。
2.搜集數據，並對不同計量單位的指標數值進行同度量處理。可採用相對化處理、函數化處理、標准化處理等方法。
3.確定各指標的權數，以保證評價的科學性。根據各個指標所處的地位和對總體影響程度不同，需要對不同指標賦予不同的權數。
4.對指標進行匯總，計算綜合分值，並據此作出綜合評價。
七、景氣分析
經濟波動是客觀存在的，是任何國家都難以完全避免的。如何避免大的經濟波動，保持經濟的穩定發展，一直是各國政府和經濟之專家在宏觀調控和決策中面臨的重要課題，景氣分析正是適應這一要求而產生和發展的。景氣分析是一種綜合評價分析，可分為宏觀經濟景氣分析和企業景氣調查分析。
宏觀經濟景氣分析。是國家統計局20世紀80年代後期開始著手建立監測指標體系和評價方法，經過十多年時間和不斷完善，已形成制度，定期提供景氣分析報告，對宏觀經濟運行狀態起到晴雨表和報警器的作用，便於國務院和有關部門及時採取宏觀調控措施。以經常性的小調整，防止經濟的大起大落。
企業景氣調查分析。是全國的大中型各類企業中，採取抽樣調查的方法，通過問卷的形式，讓企業負責人回答有關情況判斷和預期。內容分為兩類：一是對宏觀經濟總體的判斷和預期；一是對企業經營狀況的判斷和預期，如產品訂單、原材料購進、價格、存貨、就業、市場需求、固定資產投資等。
八、預測分析
宏觀經濟決策和微觀經濟決策，不僅需要了解經濟運行中已經發生了的實際情況，而且更需要預見未來將發生的情況。根據已知的過去和現在推測未來，就是預測分析。
統計預測屬於定量預測，是以數據分析為主，在預測中結合定性分析。統計預測的方法大致可分為兩類：一類是主要根據指標時間數列自身變化與時間的依存關系進行預測，屬於時間數列分析；另一類是根據指標之間相互影響的因果關系進行預測，屬於回歸分析。
預測分析的方法有回歸分析法、滑動平均法、指數平滑法、周期（季節）變化分析和隨機變化分析等。比較復雜的預測分析需要建立計量經濟模型，求解模型中的參數又有許多方法。

⑤ 求大數據分析技術

列一大堆沒用的。。。
大數據分析技術兩種理解： 一種是 大數據處理涉及到技術， 一種專是 數據挖掘技術
第一種就屬是數據處理流程： 也就是 數據採集 數據清洗 數據存儲 數據挖掘 結果可視化展示 技術。
第二種就是具體的數據挖掘演算法： 主要是 回歸 分類 關聯規則 聚類 異常檢測 這幾種
看你需要哪種？

⑥ 什麼是大數據分析Hadoop

要了解什麼是Hadoop，我們必須首先了解與大數據和傳統處理系統有關的問題。前進，我們將討論什麼是Hadoop，以及Hadoop如何解決與大數據相關的問題。我們還將研究CERN案例研究，以突出使用Hadoop的好處。

在之前的博客「 大數據教程」中，我們已經詳細討論了大數據以及大數據的挑戰。在此博客中，我們將討論：

1、傳統方法的問題

2、Hadoop的演變

3、Hadoop的

4、Hadoop即用解決方案

5、何時使用Hadoop?

6、什麼時候不使用Hadoop?

一、CERN案例研究

大數據正在成為組織的機會。現在，組織已經意識到他們可以通過大數據分析獲得很多好處，如下圖所示。他們正在檢查大型數據集，以發現所有隱藏的模式，未知的相關性，市場趨勢，客戶偏好和其他有用的業務信息。

這些分析結果正在幫助組織進行更有效的營銷，新的收入機會，更好的客戶服務。他們正在提高運營效率，與競爭對手組織相比的競爭優勢以及其他業務利益。

什麼是Hadoop –大數據分析的好處

因此，讓我們繼續前進，了解在兌現大數據機會方面與傳統方法相關的問題。

二、傳統方法的問題

在傳統方法中，主要問題是處理數據的異構性，即結構化，半結構化和非結構化。RDBMS主要關注於銀行交易，運營數據等結構化數據，而Hadoop則專注於文本，視頻，音頻，Facebook帖子，日誌等半結構化，非結構化數據。RDBMS技術是一種經過驗證的，高度一致，成熟的系統許多公司的支持。另一方面，由於大數據(主要由不同格式的非結構化數據組成)對Hadoop提出了需求。

現在讓我們了解與大數據相關的主要問題是什麼。因此，繼續前進，我們可以了解Hadoop是如何成為解決方案的。

什麼是Hadoop –大數據問題

第一個問題是存儲大量數據。

無法在傳統系統中存儲大量數據。原因很明顯，存儲將僅限於一個系統，並且數據正在以驚人的速度增長。

第二個問題是存儲異構數據。

現在，我們知道存儲是一個問題，但是讓我告訴您，這只是問題的一部分。由於我們討論了數據不僅龐大，而且還以各種格式存在，例如：非結構化，半結構化和結構化。因此，您需要確保您擁有一個系統來存儲從各種來源生成的所有這些種類的數據。

第三個問題是訪問和處理速度。

硬碟容量正在增加，但磁碟傳輸速度或訪問速度並未以相似的速度增加。讓我以一個示例為您進行解釋：如果您只有一個100 Mbps I / O通道，並且正在處理1TB數據，則大約需要2.91個小時。現在，如果您有四台具有一個I / O通道的計算機，則對於相同數量的數據，大約需要43分鍾。因此，與存儲大數據相比，訪問和處理速度是更大的問題。

在了解什麼是Hadoop之前，讓我們首先了解一下Hadoop在一段時間內的發展。

Hadoop的演變

2003年，道格·切特(Doug Cutting)啟動了Nutch項目，以處理數十億次搜索並為數百萬個網頁建立索引。2003年10月下旬– Google發布帶有GFS(Google文件系統)的論文。2004年12月，Google發布了MapRece論文。在2005年，Nutch使用GFS和MapRece進行操作。2006年，雅虎與Doug Cutting及其團隊合作，基於GFS和MapRece創建了Hadoop。如果我告訴您，您會感到驚訝，雅虎於2007年開始在1000個節點的群集上使用Hadoop。

2008年1月下旬，雅虎向Apache Software Foundation發布了Hadoop作為一個開源項目。2008年7月，Apache通過Hadoop成功測試了4000個節點的集群。2009年，Hadoop在不到17小時的時間內成功整理了PB級數據，以處理數十億次搜索並為數百萬個網頁建立索引。在2011年12月，Apache Hadoop發布了1.0版。2013年8月下旬，發布了2.0.6版。

當我們討論這些問題時，我們發現分布式系統可以作為解決方案，而Hadoop提供了相同的解決方案。現在，讓我們了解什麼是Hadoop。

三、什麼是Hadoop?

Hadoop是一個框架，它允許您首先在分布式環境中存儲大數據，以便可以並行處理它。 Hadoop中基本上有兩個組件：

1、大數據Hadoop認證培訓

2、講師指導的課程現實生活中的案例研究評估終身訪問探索課程

什麼是Hadoop – Hadoop即解決方案

第一個問題是存儲大數據。

HDFS提供了一種分布式大數據存儲方式。您的數據存儲在整個DataNode的塊中，您可以指定塊的大小。基本上，如果您擁有512MB的數據，並且已經配置了HDFS，那麼它將創建128MB的數據塊。 因此，HDFS將數據分為512/128 = 4的4個塊，並將其存儲在不同的DataNode上，還將在不同的DataNode上復制數據塊。現在，由於我們正在使用商品硬體，因此存儲已不是難題。

它還解決了縮放問題。它著重於水平縮放而不是垂直縮放。您始終可以根據需要隨時在HDFS群集中添加一些額外的數據節點，而不是擴展DataNodes的資源。讓我為您總結一下，基本上是用於存儲1 TB的數據，您不需要1 TB的系統。您可以在多個128GB或更少的系統上執行此操作。

下一個問題是存儲各種數據。

藉助HDFS，您可以存儲各種數據，無論是結構化，半結構化還是非結構化。由於在HDFS中，沒有預轉儲模式驗證。並且它也遵循一次寫入和多次讀取模型。因此，您只需寫入一次數據，就可以多次讀取數據以尋找見解。

Hird的挑戰是訪問和處理數據更快。

是的，這是大數據的主要挑戰之一。為了解決該問題，我們將處理移至數據，而不是將數據移至處理。這是什麼意思?而不是將數據移動到主節點然後進行處理。在MapRece中，處理邏輯被發送到各個從屬節點，然後在不同的從屬節點之間並行處理數據。然後，將處理後的結果發送到主節點，在該主節點上合並結果，並將響應發送回客戶端。

在YARN架構中，我們有ResourceManager和NodeManager。ResourceManager可能會或可能不會與NameNode配置在同一台機器上。 但是，應該將NodeManager配置在存在DataNode的同一台計算機上。

YARN通過分配資源和安排任務來執行您的所有處理活動。

什麼是Hadoop – YARN

它具有兩個主要組件，即ResourceManager和NodeManager。

ResourceManager再次是主節點。它接收處理請求，然後將請求的各個部分相應地傳遞到相應的NodeManager，什麼是大數據分析Hadoop在此進行實際處理。NodeManager安裝在每個DataNode上。它負責在每個單個DataNode上執行任務。

我希望現在您對什麼是Hadoop及其主要組件有所了解。讓我們繼續前進，了解何時使用和何時不使用Hadoop。

何時使用Hadoop?

Hadoop用於：

1、搜索 – Yahoo，亞馬遜，Zvents

2、日誌處理 – Facebook，雅虎

3、數據倉庫 – Facebook，AOL

4、視頻和圖像分析 –紐約時報，Eyealike

到目前為止，我們已經看到了Hadoop如何使大數據處理成為可能。但是在某些情況下，不建議使用Hadoop。