如何建立本地大數據

『壹』 如何正確建立大數據結構

如何正確建立大數據結構
大數據各行各業的企業都提供了潛力。正確使用這些大數據信息可能將增加商業價值，幫助您的企業從市場競爭中脫穎而出。如下是幾個企業成功應用大數據的案例：
大數據的例子
汽車製造商已經開始使用大數據來了解汽車何時需要返回到車庫進行維修。使用汽車發動機的數百個感測器，可以為汽車製造商發送實時的數據信息，這使得製造商甚至比駕駛汽車的司機還要提前知道汽車何時會出現故障。卡車製造商開始使用大數據，基於實時交通條件和客戶的需求來改進他們的路由，從而節約燃料和時間。
零售業也開始越來越多的使用大數據，鑒於越來越多的產品均有一個RFID標簽能幫助零售商跟蹤產品，知道很少某種產品庫存缺貨，並及時向供貨商訂購新產品。沃爾瑪便是這正確利用大數據這方面的一個很好的例子。當零售商開始識別他們的客戶時，就能夠更好地建立商店，更好的滿足客戶的需求。
當然，上述這些只是幾個淺顯的例子，大數據的可能性幾乎是無止境的。不久的將來，我們將討論在大數據平台上的最佳實踐。知道大數據能夠提供商業價值是一回事；而企業要知道如何創建正確的架構則又是另一回事了。
大數據結構
大數據有三個特徵，使得大數據不同於現有的數據倉庫和商業智能。大數據的這三大特點是：
數據量龐大：大數據的數據量相當龐大，更多的時候大數據的數據量可以達到比數TB到PB級位元組。
高速度傳遞：所有這些TB和PB位元組的數據能夠實時交付，數據倉庫每天都需要應付如此高速的數據流。
種類繁雜：大數據比使用現有的商業智能中正常數據的種類更繁雜。大數據還包括非結構化社交數據，如Twitter或Facebook網的社會信息、日誌文件、電子郵件等。
根據這些特性，建立您企業的體系結構是非常重要的。一個很好的出發點是以企業現有的數據倉庫為基礎。高密度數據的數據倉庫，其中包含用於當前商業智能的儀錶板。重要的是，該企業是為了之後再移動到大數據。把大數據轉移到您的企業有如下四個步驟：
1）進一步分析當前的數據：從儀錶板和ad-hoc查詢，到諸如空間分析和圖形分析或更高級先進的分析。您可以專注於客戶忠誠度、客戶流失率、分析本地情況（如何接近您的客戶），並開始建立社交網路（與您的客戶建立社交聯系）。這些分析將為您的企業帶來更多的商業價值。
2）建立正確的架構，用於存儲數據的種類和數量：這一切大數據是如何存儲在您的企業的。把這些原始數據直接轉化到數據倉庫中，每兆位元組以低成本優化存儲大量低密度數據是十分重要的。這便是Hadoop本身已被證明是非常有效的。Hadoop是開源的，與現有的資料庫兼容。它集合了所有可用的數據，您可以用它來尋找新的關系和新的潛在的商業價值。
3）為數據傳輸速度建立體系結構：一旦您有合適的設備來存儲大量的不同的數據，您就可以開始實時處理數據。例如如果您有數據流從感測器傳輸而來，存儲在Hadoop，您想看看正在發生的事件，並需要確定是否需要採取行動。您可以使用一切歷史數據，以確定在實時條件下進行預期（預測分析），您可以創建模型反應發生模式。如果您已經建立了一個智能的基礎設施，您將能夠實時響應事件，並進行實時的決策。
4）開始探索新的模式：利用所有可用的數據，您可以在您的數據中發現新的模式。從Hadoop與其他可用的數據匯總數據相匹配。有不同的大數據初創公司開發的工具，在這個平台上分析，可以幫助您可視化，尋求新的關系。我們的目標是找到您要解決的下一個問題，最大限度地幫助您從數據中獲取商業價值。
正確發展大數據結構可謂是一個挑戰，同時可能成本是相當昂貴的。然而，結果必將物超所值的讓您成功收回投資。

『貳』 大數據怎麼實現的

搭建大數據分析平台的工作是循序漸進的，不同公司要根據自身所處階段選擇合適的平台形態，沒有必要過分追求平台的分析深度和服務屬性，關鍵是能解決當下的問題。大數據分析平台是對大數據時代的數據分析產品（或稱作模塊）的泛稱，諸如業務報表、OLAP應用、BI工具等都屬於大數據分析平台的范疇。與用戶行為分析平台相比，其分析維度更集中在核心業務數據，特別是對於一些非純線上業務的領域，例如線上電商、線下零售、物流、金融等行業。而用戶行為分析平台會更集中分析與用戶及用戶行為相關的數據。企業目前實現大數據分析平台的方法主要有三種：（1）采購第三方相關數據產品例如Tableau、Growing IO、神策、中琛魔方等。此類產品能幫助企業迅速搭建數據分析環境，不少第三方廠商還會提供專業的技術支持團隊。但選擇此方法，在統計數據的廣度、深度和准確性上可能都有所局限。例如某些主打無埋點技術的產品，只能統計到頁面上的一些通用數據。隨著企業數據化運營程度的加深，這類產品可能會力不從心。該方案適合缺少研發資源、數據運營初中期的企業。一般一些創業公司、小微企業可能會選擇此方案。（2）利用開源產品搭建大數據分析平台對於有一定開發能力的團隊，可以採用該方式快速且低成本地搭建起可用的大數據分析平台。該方案的關鍵是對開源產品的選擇，選擇正確的框架，在後續的擴展過程中會逐步體現出優勢。而如果需要根據業務做一些自定義的開發，最後還是繞不過對源碼的修改。（3）完全自建大數據分析平台對於中大型公司，在具備足夠研發實力的情況下，通常還是會自己開發相關的數據產品。自建平台的優勢是不言而喻的，企業可以完全根據自身業務需要定製開發，能夠對業務需求進行最大化的滿足。對於平台型業務，開發此類產品也可以進行對外的商業化，為平台上的B端客戶服務。例如淘寶官方推出的生意參謀就是這樣一款成熟的商用數據分析產品，且與淘寶業務和平台優勢有非常強的結合。在搭建大數據分析平台之前，要先明確業務需求場景以及用戶的需求，通過大數據分析平台，想要得到哪些有價值的信息，需要接入的數據有哪些，明確基於場景業務需求的大數據平台要具備的基本的功能，來決定平台搭建過程中使用的大數據處理工具和框架。

『叄』 如何建設一個落地的農業大數據體系

從最初的出發點，農業大數據是可以利用衛星遙感、氣象和土地等數據集成天氣、病蟲害、成長監測等到種植管理計劃中，並能夠進行作物產量和生長趨勢預測；
從標准化農場的規模化和自動化產業運營的角度，農業大數據是可以結合自動化農機、IoT的智慧農業等進行輔助決策分析；
通過大數據分析和預測，可以進行農產業的產品創新和垂直市場的深入開發；
通過大數據來支撐農產品的品質控制和種植生產等數據與農產品零售和食品零售的數據交換和追溯；
基於大數據來進行農業的一二三產的價值鏈整合，誰先掌握更多的大數據誰更容易建立產業鏈的首發優勢；
通過豐富和全面的大數據來支撐農產品品牌的打造和IP化；
但是，如果只是為了農業的大數據而大數據是沒有用的，一定要結合農業的實際應用場景來採集、利用和演算法分析，也就是要讓「量」大的大數據變成「厚實」應用場景的大數據。
現在的農業大數據大多是從數據源入手，比如天上的衛星遙感、地下的土地設備等，但缺少實際的農業應用場景，導致數據很難直接進行價值轉化落地，農業的大數據不只是天上的、地下的能夠解決，更關鍵是地面部隊，地面推進。農機，也沒有實現標准化和規模化的農場或者基地，而農場和農產品的交易平台也沒有完全實現，這就意味著農業大數據的道路還很漫長。

『肆』 如何構建大數據體系

一.數據搭建

建立自己的數據收集規范，形成一定的數據採集、篩選、分析等相應的制度

二.數據報表可視化

對數據進行標准化的配置，形成可視化的報表系統

三.產品與運營分析

對平台的各個角色建立全方位的用戶畫像，對行為進行數據跟蹤，對數據挖掘分析，建立漏斗模型，流動模型，用戶細分等模型。

四.精細化產品運營

對產品制定自動獲取數據制度，用數據跟蹤產品的生命周期，對數據進行細分，做到針對性運營

五.數據產品

藉助第三方數據獲取的渠道，形成數據化產品，提供數據化的依據

『伍』 如何創建一個大數據平台

首先要明來白大數據平台的基自礎，大數據的基礎就是數據，數據是要經過採集才能形成。

建立大數據平台，關鍵是使用比較好的信息採集技術。

這些技術，具有以下的特點：

信息採集系統的主要功能為：根據用戶自定義的任務配置，批量而精確地抽取網際網路目標網頁中的半結構化與非結構化數據，轉化為結構化的記錄，保存在本地資料庫中，用於內部使用或外網發布，快速實現外部信息的獲取。 如下圖所示：

淫才，這樣的信息採集技術，用途是非常廣泛的。

『陸』 如何搭建大數據分析平台

1、 搭建大數據分析平台的背景
在大數據之前，BI就已經存在很久了，簡單把大數據等同於BI，明顯是不恰當的。但兩者又是緊密關聯的，相輔相成的。BI是達成業務管理的應用工具，沒有BI，大數據就沒有了價值轉化的工具，就無法把數據的價值呈現給用戶，也就無法有效地支撐企業經營管理決策；大數據則是基礎，沒有大數據，BI就失去了存在的基礎，沒有辦法快速、實時、高效地處理數據，支撐應用。 所以，數據的價值發揮，大數據平台的建設，必然是囊括了大數據處理與BI應用分析建設的。
2、 大數據分析平台的特點
數據攝取、數據管理、ETL和數據倉庫：提供有效的數據入庫與管理數據用於管理作為一種寶貴的資源。
Hadoop系統功能：提供海量存儲的任何類型的數據，大量處理功率和處理能力幾乎是無限並行工作或任務
流計算在拉動特徵：用於流的數據、處理數據並將這些流作為單個流。
內容管理特徵：綜合生命周期管理和文檔內容。
數據治理綜合：安全、治理和合規解決方案來保護數據。
3、 怎樣去搭建大數據分析平台
大數據分析處理平台就是整合當前主流的各種具有不同側重點的大數據處理分析框架和工具，實現對數據的挖掘和分析，一個大數據分析平台涉及到的組件眾多，如何將其有機地結合起來，完成海量數據的挖掘是一項復雜的工作。我們可以利用億信一站式數據分析平台（ABI），可以快速構建大數據分析平台，該平台集合了從數據源接入到ETL和數據倉庫進行數據整合，再到數據分析，全部在一個平台上完成。
億信一站式數據分析平台（ABI）囊括了企業全部所需的大數據分析工具。ABI可以對各類業務進行前瞻性預測分析，並為企業各層次用戶提供統一的決策分析支持，提升數據共享與流轉能力。

『柒』 大數據平台是什麼什麼時候需要大數據平台如何建立大數據平台

首先我們要了解java語言和Linux操作系統，這兩個是學習大數據的基礎，學習的順序不分前後。

Java ：只要了解一些基礎即可，做大數據不需要很深的Java 技術，學java SE 就相當於有學習大數據基礎。

Linux：因為大數據相關軟體都是在Linux上運行的，所以Linux要學習的扎實一些，學好Linux對你快速掌握大數據相關技術會有很大的幫助，能讓你更好的理解hadoop、hive、hbase、spark等大數據軟體的運行環境和網路環境配置，能少踩很多坑，學會shell就能看懂腳本這樣能更容易理解和配置大數據集群。還能讓你對以後新出的大數據技術學習起來更快。

Hadoop：這是現在流行的大數據處理平台幾乎已經成為大數據的代名詞，所以這個是必學的。Hadoop裡麵包括幾個組件HDFS、MapRece和YARN，HDFS是存儲數據的地方就像我們電腦的硬碟一樣文件都存儲在這個上面，MapRece是對數據進行處理計算的，它有個特點就是不管多大的數據只要給它時間它就能把數據跑完，但是時間可能不是很快所以它叫數據的批處理。

Zookeeper：這是個萬金油，安裝Hadoop的HA的時候就會用到它，以後的Hbase也會用到它。它一般用來存放一些相互協作的信息，這些信息比較小一般不會超過1M，都是使用它的軟體對它有依賴，對於我們個人來講只需要把它安裝正確，讓它正常的run起來就可以了。

Mysql：我們學習完大數據的處理了，接下來學習學習小數據的處理工具mysql資料庫，因為一會裝hive的時候要用到，mysql需要掌握到什麼層度那?你能在Linux上把它安裝好，運行起來，會配置簡單的許可權，修改root的密碼，創建資料庫。這里主要的是學習SQL的語法，因為hive的語法和這個非常相似。

Sqoop：這個是用於把Mysql里的數據導入到Hadoop里的。當然你也可以不用這個，直接把Mysql數據表導出成文件再放到HDFS上也是一樣的，當然生產環境中使用要注意Mysql的壓力。

Hive：這個東西對於會SQL語法的來說就是神器，它能讓你處理大數據變的很簡單，不會再費勁的編寫MapRece程序。有的人說Pig那?它和Pig差不多掌握一個就可以了。

Oozie：既然學會Hive了，我相信你一定需要這個東西，它可以幫你管理你的Hive或者MapRece、Spark腳本，還能檢查你的程序是否執行正確，出錯了給你發報警並能幫你重試程序，最重要的是還能幫你配置任務的依賴關系。我相信你一定會喜歡上它的，不然你看著那一大堆腳本，和密密麻麻的crond是不是有種想屎的感覺。

Hbase：這是Hadoop生態體系中的NOSQL資料庫，他的數據是按照key和value的形式存儲的並且key是唯一的，所以它能用來做數據的排重，它與MYSQL相比能存儲的數據量大很多。所以他常被用於大數據處理完成之後的存儲目的地。

Kafka：這是個比較好用的隊列工具，隊列是干嗎的?排隊買票你知道不?數據多了同樣也需要排隊處理，這樣與你協作的其它同學不會叫起來，你干嗎給我這么多的數據(比如好幾百G的文件)我怎麼處理得過來，你別怪他因為他不是搞大數據的，你可以跟他講我把數據放在隊列里你使用的時候一個個拿，這樣他就不在抱怨了馬上灰流流的去優化他的程序去了，因為處理不過來就是他的事情。而不是你給的問題。當然我們也可以利用這個工具來做線上實時數據的入庫或入HDFS，這時你可以與一個叫Flume的工具配合使用，它是專門用來提供對數據進行簡單處理，並寫到各種數據接受方(比如Kafka)的。

Spark：它是用來彌補基於MapRece處理數據速度上的缺點，它的特點是把數據裝載到內存中計算而不是去讀慢的要死進化還特別慢的硬碟。特別適合做迭代運算，所以演算法流們特別稀飯它。它是用scala編寫的。Java語言或者Scala都可以操作它，因為它們都是用JVM的。

『捌』 如何創建一個大數據平台

所謂的大數據平台不是獨立存在的，比如網路是依賴搜索引擎獲得大數據並開展業務的，阿里是通過電子商務交易獲得大數據並開展業務的，騰訊是通過社交獲得大數據並開始業務的，所以說大數據平台不是獨立存在的，重點是如何搜集和沉澱數據，如何分析數據並挖掘數據的價值。

我可能還不夠資格回答這個問題，沒有經歷過一個公司大數據平台從無到有到復雜的過程。不過說說看法吧，也算是梳理一下想法找找噴。
這是個需求驅動的過程。
曾經聽過spotify的分享，印象很深的是，他們分享說，他們的hadoop集群第一次故障是因為，機器放在靠窗的地方，太陽曬了當機了（笑）。從簡單的沒有機房放在自家窗前的集群到一直到現在復雜的數據平台，這是一個不斷演進的過程。
對小公司來說，大概自己找一兩台機器架個集群算算，也算是大數據平台了。在初創階段，數據量會很小，不需要多大的規模。這時候組件選擇也很隨意，Hadoop一套，任務調度用腳本或者輕量的框架比如luigi之類的，數據分析可能hive還不如導入RMDB快。監控和部署也許都沒時間整理，用腳本或者輕量的監控，大約是沒有ganglia、nagios，puppet什麼的。這個階段也許算是技術積累，用傳統手段還是真大數據平台都是兩可的事情，但是為了今後的擴展性，這時候上Hadoop也許是不錯的選擇。
當進入高速發展期，也許擴容會跟不上計劃，不少公司可能會遷移平台到雲上，比如AWS阿里雲什麼的。小規模高速發展的平台，這種方式應該是經濟實惠的，省了運維和管理的成本，擴容比較省心。要解決的是選擇平台本身提供的服務，計算成本，打通數據出入的通道。整個數據平台本身如果走這條路，可能就已經基本成型了。走這條路的比較有名的應該是netflix。
也有一個階段，你發現雲服務的費用太高，雖然省了你很多事，但是花錢嗖嗖的。幾個老闆一合計，再玩下去下個月工資發布出來了。然後無奈之下公司開始往私有集群遷移。這時候你大概需要一群靠譜的運維，幫你監管機器，之前兩三台機器登錄上去看看狀態換個磁碟什麼的也許就不可能了，你面對的是成百上千台主機，有些關鍵服務必須保證穩定，有些是數據節點，磁碟三天兩頭損耗，網路可能被壓得不堪重負。你需要一個靠譜的人設計網路布局，設計運維規范，架設監控，值班團隊走起7*24小時隨時准備出台。然後上面再有平台組真的大數據平台走起。
然後是選型，如果有技術實力，可以直接用社區的一整套，自己管起來，監控部署什麼的自己走起。這個階段部署監控和用戶管理什麼的都不可能像兩三個節點那樣人肉搞了，配置管理，部署管理都需要專門的平台和組件；定期Review用戶的作業和使用情況，決定是否擴容，清理數據等等。否則等機器和業務進一步增加，團隊可能會死的很慘，疲於奔命，每天事故不斷，進入惡性循環。
當然有金錢實力的大戶可以找Cloudera，Hortonworks，國內可以找華為星環，會省不少事，適合非互聯網土豪。當然互聯網公司也有用這些東西的，比如Ebay。
接下去你可能需要一些重量的組件幫你做一些事情。
比如你的數據接入，之前可能找個定時腳本或者爬log發包找個伺服器接收寫入HDFS，現在可能不行了，這些大概沒有高性能，沒有異常保障，你需要更強壯的解決方案，比如Flume之類的。
你的業務不斷壯大，老闆需要看的報表越來越多，需要訓練的數據也需要清洗，你就需要任務調度，比如oozie或者azkaban之類的，這些系統幫你管理關鍵任務的調度和監控。
數據分析人員的數據大概可能漸漸從RDBMS搬遷到集群了，因為傳統資料庫已經完全hold不住了，但他們不會寫代碼，所以你上馬了Hive。然後很多用戶用了Hive覺得太慢，你就又上馬交互分析系統，比如Presto，Impala或者SparkSQL。
你的數據科學家需要寫ML代碼，他們跟你說你需要Mahout或者Spark MLLib，於是你也部署了這些。
至此可能數據平台已經是工程師的日常工作場所了，大多數業務都會遷移過來。這時候你可能面臨很多不同的問題。
比如各個業務線數據各種數據表多的一塌糊塗，不管是你還是寫數據的人大概都不知道數據從哪兒來，接下去到哪兒去。你就自己搞了一套元數據管理的系統。
你分析性能，發現你們的數據都是上百Column，各種復雜的Query，裸存的Text格式即便壓縮了也還是慢的要死，於是你主推用戶都使用列存，Parquet，ORC之類的。
又或者你發現你們的ETL很長，中間生成好多臨時數據，於是你下狠心把pipeline改寫成Spark了。
再接下來也許你會想到花時間去維護一個門戶，把這些零散的組件都整合到一起，提供統一的用戶體驗，比如一鍵就能把數據從資料庫chua一下拉到HDFS導入Hive，也能一鍵就chua一下再搞回去；點幾下就能設定一個定時任務，每天跑了給老闆自動推送報表；或者點一下就能起一個Storm的topology；或者界面上寫幾個Query就能查詢Hbase的數據。這時候你的數據平台算是成型了。
當然，磕磕碰碰免不了。每天你都有新的問題和挑戰，否則你就要失業了不是？
你發現社區不斷在解決你遇到過的問題，於是你們架構師每天分出很多時間去看社區的進展，有了什麼新工具，有什麼公司發布了什麼項目解決了什麼問題，興許你就能用上。
上了這些亂七八糟的東西，你以為就安生了？Hadoop平台的一個大特點就是坑多。尤其是新做的功能新起的項目。對於平台組的人，老闆如果知道這是天然坑多的平台，那他也許會很高興，因為跟進社區，幫忙修bug，一起互動其實是很提升公司影響力的實情。當然如果老闆不理解，你就自求多福吧，招幾個老司機，出了問題能馬上帶路才是正道。當然團隊的技術積累不能不跟上，因為數據平台還是亂世，三天不跟進你就不知道世界是什麼樣了。任何一個新技術，都是坑啊坑啊修啊修啊才完善的。如果是關鍵業務換技術，那需要小心再小心，技術主管也要有足夠的積累，能夠駕馭，知道收益和風險。

『玖』 搭建大數據平台的具體步驟是什麼

1、操作體系的挑選

操作體系一般使用開源版的RedHat、Centos或許Debian作為底層的構建渠道，要根據大數據渠道所要建立的數據剖析東西能夠支撐的體系，正確的挑選操作體系的版本。

2、建立Hadoop集群

Hadoop作為一個開發和運行處理大規模數據的軟體渠道，實現了在大量的廉價計算機組成的集群中對海量數據進行分布式計算。Hadoop結構中最核心的規劃是HDFS和MapRece，HDFS是一個高度容錯性的體系，合適布置在廉價的機器上，能夠供給高吞吐量的數據訪問，適用於那些有著超大數據集的應用程序;MapRece是一套能夠從海量的數據中提取數據最終回來成果集的編程模型。在生產實踐應用中，Hadoop非常合適應用於大數據存儲和大數據的剖析應用，合適服務於幾千台到幾萬台大的伺服器的集群運行，支撐PB級別的存儲容量。

3、挑選數據接入和預處理東西

面臨各種來源的數據，數據接入便是將這些零散的數據整合在一起，歸納起來進行剖析。數據接入首要包括文件日誌的接入、資料庫日誌的接入、關系型資料庫的接入和應用程序等的接入，數據接入常用的東西有Flume，Logstash，NDC(網易數據運河體系)，sqoop等。

4、數據存儲

除了Hadoop中已廣泛應用於數據存儲的HDFS，常用的還有分布式、面向列的開源資料庫Hbase，HBase是一種key/value體系，布置在HDFS上，與Hadoop一樣，HBase的目標首要是依靠橫向擴展，通過不斷的添加廉價的商用伺服器，添加計算和存儲才能。同時hadoop的資源管理器Yarn，能夠為上層應用供給統一的資源管理和調度，為集群在利用率、資源統一等方面帶來巨大的優點。

5、挑選數據挖掘東西

Hive能夠將結構化的數據映射為一張資料庫表，並供給HQL的查詢功能，它是建立在Hadoop之上的數據倉庫根底架構，是為了削減MapRece編寫工作的批處理體系，它的出現能夠讓那些通曉SQL技術、可是不熟悉MapRece、編程才能較弱和不擅長Java的用戶能夠在HDFS大規模數據集上很好的利用SQL言語查詢、匯總、剖析數據。

6、數據的可視化以及輸出API

關於處理得到的數據能夠對接主流的BI體系，比如國外的Tableau、Qlikview、PowrerBI等，國內的SmallBI和新興的網易有數(可免費試用)等，將成果進行可視化，用於決策剖析;或許迴流到線上，支撐線上業務的開展。