mpp大數據架構

Ⅱ mpp架構資料庫有哪些

MPP的代表產品有：Vertica/Redshift(Paracel，被Amazon買買下了源碼的license後變成Redshift)/Greenplum。仔細觀察不難發現，這三者其版實有非常很多相權同點：
1.全部基於PostgreSQL
2.都是基於列的存儲(Columnar Storage)
3.操作都是以Scan為基礎，依賴Compression來提供性能的優化

Ⅲ 大數據方面核心技術有哪些

大數據技術的體系龐大且復雜，基礎的技術包含數據的採集、數據預處理、分布式回存儲、資料庫、答數據倉庫、機器學習、並行計算、可視化等。

1、數據採集與預處理：

Flume NG實時日誌收集系統，支持在日誌系統中定製各類數據發送方，用於收集數據；

Zookeeper是一個分布式的，開放源碼的分布式應用程序協調服務，提供數據同步服務。

2、數據存儲：

Hadoop作為一個開源的框架，專為離線和大規模數據分析而設計，HDFS作為其核心的存儲引擎，已被廣泛用於數據存儲。

HBase，是一個分布式的、面向列的開源資料庫，可以認為是hdfs的封裝，本質是數據存儲、NoSQL資料庫。

3、數據清洗：MapRece作為Hadoop的查詢引擎，用於大規模數據集的並行計算

4、數據查詢分析：

Hive的核心工作就是把SQL語句翻譯成MR程序，可以將結構化的數據映射為一張資料庫表，並提供 HQL(Hive SQL)查詢功能。

Spark 啟用了內存分布數據集，除了能夠提供互動式查詢外，它還可以優化迭代工作負載。

5、數據可視化：對接一些BI平台，將分析得到的數據進行可視化，用於指導決策服務。

Ⅳ mpp資料庫適合哪些應用場景

MPP資料庫主要適合查詢統計、分析研判等大數據處理場景，主要特點是整體架版構呈現純扁平化，權不存在單點性能瓶頸，基於開放式標准X86 PC伺服器構建，採用分布式架構設計，靈活實現按需部署，具備靈活的系統伸縮性，支持系統的縱向擴展和橫向擴展。
國內的產品主要是南大通用的GBase 8a MPP Cluster，是面向大數據、雲計算場景自主研發的大規模並行資料庫集群產品，在海量數據高速處理的場景下具有高性能、低成本、高可靠、易使用等諸多優勢，國外的如GreenPlum、Vertica等。

Ⅳ 比較smp 、ssmp 、cc -numa 、基於集群的mpp 及dsm 在體系結構的異同點

NUMA全稱為Non-Uniform Memory Access，是主流服務伺服器為了提高SMP的可擴展性而採用的一種體系結構。主流伺服器一般由多個NUMA節點組成，每個NUMA節點是一個SMP結構，一般由多個CPU組成，並且具有本地內存和IO設備。NUMA節點可以直接訪問本地內存，也可以通過NUMA互聯模塊訪問其他NUMA節點的內存，但是訪問本地內存的速度遠遠高於遠程訪問速度，因此，開發程序要盡量減少不同NUMA節點之間的信息交互。MPP是一種海量數據實時分析架構。 MPP作為一種不共享架構，每個節點運行自己的操作系統和資料庫等，節點之間信息交互只能通過網路連接實現。MPP架構目前被並行資料庫廣泛採用，一般通過scan、sort和merge等操作符實時返回查詢結果。目前採用MPP架構的實時查詢系統有EMC Greenplum、HP Vertica和Googl jdjdzj e Dremel，這些都是實時數據處理領域非常有特點的系統，尤其是Dremel可以輕松擴展到上千台伺服器，並在數秒內完成TB級數據的分析。Hadoop作為一個開源項目群本身和MPP並沒有什麼直接關系，Hadoop中的子項目MapRece雖然也是做數據分析處理的，但是一般只適用於離線數據分析，區別與MPP較為明顯。因為Map和Rece兩個過程涉及到輸出文件的存取和大量網路傳輸，因此往往達不到實時處理的要求。與MapRece 相似的系統還有Microsoft Dryad和Google pregel。綜上所述，NUMA是一種體系結構，MPP是一種實時海量數據分析架構，而Hadoop是一個關於數據存儲處理的項目群，其中的MapRece是一種離線海量數據分析架構。實測對比GreenPlum和Hive，GP比Hive性能高出至少一個數量級，但是大部分場景下，依然是秒級甚至分鍾級的延遲，距離具體通常意義的實時毫秒級，差距巨大。另外說一句，廣義的Hadoop包括 Impala, Presto Distributed SQL Query Engine for Big Data 這些MPP架構的SQL引擎。Hadoop社區還在持續發展，Spark還在持續給人們帶來驚喜，開源軟體的迷人之處也在於此。

Ⅵ 大數據存儲與應用特點及技術路線分析

大數據存儲與應用特點及技術路線分析

大數據時代，數據呈爆炸式增長。從存儲服務的發展趨勢來看，一方面，對數據的存儲量的需求越來越大；另一方面，對數據的有效管理提出了更高的要求。大數據對存儲設備的容量、讀寫性能、可靠性、擴展性等都提出了更高的要求，需要充分考慮功能集成度、數據安全性、數據穩定性，系統可擴展性、性能及成本各方面因素。

大數據存儲與應用的特點分析

「大數據」是由數量巨大、結構復雜、類型眾多數據構成的數據集合，是基於雲計算的數據處理與應用模式，通過數據的整合共享，交叉復用形成的智力資源和知識服務能力。其常見特點可以概括為3V:Volume、Velocity、Variety(規模大、速度快、多樣性)。

大數據具有數據規模大(Volume)且增長速度快的特性，其數據規模已經從PB級別增長到EB級別，並且仍在不斷地根據實際應用的需求和企業的再發展繼續擴容，飛速向著ZB(ZETA-BYTE)的規模進軍。以國內最大的電子商務企業淘寶為例，根據淘寶網的數據顯示，至2011年底，淘寶網最高單日獨立用戶訪問量超過1.2億人，比2010年同期增長120%,注冊用戶數量超過4億，在線商品數量達到8億，頁面瀏覽量達到20億規模，淘寶網每天產生4億條產品信息，每天活躍數據量已經超過50TB.所以大數據的存儲或者處理系統不僅能夠滿足當前數據規模需求，更需要有很強的可擴展性以滿足快速增長的需求。

(1)大數據的存儲及處理不僅在於規模之大，更加要求其傳輸及處理的響應速度快(Velocity)。

相對於以往較小規模的數據處理，在數據中心處理大規模數據時，需要服務集群有很高的吞吐量才能夠讓巨量的數據在應用開發人員「可接受」的時間內完成任務。這不僅是對於各種應用層面的計算性能要求，更加是對大數據存儲管理系統的讀寫吞吐量的要求。例如個人用戶在網站選購自己感興趣的貨物，網站則根據用戶的購買或者瀏覽網頁行為實時進行相關廣告的推薦，這需要應用的實時反饋;又例如電子商務網站的數據分析師根據購物者在當季搜索較為熱門的關鍵詞，為商家提供推薦的貨物關鍵字，面對每日上億的訪問記錄要求機器學習演算法在幾天內給出較為准確的推薦，否則就丟失了其失效性；更或者是計程車行駛在城市的道路上，通過GPS反饋的信息及監控設備實時路況信息，大數據處理系統需要不斷地給出較為便捷路徑的選擇。這些都要求大數據的應用層可以最快的速度，最高的帶寬從存儲介質中獲得相關海量的數據。另外一方面，海量數據存儲管理系統與傳統的資料庫管理系統，或者基於磁帶的備份系統之間也在發生數據交換，雖然這種交換實時性不高可以離線完成，但是由於數據規模的龐大，較低的數據傳輸帶寬也會降低數據傳輸的效率，而造成數據遷移瓶頸。因此大數據的存儲與處理的速度或是帶寬是其性能上的重要指標。

(2)大數據由於其來源的不同，具有數據多樣性的特點。

所謂多樣性，一是指數據結構化程度，二是指存儲格式，三是存儲介質多樣性。對於傳統的資料庫，其存儲的數據都是結構化數據，格式規整，相反大數據來源於日誌、歷史數據、用戶行為記錄等等，有的是結構化數據，而更多的是半結構化或者非結構化數據，這也正是傳統資料庫存儲技術無法適應大數據存儲的重要原因之一。所謂存儲格式，也正是由於其數據來源不同，應用演算法繁多，數據結構化程度不同，其格式也多種多樣。例如有的是以文本文件格式存儲，有的則是網頁文件，有的是一些被序列化後的比特流文件等等。所謂存儲介質多樣性是指硬體的兼容，大數據應用需要滿足不同的響應速度需求，因此其數據管理提倡分層管理機制，例如較為實時或者流數據的響應可以直接從內存或者Flash(SSD)中存取，而離線的批處理可以建立在帶有多塊磁碟的存儲伺服器上，有的可以存放在傳統的SAN或者NAS網路存儲設備上，而備份數據甚至可以存放在磁帶機上。因而大數據的存儲或者處理系統必須對多種數據及軟硬體平台有較好的兼容性來適應各種應用演算法或者數據提取轉換與載入(ETL)。

大數據存儲技術路線最典型的共有三種：

第一種是採用MPP架構的新型資料庫集群，重點面向行業大數據，採用Shared Nothing架構，通過列存儲、粗粒度索引等多項大數據處理技術，再結合MPP架構高效的分布式計算模式，完成對分析類應用的支撐，運行環境多為低成本 PC Server，具有高性能和高擴展性的特點，在企業分析類應用領域獲得極其廣泛的應用。

這類MPP產品可以有效支撐PB級別的結構化數據分析，這是傳統資料庫技術無法勝任的。對於企業新一代的數據倉庫和結構化數據分析，目前最佳選擇是MPP資料庫。

第二種是基於Hadoop的技術擴展和封裝，圍繞Hadoop衍生出相關的大數據技術，應對傳統關系型資料庫較難處理的數據和場景，例如針對非結構化數據的存儲和計算等，充分利用Hadoop開源的優勢，伴隨相關技術的不斷進步，其應用場景也將逐步擴大，目前最為典型的應用場景就是通過擴展和封裝 Hadoop來實現對互聯網大數據存儲、分析的支撐。這裡面有幾十種NoSQL技術，也在進一步的細分。對於非結構、半結構化數據處理、復雜的ETL流程、復雜的數據挖掘和計算模型，Hadoop平台更擅長。

第三種是大數據一體機，這是一種專為大數據的分析處理而設計的軟、硬體結合的產品，由一組集成的伺服器、存儲設備、操作系統、資料庫管理系統以及為數據查詢、處理、分析用途而特別預先安裝及優化的軟體組成，高性能大數據一體機具有良好的穩定性和縱向擴展性。

以上是小編為大家分享的關於大數據存儲與應用特點及技術路線分析的相關內容，更多信息可以關注環球青藤分享更多干貨

Ⅶ 數據平台建設的方案有哪幾種

1、常規數據倉庫

數據倉庫的重點，是對數據進行整合，同時也是對業務邏輯的一個梳理。數據倉庫雖然也可以打包成SAAS那種Cube一類的東西來提升數據的讀取性能，但是數據倉庫的作用，更多的是為了解決公司的業務問題。

2、敏捷型數據集市

數據集市也是常見的一種方案，底層的數據產品與分析層綁定，使得應用層可以直接對底層數據產品中的數據進行拖拽式分析。數據集市，主要的優勢在於對業務數據進行簡單的、快速的整合，實現敏捷建模，並且大幅提升數據的處理速度。

3、MPP(大規模並行處理)架構

進入大數據時代以來，傳統的主機計算模式已經不能滿足需求了，分布式存儲和分布式計算才是王道。大家所熟悉的Hadoop MapRece框架以及MPP計算框架，都是基於這一背景產生。

MPP架構的代表產品，就是Greenplum。Greenplum的資料庫引擎是基於Postgresql的，並且通過Interconnnect神器實現了對同一個集群中多個Postgresql實例的高效協同和並行計算。

4、Hadoop分布式系統架構

當然，大規模分布式系統架構，Hadoop依然站在不可代替的關鍵位置上。雅虎、Facebook、網路、淘寶等國內外大企，最初都是基於Hadoop來展開的。

Hadoop生態體系龐大，企業基於Hadoop所能實現的需求，也不僅限於數據分析，也包括機器學習、數據挖掘、實時系統等。企業搭建大數據系統平台，Hadoop的大數據處理能力、高可靠性、高容錯性、開源性以及低成本，都使得它成為首選。

關於數據平台建設的方案有哪幾種，環球青藤小編就和您分享到這里了。如果您對大數據工程有濃厚的興趣，希望這篇文章可以為您提供幫助。如果您還想了解更多關於數據分析師、大數據工程師的技巧及素材等內容，可以點擊本站的其他文章進行學習。

Ⅷ 大數據和大數據開發有什麼區別

大數據指純粹的大量數據；大數據開發指從大量數據中找到有用的信息加以開發利用。