大數據的數據主要儲存在哪裡

『壹』 大數據時代，數據應該如何存儲

PB或多PB級基礎設施與傳統大規模數據集之間的差別簡直就像白天和黑夜的差別，就像在筆記本電腦上處理數據和在RAID陣列上處理數據之間的差別。"
當Day在2009年加入Shutterfly時，存儲已經成為該公司最大的開支，並且以飛快的速度增長。
"每N個PB的額外存儲意味著我們需要另一個存儲管理員來支持物理和邏輯基礎設施，"Day表示，"面對大規模數據存儲，系統會更頻繁地出問題，任何管理超大存儲的人經常都要處理硬體故障。大家都在試圖解決的根本問題是：當你知道存儲的一部分將在一段時間內出現問題，你應該如何確保數據可用性，同時確保不會降低性能？"RAID問題解決故障的標准答案是復制，通常以RAID陣列的形式。但Day表示，面對龐大規模的數據時，RAID解決問題的同時可能會製造更多問題。在傳統RAID數據存儲方案中，每個數據的副本都被鏡像和存儲在陣列的不同磁碟中，以確保完整性和可用性。但這意味著每個被鏡像和存儲的數據將需要其本身五倍以上的存儲空間。隨著RAID陣列中使用的磁碟越來越大（從密度和功耗的角度來看，3TB磁碟非常具有吸引力），更換故障驅動器的時間也將變得越來越長。
"實際上，我們使用RAID並不存在任何操作問題，"Day表示，"我們看到的是，隨著磁碟變得越來越大，當任何組件發生故障時，我們回到一個完全冗餘的系統的時間增加。生成校驗是與數據集的大小成正比的。當我們開始使用1TB和2TB的磁碟時，回到完全冗餘系統的時間變得很長。可以說，這種趨勢並沒有朝著正確的方向發展。"
對於Shutterfly而言，可靠性和可用性是非常關鍵的因素，這也是企業級存儲的要求。Day表示，其快速膨脹的存儲成本使商品系統變得更具吸引力。當Day及其團隊在研究潛在技術解決方案以幫助控制存儲成本時，他們對於一項叫做糾刪碼（erasure code）的技術非常感興趣。
採用擦除代碼技術的下一代存儲
里德-所羅門糾刪碼最初作為前向糾錯碼（Forward Error Correction, FEC）用於不可靠通道的數據傳輸，例如外層空間探測的數據傳輸。這項技術還被用於CD和DVD來處理光碟上的故障，例如灰塵和劃痕。一些存儲供應商已經開始將糾刪碼納入他們的解決方案中。使用糾刪碼，數據可以被分解成幾塊，單塊分解數據是無用的，然後它們被分散到不同磁碟驅動器或者伺服器。在任何使用，這些數據都可以完全重組，即使有些數據塊因為磁碟故障已經丟失。換句話說，你不需要創建多個數據副本，單個數據就可以確保數據的完整性和可用性。
基於糾刪碼的解決方案的早期供應商之一是Cleversafe公司，他們添加了位置信息來創建其所謂的分散編碼，讓用戶可以在不同位置（例如多個數據中心）存儲數據塊或者說數據片。
每個數據塊就其自身而言是無用的，這樣能夠確保隱私性和安全性。因為信息分散技術使用單一數據來確保數據完整性和可用性，而不是像RAID一樣使用多個副本，公司可以節省多達90%的存儲成本。
"當你將試圖重組數據時，你並不一定需要提供所有數據塊，"Cleversafe公司產品策略、市場營銷和客戶解決方案副總裁Russ Kennedy表示，"你生成的數據塊的數量，我們稱之為寬度，我們將重組數據需要的最低數量稱之為門檻。你生成的數據塊的數量和重組需要的數量之間的差異決定了其可靠性。同時，即使你丟失節點和驅動器，你仍然能夠得到原來形式的數據。"

『貳』 大數據的存儲

⼤數據的存儲⽅式是結構化、半結構化和⾮結構化海量數據的存儲和管理，輕型資料庫⽆法滿⾜對其存儲以及復雜的數據挖掘和分析操作，通常使⽤分布式⽂件系統、No SQL 資料庫、雲資料庫等。

結構化、半結構化和⾮結構化海量數據的存儲和管理，輕型資料庫⽆法滿⾜對其存儲以及復雜的數據挖掘和分析操作，通常使⽤分布式⽂件系統、No SQL 資料庫、雲資料庫等。

1 分布式系統：分布式系統包含多個⾃主的處理單元，通過計算機⽹絡互連來協作完成分配的任務，其分⽽治之的策略能夠更好的處理⼤規模數據分析問題。

主要包含以下兩類：

1）分布式⽂件系統：存儲管理需要多種技術的協同⼯作，其中⽂件系統為其提供最底層存儲能⼒的⽀持。分布式⽂件系統 HDFS 是⼀個⾼度容錯性系統，被設計成適⽤於批量處理，能夠提供⾼吞吐量的的數據訪問。

2）分布式鍵值系統：分布式鍵值系統⽤於存儲關系簡單的半結構化數據。典型的分布式鍵值系統有 Amazon Dynamo，以及獲得⼴泛應⽤和關注的對象存儲技術(Object Storage)也可以視為鍵值系統，其存儲和管理的是對象⽽不是數據塊。

2 Nosql 資料庫：關系資料庫已經⽆法滿⾜ Web2.0 的需求。主要表現為：⽆法滿⾜海量數據的管理需求、⽆法滿⾜數據⾼並發的需求、⾼可擴展性和⾼可⽤性的功能太低。No SQL 資料庫的優勢：可以⽀持超⼤規模數據存儲，靈活的數據模型可以很好地⽀持 Web2.0 應⽤，具有強⼤的橫向擴展能⼒等，典型的 No SQL 資料庫包含以下⼏種：

3 雲資料庫：雲資料庫是基於雲計算技術發展的⼀種共享基礎架構的⽅法，是部署和虛擬化在雲計算環境中的資料庫。

『叄』 大數據來自哪裡大數據會去哪裡

大數據來自哪裡?大數據會去哪裡?
初識大數據，首先我們需要知道什麼是大數據呢？用通俗一點的話來說就是一堆一堆又一堆的、海量的數據。通過網路我們知道「大數據(big data)，或稱巨量資料，指的是所涉及的資料量規模巨大到無法透過目前主流軟體工具，在合理時間內達到擷取、管理、處理、並整理成為幫助企業經營決策更積極目的的資訊。」
在當下的互聯網飛速發展的時代，任何一個技術都是為了達到某種目的而發展的，而大數據從根本上來說就是為了做決定存在的，大數據為企業的決策提供有力的依據。比如市場方針的制定，精準營銷的目標群體、營銷數據等等。大數據的存在不僅是為企業提供了數據支撐，而且為用戶提供了更為便捷的信息和數據服務。
大數據體現的是數據的數量多，數據類型豐富。我們需要通過對數據的關系的的挖掘，才能最終將數據進行更好地利用。
誰是物聯網？
物聯網是什麼呢？通俗的概念來講，物聯網就是通過網路信息技術和工業自動化控制技術將硬體和網路進行有效的集合並通過感測器進行對應的信息控制，以此達到對物件的自動控制的混合網路。通過網路我們知道「物聯網（The Internet of things）就是物物相連的互聯網」。這有兩層意思：第一，物聯網的核心和基礎仍然是互聯網，是在互聯網基礎上的延伸和擴展的網路；第二，其用戶端延伸和擴展到了任何物品與物品之間，進行信息交換和通信。物聯網通過智能感知、識別技術與普適計算、泛在網路的融合應用。」
隨著工業控制、信息識別和互聯網網路的發展，物聯網將是下一個信息浪潮。
大數據與物聯網的聯系既有區別也關聯。以小編的個人愚見，物聯網行業如果需要有較好的發展，那麼需要大數據強力的支持，而針對物聯網行業的大數據，則是不斷來源於物聯網超級終端的數據採集。所以，物聯網對大數據的要求相比於大數據對物聯網的依賴更為嚴重。
大數據來自哪裡？大數據會去哪裡？
淺談大數據的來源
大數據的來源這個問題其實很簡單，大數據的來源無非就是我們通過各種數據採集器、資料庫、開源的數據發布、GPS信息、網路痕跡（購物，搜索歷史等）、感測器收集的、用戶保存的、上傳的等等結構化或者非結構化的數據。
淺談大數據能夠帶給我們什麼
大數據能給我們帶來什麼？很多公司現在都在炒大數據的概念，但是真正能做好的有幾個呢？大數據重在積累、強在分析、利於運用。沒有經過多年的有意的數據收集、沒有經過嚴謹細心的數據分析。那麼，如何來談論大數據能給企業或者個人來帶來便捷呢？
大數據能帶給企業的項目立項的數據支撐、精準化營銷、電商的倉位儲備等等。但是針對個人用戶有時候就是麻煩了，因為你隨時都可以接收到很多的營銷簡訊、隱私暴露太多。另外對於個人用戶大數據的好處是可以快速找到自己想要東西、為用戶提供信息服務、獲取消費指導等等。換個角度看問題的話，小編認為應該是利大於弊。
大數據是怎麼帶給我們想要的支撐？
龐大的數據需要我們進行剝離、整理、歸類、建模、分析等操作，通過這些動作後，我們開始建立數據分析的維度，通過對不同的維度數據進行分析，最終我們才能得到我們想到的數據和信息。
1、 項目立項前的市場數據分析為決策提供支撐；
2、 目標用戶群體趨勢分析為產品提供支撐和商務支撐；
3、 通過對運營數據的挖掘和分析為企業提供運營數據支撐；
4、 通過對用戶行為數據進行分析，為用戶提供生活信息服務數據支撐和消費指導數據支撐。
如何通過大數據挖掘潛在的價值？
模型對於大數據的含義
模型有直觀模型，物理模型，思維模型，符合模型等。我們在進行數據挖掘前需要考慮我們需要用這些數據來干什麼？需要建立怎麼樣的模型？然後根據模型與數據的關系來不斷優化模型。
只有建立了正確的模型才能讓數據的挖掘和分析更有便捷。

『肆』 大數據到底是啥在哪裡（通俗解釋）

大數據（Big
data）
是一個抽象的概念，是一個體量特別大，數據類別特別大的數據集版，並且這權樣的數據集無法用傳統資料庫工具對其內容進行抓取、管理和處理。簡單說就是，難以用常規的資料庫工具獲取、存儲、管理、分析的數據集合。
大數據來源：人類社會的所有行為，比如交易、教育、出行、娛樂、吃住......
大數據包含的元素：文字、圖片、視頻、音頻、生物信息、生產資料......

『伍』 大數據包括哪些

大數據技術龐大復雜，基礎的技術包含數據的採集、數據預處理、分布式存儲、NoSQL數據內庫、容數據倉庫、機器學習、並行計算、可視化等各種技術范疇和不同的技術層面。
大數據主要技術組件：Hadoop、HBase、kafka、Hive、MongoDB、Redis、Spark 、Storm、Flink等。
大數據技術包括數據採集，數據管理，數據分析，數據可視化，數據安全等內容。數據的採集包括感測器採集，系統日誌採集以及網路爬蟲等。數據管理包括傳統的資料庫技術，nosql技術，以及對於針對大規模數據的大數據平台，例如hadoop，spark，storm等。數據分析的核心是機器學習，當然也包括深度學習和強化學習，以及自然語言處理，圖與網路分析等。

『陸』 大數據時代需要什麼樣的存儲

眾多專家認為，大數據時代的存儲，應當是分布式的存儲，並呈現出與計算融合的趨勢。當然，不同專家對融合的理解也有所區別。 SNIA-China技術委員會主席雷濤表示，在當前的大數據時代，由於數據量TB、PB級的急劇膨脹，傳統的數據搬移工作已經不現實，因而存儲伺服器出現新的融合趨勢。在這樣的架構中，數據不再移動，寫入以後分散在STORAGE，它的計算節點融合在數據旁邊的CPU，數據越來越貼近計算。 雷濤補充說，大數據只談商業分析的數據支持，這是小數據思維，從金融、運營商、政府行業我們做的項目裡面發現，大數據是嵌入到整個行業裡面，替換以前的存儲和計算的系統架構的過程。 華為存儲產品線Marketing部長經寧認為，大數據帶來的三大變化，包括從集中式走向分布式，從水平走向縱向，從計算為中心轉向以數據為中心，總結一句話，即在大數據下架構方向走向分布式存儲的架構。 2013年，華為存儲產品線把理念進行升級，變成「存以致用，融以致遠」。經寧表示，融合架構是我們面對大數據挑戰一個很好的選擇。華為更多的希望把數據智能用起來產生價值，通過融合架構實現計算存儲融合，可以帶來更高的管理效率更高效能，大大降低我們管理上的開銷。 中橋國際調研咨詢公司首席分析師王叢女士則從虛擬化、雲計算數據保護和融合架構三個維度談了中國數據中心的發展變化。她表示，具有高可移動性的虛擬機用於生產，掉了鏈子就很難判斷是哪個物理環境，這就驅動了融合架構。融合架構避免了整合的時間和網路問題判斷的時間，能夠實現統一集中透明管理，可以根據工作負載去實時動態配置資源，也可以實時監控哪裡出了問題，怎麼解決問題。 王叢還指出，融合架構有不同的形態，其中一種是在原來硬體基礎上用一個軟體罩上，然後形成融合架構，實現目的是可以在線擴展，所有動態可以負載均衡，在最大限度提高部署效率前提下，又能夠降低因為硬體問題而導致的應用性能降低和應用的不穩定。 老牌存儲廠商NetApp同樣對存儲架構很有體會。NetApp公司北方區及電信事業部技術總監劉煒表示，在今天把數據存起來不是很難的問題，買一個移動硬碟就可以存儲數據，但是在上面存儲享受的服務級別不同的，不同於放在數據中心和網路雲上面的服務級別的。 為了不讓數據成為整個企業發展的負擔，而是成為真正的價值點，從資料變成資產，基礎架構需要快速、安全地支持一些新的技術手段。劉煒認為，應用級別和服務級別怎麼定義需要有很好存儲架構。NetApp集群存儲系統，並不是簡單地迎合新概念，而是面向實際的應用設計。NetApp做了很多IT架構的設計，滿足應用分級、資源分層的需求，你可以用虛擬化，也可以不用。 Fusion-io大中國區技術總監Tonny Ai與英特爾公司通信和存儲基礎架構事業部存儲部市場總監 Christine M Rice女士談到了SSD在大數據時代數據中心的應用。Tonny Ai表示，讓包括非結構化數據的大量數據快速變成信息，不僅僅是伺服器要快，存儲速度也要跟上CPU的速度，快閃記憶體正是針對當前網路存儲速度落後的解決方案，能夠有效提高存儲的性能。 同時，Tonny Ai認為，在雲計算、大數據時代，集中式存儲需要的管理和維護非常困難，分布式存儲模型是大勢所趨。在這其中，Fusion-io提供了PCIe快閃記憶體卡、全快閃記憶體陣列以及SDK工具，支持提升各種應用的性能。 Christine M Rice女士指出，SSD不只是讓數據變快。她認為，通過SSD在數據中心的使用，能夠幫助節約成本，降低延遲，加快訪問數據的速度，同時還能夠提供非常高的可靠性和管理級別，結合了DRM的使用進行軟體分層管理。 戴爾亞太存儲技術總監許良謀則強調了SSD的利用要在成本和性能之間的平衡，如何更好地應對大數據——快閃記憶體的成本和壽命讓很多企業對它愛恨交加。許良謀認為，大數據需要一個高容量高速度的共享存儲，戴爾的流動數據架構就是一個讓數據平滑遷移的平台。 戴爾實現了一個新的技術突破，即快速SLC和eMLC大容量盤可以用到流動架構裡面，再加上普通的大容量盤，兩級固態盤優化和流動數據架構的配合，這種方案可以比普通純快閃記憶體的方式實現75%以上的成本節約。 許良謀介紹到，戴爾一直通過收購、合作等方式，在自身產品線中不斷引入新的存儲技術，力圖把最好的存儲產品以最經濟的方式提供給用戶。

『柒』 大數據的數據的存儲方式是什麼

大數據有效存儲和管理大數據的三種方式：
1. 不斷加密
任何類型的數據對於任何一個企業來說都是至關重要的，而且通常被認為是私有的，並且在他們自己掌控的范圍內是安全的。然而，黑客攻擊經常被覆蓋在業務故障中，最新的網路攻擊活動在新聞報道不斷充斥。因此，許多公司感到很難感到安全，尤其是當一些行業巨頭經常成為攻擊目標時。
隨著企業為保護資產全面開展工作，加密技術成為打擊網路威脅的可行途徑。將所有內容轉換為代碼，使用加密信息，只有收件人可以解碼。如果沒有其他的要求，則加密保護數據傳輸，增強在數字傳輸中有效地到達正確人群的機會。
2. 倉庫存儲
大數據似乎難以管理，就像一個永無休止統計數據的復雜的漩渦。因此，將信息精簡到單一的公司位置似乎是明智的，這是一個倉庫，其中所有的數據和伺服器都可以被充分地規劃指定。然而，有些報告指出了反對這種方法的論據，指出即使是最大的存儲中心，大數據的指數增長也不再能維持。
然而，在某些情況下，企業可能會租用一個倉庫來存儲大量數據，在大數據超出的情況下，這是一個臨時的解決方案，而LCP屬性提供了一些很好的機會。畢竟，企業不會立即被大量的數據所淹沒，因此，為物理機器租用倉庫至少在短期內是可行的。這是一個簡單有效的解決方案，但並不是永久的成本承諾。
3. 備份服務 - 雲端
當然，不可否認的是，大數據管理和存儲正在迅速脫離物理機器的范疇，並迅速進入數字領域。除了所有技術的發展，大數據增長得更快，以這樣的速度，世界上所有的機器和倉庫都無法完全容納它。
因此，由於雲存儲服務推動了數字化轉型，雲計算的應用越來越繁榮。數據在一個位置不再受到風險控制，並隨時隨地可以訪問，大型雲計算公司(如谷歌雲)將會更多地訪問基本統計信息。數據可以在這些服務上進行備份，這意味著一次網路攻擊不會消除多年的業務增長和發展。最終，如果出現網路攻擊，雲端將以A遷移到B的方式提供獨一無二的服務。

『捌』 大數據來源有哪些

大數據分析的數據來源有很多種，包括公司或者機構的內部來源和外部來源。分為以下幾類：
1)交易數據。包括POS機數據、信用卡刷卡數據、電子商務數據、互聯網點擊數據、「企業資源規劃」(ERP)系統數據、銷售系統數據、客戶關系管理(CRM)系統數據、公司的生產數據、庫存數據、訂單數據、供應鏈數據等。
2)移動通信數據。能夠上網的智能手機等移動設備越來越普遍。移動通信設備記錄的數據量和數據的立體完整度，常常優於各家互聯網公司掌握的數據。移動設備上的軟體能夠追蹤和溝通無數事件，從運用軟體儲存的交易數據(如搜索產品的記錄事件)到個人信息資料或狀態報告事件(如地點變更即報告一個新的地理編碼)等。
3)人為數據。人為數據包括電子郵件、文檔、圖片、音頻、視頻，以及通過微信、博客、推特、維基、臉書、Linkedin等社交媒體產生的數據流。這些數據大多數為非結構性數據，需要用文本分析功能進行分析。
4)機器和感測器數據。來自感應器、量表和其他設施的數據、定位/GPS系統數據等。這包括功能設備會創建或生成的數據，例如智能溫度控制器、智能電表、工廠機器和連接互聯網的家用電器的數據。來自新興的物聯網(Io T)的數據是機器和感測器所產生的數據的例子之一。來自物聯網的數據可以用於構建分析模型，連續監測預測性行為(如當感測器值表示有問題時進行識別)，提供規定的指令(如警示技術人員在真正出問題之前檢查設備)等。
5)互聯網上的「開放數據」來源，如政府機構，非營利組織和企業免費提供的數據。

『玖』 大數據解決方案主要用於存儲哪種類型的數據

大數據解決方案主要用於存儲二進制類型的數據。

數據還包括了結構化數據和非結構化數據，郵件，Word,圖片，音頻信息，視頻信息等各種類型數據，已經不是以往的關系型資料庫可以解決的了。非結構化數據的超大規模和增長，占總數據量的80~90%，比結構化數據增長快10倍到50倍，是傳統數據倉庫的10倍到50倍。

大數據特點：

海量數據有不同格式，第一種是結構化，我們常見的數據，還有半結據化網頁數據，還有非結構化視頻音頻數據。而且這些數據化他們處理方式是比較大的。數據類型繁多，如網路日誌、視頻、圖片、地理位置信息，等等。