支持大數據管理的nosql系統研究綜述

『壹』 大數據時代數據管理方式研究

大數據時代數據管理方式研究
1數據管理技術的回顧
數據管理技術主要經歷了人工管理階段、文件系統階段和資料庫系統階段。隨著數據應用領域的不斷擴展，數據管理所處的環境也越來越復雜，目前廣泛流行的資料庫技術開始暴露出許多弱點，面臨著許多新的挑戰。
1.1 人工管理階段
20 世紀 50 年代中期，計算機主要用於科學計算。當時沒有磁碟等直接存取設備，只有紙帶、卡片、磁帶等外存，也沒有操作系統和管理數據的專門軟體。該階段管理的數據不保存、由應用程序管理數據、數據不共享和數據不具有獨立性等特點。
1.2 文件系統階段
20 世紀 50 年代後期到 60 年代中期，隨著計算機硬體和軟體的發展，磁碟、磁鼓等直接存取設備開始普及，這一時期的數據處理系統是把計算機中的數據組織成相互獨立的被命名的數據文件，並可按文件的名字來進行訪問，對文件中的記錄進行存取的數據管理技術。數據可以長期保存在計算機外存上，可以對數據進行反復處理，並支持文件的查詢、修改、插入和刪除等操作。其數據面向特定的應用程序，因此，數據共享性、獨立性差，且冗餘度大，管理和維護的代價也很大。
1.3資料庫階段
20 世紀 60 年代後期以來，計算機性能得到進一步提高，更重要的是出現了大容量磁碟，存儲容量大大增加且價格下降。在此基礎上，才有可能克服文件系統管理數據時的不足，而滿足和解決實際應用中多個用戶、多個應用程序共享數據的要求，從而使數據能為盡可能多的應用程序服務，這就出現了資料庫這樣的數據管理技術。資料庫的特點是數據不再只針對某一個特定的應用，而是面向全組織，具有整體的結構性，共享性高，冗餘度減小，具有一定的程序與數據之間的獨立性，並且對數據進行統一的控制。
2大數據時代的數據管理技術
大數據（big data），或稱巨量資料，指的是所涉及的資料量規模巨大到無法透過目前主流軟體工具，在合理時間內達到擷取、管理、處理、並整理成為幫助企業經營決策更積極目的的資訊。大數據有 3 個 V,一是大量化（Volume），數據量是持續快速增加的，從 TB級別，躍升到 PB 級別；二是多樣化（Variety），數據類型多樣化，結構化數據已被視為小菜一碟，圖片、音頻、視頻等非結構化數據正以傳統結構化數據增長的兩倍速快速創建；三是快速化 （Velocity），數據生成速度快，也就需要快速的處理能力，因此，產生了「1 秒定律」,就是說一般要在秒級時間范圍內給出分析結果，時間太長就失去價值了，這個速度要求是大數據處理技術和傳統的數據挖掘技術最大的區別。
2.1 關系型資料庫（RDBMS）
20 世紀 70 年代初，IBM 工程師 Codd 發表了著名的論文「A Relational Model of Data for Large Shared DataBanks」,標志著關系資料庫時代來臨。關系資料庫的理論基礎是關系模型，是藉助於集合代數等數學概念和方法來處理資料庫中的數據，現實世界中的實體以及實體之間的聯系非常容易用關系模型來表示。容易理解的模型、容易掌握的查詢語言、高效的優化器、成熟的技術和產品，使得關系資料庫占據了資料庫市場的絕對的統治地位。隨著互聯網 web2.0 網站的興起，半結構化和非結構化數據的大量涌現，傳統的關系資料庫在應付 web2.0 網站特別是超大規模和高並發的 SNS（全稱 Social Networking Services,即社會性網路服務） 類型的 web2.0 純動態網站已經顯得力不從心，暴露了很多難以克服的問題。
2.2 noSQL資料庫
順應時代發展的需要產生了 noSQL資料庫技術，其主要特點是採用與關系模型不同的數據模型，當前熱門的 noSQL資料庫系統可以說是蓬勃發展、異軍突起，很多公司都熱情追捧之，如：由 Google 公司提出的 Big Table 和 MapRece 以及 IBM 公司提出的 Lotus Notes 等。不管是那個公司的 noSQL資料庫都圍繞著大數據的 3 個 V,目的就是解決大數據的 3個 V 問題。因此，在設計 noSQL 時往往考慮以下幾個原則，首先，採用橫向擴展的方式，通過並行處理技術對數據進行劃分並進行並行處理，以獲得高速的讀寫速度；其次，解決數據類型從以結構化數據為主轉向結構化、半結構化、非結構化三者的融合的問題；再次，放鬆對數據的 ACID 一致性約束，允許數據暫時出現不一致的情況，接受最終一致性；最後，對各個分區數據進行備份（一般是 3 份），應對節點失敗的狀況等。
對數據的應用可以分為分析型應用和操作型應用，分析型應用主要是指對大量數據進行分類、聚集、匯總，最後獲得數據量相對小的分析結果；操作型應用主要是指對數據進行增加、刪除、修改和查詢以及簡單的匯總操作，涉及的數據量一般比較少，事務執行時間一般比較短。目前資料庫可分為關系資料庫和 noSQL資料庫，根據數據應用的要求，再結合目前資料庫的種類，所以目前資料庫管理方式主要有以下 4 類。
（1）面向操作型的關系資料庫技術。
首先，傳統資料庫廠商提供的基於行存儲的關系資料庫系統，如 DB2、Oracle、SQL Server 等，以其高度的一致性、精確性、系統可恢復性，在事務處理方面仍然是核心引擎。其次，面向實時計算的內存資料庫系統，如 Hana、Timesten、Altibase 等通過把對數據並發控制、查詢和恢復等操作控制在內存內部進行，所以獲得了非常高的性能，在很多特定領域如電信、證券、網管等得到普遍應用。另外，以 VoltDB、Clustrix 和NuoDB 為代表的 new SQL 宣稱能夠在保持 ACDI 特性的同時提高了事務處理性能 50 倍 ~60 倍。
（2）面向分析型的關系資料庫技術。
首先，TeraData 是數據倉庫領域的領頭羊，Teradata 在整體上是按 Shared Nothing 架構體系進行組織的，定位就是大型數據倉庫系統，支持較高的擴展性。其次，面向分析型應用，列存儲資料庫的研究形成了另一個重要的潮流。列存儲資料庫以其高效的壓縮、更高的 I/O 效率等特點，在分析型應用領域獲得了比行存儲資料庫高得多的性能。如：MonetDB 和 Vertica是一個典型的基於列存儲技術的資料庫系統。
（3）面向操作型的 noSQL 技術。
有些操作型應用不受 ACID 高度一致性約束，但對大數據處理需要處理的數據量非常大，對速度性能要求也非常高，這樣就必須依靠大規模集群的並行處理能力來實現數據處理，弱一致性或最終一致性就可以了。這時，操作型 noSQL資料庫的優點就可以發揮的淋漓盡致了。如，Hbase 一天就可以有超過 200 億個到達硬碟的讀寫操作，實現對大數據的處理。另外，noSQL資料庫是一個數據模型靈活、支持多樣數據類型，如對圖數據建模、存儲和分析，其性能、擴展性是關系資料庫無法比擬的。
（4）面向分析型的 noSQL 技術。
面向分析型應用的 noSQL 技術主要依賴於Hadoop 分布式計算平台，Hadoop 是一個分布式計算平台，以 HDFS 和 Map Rece 為用戶提供系統底層細節透明的分布式基礎架構。《Hadoop 經典實踐染技巧》傳統的資料庫廠商 Microsoft,Oracle,SAS,IBM 等紛紛轉向 Hadoop 的研究，如微軟公司關閉 Dryad 系統，全力投入 Map Rece 的研發，Oracle 在 2011 年下半年發布 Big Plan 戰略計劃，全面進軍大數據處理領域，IBM 則早已捷足先登「,沃森（Watson）」計算機就是基於 Hadoop 技術開發的產物，同時 IBM 發布了 BigInsights 計劃，基於 Hadoop,Netezza 和 SPSS（統計分析、數據挖掘軟體）等技術和產品構建大數據分析處理的技術框架。同時也涌現出一批新公司來研究Hadoop 技術，如 Cloudera、MapRKarmashpere 等。
3數據管理方式的展望
通過以上分析，可以看出關系資料庫的 ACID 強調數據一致性通常指關聯數據之間的邏輯關系是否正確和完整，而對於很多互聯網應用來說，對這一致性和隔離性的要求可以降低，而可用性的要求則更為明顯，此時就可以採用 noSQL 的兩種弱一致性的理論 BASE 和 CAP.關系資料庫和 noSQL資料庫並不是想到對立的矛盾體，而是可以相互補充的，根據不同需求使用不同的技術，甚至二者可以共同存在，互不影響。最近幾年，以 Spanner 為代表新型資料庫的出現，給資料庫領域注入新鮮血液，這就是融合了一致性和可用性的 newSQL,這種新型思維方式或許會是未來大數據處理方式的發展方向。
4 結束語
隨著雲計算、物聯網等的發展，數據呈現爆炸式的增長，人們正被數據洪流所包圍，大數據的時代已經到來。正確利用大數據給人們的生活帶來了極大的便利，但與此同時也給傳統的數據管理方式帶來了極大的挑戰。

『貳』 現在最成熟的開源nosql是什麼分別有什麼優缺點

NoSQL，泛指非關系型的資料庫。隨著互聯網web2.0網站的興起，傳統的關系資料庫在應付web2.0網站，特別是超大規模和高並發的SNS類型的web2.0純動態網站已經顯得力不從心，暴露了很多難以克服的問題，而非關系型的資料庫則由於其本身的特點得到了非常迅速的發展。NoSQL資料庫的產生就是為了解決大規模數據集合多重數據種類帶來的挑戰，尤其是大數據應用難題。

雖然NoSQL流行語火起來才短短一年的時間，但是不可否認，現在已經開始了第二代運動。盡管早期的堆棧代碼只能算是一種實驗，然而現在的系統已經更加的成熟、穩定。不過現在也面臨著一個嚴酷的事實：技術越來越成熟——以至於原來很好的NoSQL數據存儲不得不進行重寫，也有少數人認為這就是所謂的2.0版本。這里列出一些比較知名的工具，可以為大數據建立快速、可擴展的存儲庫。

NoSQL(NoSQL = Not Only SQL )，意即「不僅僅是SQL」，是一項全新的資料庫革命性運動，早期就有人提出，發展至2009年趨勢越發高漲。NoSQL的擁護者們提倡運用非關系型的數據存儲，相對於鋪天蓋地的關系型資料庫運用，這一概念無疑是一種全新的思維的注入。

NoSQL資料庫在以下的這幾種情況下比較適用：1、數據模型比較簡單；2、需要靈活性更強的IT系統；3、對資料庫性能要求較高；4、不需要高度的數據一致性；5、對於給定key，比較容易映射復雜值的環境。

『叄』 NoSQL 資料庫：何時使用 NoSQL 與 SQL

NoSQL 資料庫因其功能性、易於開發性和可擴展性而廣受認可，它們越來越多地用於大數據和實時 Web 應用程序，在本文中，我們通過示例討論 NoSQL、何時使用 NoSQL 與 SQL 及其用例。

NoSQL是一種下一代資料庫管理系統 (DBMS)。NoSQL 資料庫具有靈活的模式，可用於構建具有大量數據和高負載的現代應用程序。

「NoSQL」一詞最初是由 Carlo Strozzi 在 1998 年創造的，盡管自 1960 年代後期以來就已經存在類似的資料庫。然而，NoSQL 的發展始於 2009 年初，並且發展迅速。

在處理大量數據時，任何關系資料庫管理系統 (RDBMS) 的響應時間都會變慢。為了解決這個問題，我們可以通過升級現有硬體來「擴大」信息系統，這非常昂貴。但是，NoSQL 可以更好地橫向擴展並且更具成本效益。

NoSQL 對於非結構化或非常大的數據對象（例如聊天日誌數據、視頻或圖像）非常有用，這就是為什麼 NoSQL 在微軟、谷歌、亞馬遜、Meta (Facebook) 等互聯網巨頭中特別受歡迎的原因。

一些流行的 NoSQL 資料庫包括：

隨著企業更快地積累更大的數據集，結構化數據和關系模式並不總是適合。有必要使用非結構化數據和大型對象來更好地捕獲這些信息。

傳統的 RDBMS 使用 SQL（結構化查詢語言）語法來存儲和檢索結構化數據，相反，NoSQL 資料庫包含廣泛的功能，可以存儲和檢索結構化、半結構化、非結構化和多態數據。

有時，NoSQL 也被稱為「 不僅僅是 SQL 」，強調它可能支持類似 SQL 的語言或與 SQL 資料庫並列。SQL 和 NoSQL DBMS 之間的一個區別是 JOIN 功能。SQL 資料庫使用 JOIN 子句來組合來自兩個或多個表的行，因為 NoSQL 資料庫本質上不是表格的，所以這個功能並不總是可行或相關的。

但是，一些 NoSQL DBMS 可以執行類似於 JOIN的操作——就像 MongoDB 一樣。這並不意味著不再需要 SQL DBMS，相反，NoSQL 和 SQL 資料庫傾向於以不同的方式解決類似的問題。

一般來說，在以下情況下，NoSQL 比 SQL 更可取：

許多行業都在採用 NoSQL，取代關系資料庫，從而為某些業務應用程序提供更高的靈活性和可擴展性，下面給出了 NoSQL 資料庫的一些企業用例。

內容管理是一組用於收集、管理、傳遞、檢索和發布任何格式的信息的過程，包括文本、圖像、音頻和視頻。NoSQL 資料庫可以通過其靈活和開放的數據模型為存儲多媒體內容提供更好的選擇。

例如，福布斯在短短幾個月內就構建了一個基於 MongoDB 的定製內容管理系統，以更低的成本為他們提供了更大的敏捷性。

大數據是指太大而無法通過傳統處理系統處理的數據集，實時存儲和檢索大數據的系統在分析 歷史 數據的同時使用流處理來攝取新數據，這是一系列非常適合 NoSQL 資料庫的功能。

Zoom使用 DynamoDB（按需模式）使其數據能夠在沒有性能問題的情況下進行擴展，即使該服務在 COVID-19 大流行的早期使用量激增。

物聯網設備具有連接到互聯網或通信網路的嵌入式軟體和感測器，能夠在無需人工干預的情況下收集和共享數據。隨著數十億台設備生成數不清的數據，IoT NoSQL 資料庫為 IoT 服務提供商提供了可擴展性和更靈活的架構。

Freshub就是這樣的一項服務，它從 MySQL 切換到 MongoDB，以更好地處理其大型、動態、非統一的數據集。

擁有數十億智能手機用戶，可擴展性正成為在移動設備上提供服務的企業面臨的最大挑戰。具有更靈活數據模型的 NoSQL DBMS 通常是完美的解決方案。

例如，The Weather Channel使用 MongoDB 資料庫每分鍾處理數百萬個請求，同時還處理用戶數據並提供天氣更新。