如何選擇大數據基礎知識

A. 大數據怎麼學習

興趣是第一老師。選擇學習一門課程和技能時，個人興趣是至關重要，對於學習像大專數據這樣抽象的技能更是如屬此。

學習java語言和linux操作系統，這兩個是學習大數據的基礎。

最關鍵的是學習Hadoop+spark，掌握大數據的收集、生成、調用工具。

樹立大數據思維，創造性開發、使用大數據。

深度了解大數據的意義、價值、市場、開發及運用前景。

到大數據管理中心、運用企業實習實踐，掌握開發、運用技能。

B. 學大數據需要什麼基礎知識和能力

大數據的發展歷程總體上可以劃分為三個重要階段，萌芽期、成熟期和大規模應用期，20世紀90年至21世紀初，為萌芽期，隨著，一批商業智能工具和知識管理技術的開始和應用，度過了數據萌芽。

21世紀前十年則為成熟期，主要標志為，大數據解決方案逐漸走向成熟，形成了並行計算與分布式系統兩大核心技，谷歌的GFS和MapRece等大數據技術受到追捧，Hadoop平台開始大行期道，2010年以後，為大規模應用期，標志為，數據應用滲透各行各業，數據驅動決策，信息社會智能化程度快速提高。

點擊鏈接加入群聊【大數據學習交流群】：互聯網科技發展蓬勃興起，人工智慧時代來臨，抓住下一個風口。為幫助那些往想互聯網方向轉行想學習，卻因為時間不夠，資源不足而放棄的人。我自己整理的一份最新的大數據進階資料和高級開發教程， 歡迎進階中和進想深入大數據的小夥伴加入。

數據時代的到來，也推動了數據行業的發展，包括企業使用數據獲取價值，促使了大量人員從事於數據的學習，學習大數據需要掌握基礎知識，接下從我的角度，為大家做個簡要的闡述。

學習大數據需要掌握的知識，初期了解概念，後期就要學習數據技術，主要包括：

1.大數據概念

2.大數據的影響

3.大數據的影響

4.大數據的應用

5.大數據的產業

6.大數據處理架構Hadoop

7.大數據關鍵技術

8.大數據的計算模式

後三個牽涉的數據技技術，就復雜一點了，可以細說一下：

1.大數據處理架構Hadoop：Hadoop的特性、Hadoop生態系統、Hadoop的安裝與使用；

2.大數據關鍵技術技術：數據採集、數據存儲與管理、數據處理與分析、數據隱私與安全；

3.大數據處理計算模式：批處理計算、流計算、圖計算、查詢分析計算

數據的核心技術就是獲取數據價值，獲取數據前提是，先要有數據，這就牽涉數據挖掘了。

一、Java語言以java語言為基礎掌握面向對象編程思想所涉及的知識，以及該知識在面向對象編程思想中的應用，培養學生設計程序的能力。掌握程度：精通

二、數據結構與演算法掌握基於JAVA語言的底層數據結構和演算法原理，並且能夠自己動手寫出來關於集合的各種演算法和數據結構，並且了解這些數據結構處理的問題和優缺點。掌握程度：熟練。
三、資料庫原理與MYSQL資料庫掌握關系型資料庫的原理，掌握結構化數據的特性。掌握關系型資料庫的範式。通過MYSQL資料庫掌握通過SQL語言與MYSQL資料庫進行交互。熟練掌握各種復雜SQL語句的編寫。掌握程度：熟練。
四、LINUX操作系統全面了解LINUX。詳解LINUX下的管理命令、用戶管理、網路配置管理等。掌握SHELL腳本編程，能夠根據具體業務進行復雜SHELL腳本的編寫。掌握程度：精通。
五、Hadoop技術學習Hadoop技術的兩個核心：分布式文件系統HDFS和分布式計算框架MapRece。掌握MR的運行過程及相關原理，精通各種業務的MR程序編寫。掌握Hadoop的核心源碼及實現原理。掌握使用Hadoop進行海量數據的存儲、計算與處理。掌握程度：精通。
六、分布式資料庫技術:精通分布式資料庫HBASE、掌握Mongodb及了解其它分布式資料庫技術。精通分布式資料庫原理、應用場景、HBASE資料庫的設計、操作等，能結合HIVE等工具進行海量數據的存儲於檢索。掌握程度：精通。
七、數據倉庫HIVE精通基於hadoop的數據倉庫HIVE。精通HIVESQL的語法，精通使用HIVESQL進行數據操作。內部表、外部表及與傳統資料庫的區別，掌握HIVE的應用場景及Hive與HBase的結合使用。掌握程度：精通。
八、PYTHON語言精通PYTHON語言基礎語法及面向對象。精通PYTHON語言的爬蟲、WEB、演算法等框架。並根據業務可以基於PYTHON語言開發完成的業務功能和系統。掌握程度：精通。
九、機器學習演算法熟練掌握機器學習經典演算法，掌握演算法的原理，公式，演算法的應用場景。熟練掌握使用機器學習演算法進行相關數據的分析，保證分析結果的准確性。掌握程度：熟練。
十、Spark高級編程技術掌握Spark的運行原理與架構，熟悉Spark的各種應用場景，掌握基於SparkRDD的各種運算元的使用；精通SparkStreaming針對流處理的底層原理，熟練應用SparkSql對各種數據源處理,熟練掌握Spark機器學習演算法庫。達到能夠在掌握Spark的各種組件的基礎上，能夠構建出大型的離線或實時的業務項目。掌握程度：精通。
十一、真實大數據項目實戰通過幾個真實的大數據項目把之前學習的知識與大數據技術框架貫穿，學習真實的大數據項目從數據採集、清洗、存儲、處理、分析的完整過程，掌握大數據項目開發的設計思想，數據處理技術手段，解決開發過程中遇到的問題和技術難點如何解決。

C. 大數據分析應該掌握哪些基礎知識呢

前言，學大數據要先換電腦：

保證電腦4核8G內存64位操作系統，盡量有ssd做系統盤，否則卡到你喪失信心。硬碟越大越好。
1，語言要求

java剛入門的時候要求javase。

scala是學習spark要用的基本使用即可。

後期深入要求：
java NIO，netty，多線程，ClassLoader，jvm底層及調優等，rpc。
2，操作系統要求
linux 基本的shell腳本的使用。

crontab的使用，最多。

cpu，內存，網路，磁碟等瓶頸分析及狀態查看的工具。

scp，ssh，hosts的配置使用。

telnet，ping等網路排查命令的使用
3，sql基本使用
sql是基礎，hive，sparksql等都需要用到，況且大部分企業也還是以數據倉庫為中心，少不了sql。

sql統計，排序，join，group等，然後就是sql語句調優，表設計等。

4，大數據基本了解
Zookeeper，hadoop，hbase，hive，sqoop，flume，kafka，spark，storm等這些框架的作用及基本環境的搭建，要熟練，要會運維，瓶頸分析。

5，maprece及相關框架hive，sqoop
深入了解maprece的核心思想。尤其是shuffle，join，文件輸入格式，map數目，rece數目，調優等。
6，hive和hbase等倉庫
hive和hbase基本是大數據倉庫的標配。要回用，懂調優，故障排查。

hbase看浪尖hbase系列文章。hive後期更新。

7，消息隊列的使用
kafka基本概念，使用，瓶頸分析。看浪尖kafka系列文章。

8，實時處理系統
storm和spark Streaming

9，spark core和sparksql
spark用於離線分析的兩個重要功能。

10，最終方向決策
a),運維。（精通整套系統及故障排查，會寫運維腳本啥的。）

b),數據分析。（演算法精通）

c),平台開發。（源碼精通）

自學還是培訓？
無基礎的同學，培訓之前先搞到視頻通學一遍，防止盲目培訓跟不上講師節奏，浪費時間，精力，金錢。
有基礎的盡量搞點視頻學基礎，然後跟群里大牛交流，前提是人家願意，
想辦法跟大牛做朋友才是王道。

D. 大數據分析應該掌握哪些基礎知識

1、思維模式轉變的催化劑是大量新技術的誕生，它們能夠處理大數據分析所帶來的3個V的挑戰。紮根於開源社區，Hadoop已經是目前大數據平台中應用率最高的技術，特別是針對諸如文本、社交媒體訂閱以及視頻等非結構化數據。
2、除分布式文件系統之外，伴隨Hadoop一同出現的還有進行大數據集處理MapRece架構。根據權威報告顯示，許多企業都開始使用或者評估Hadoop技術來作為其大數據平台的標准。
3、我們生活的時代，相對穩定的資料庫市場中還在出現一些新的技術，而且在未來幾年，它們會發揮作用。事實上，NoSQL資料庫在一個廣義上派系基礎上，其本身就包含了幾種技術。
4、總體而言，他們關注關系型資料庫引擎的限制，如索引、流媒體和高訪問量的網站服務。在這些領域，相較關系型資料庫引擎，NoSQL的效率明顯更高。
5、在Gartner公司評選的2012年十大戰略技術中，內存分析在個人消費電子設備以及其他嵌入式設備中的應用將會得到快速的發展。隨著越來越多的價格低廉的內存用到數據中心中，如何利用這一優勢對軟體進行最大限度的優化成為關鍵的問題。
6、內存分析以其實時、高性能的特性，成為大數據分析時代下的「新寵兒」。如何讓大數據轉化為最佳的洞察力，也許內存分析就是答案。大數據背景下，用戶以及IT提供商應該將其視為長遠發展的技術趨勢。

E. 怎樣進行大數據的入門級學習

記住學到這里可以作為你學大數據的一個節點。

Zookeeper：這是個萬金油，安裝Hadoop的HA的時候就會用到它，以後的Hbase也會用到它。它一般用來存放一些相互協作的信息，這些信息比較小一般不會超過1M，都是使用它的軟體對它有依賴，對於我們個人來講只需要把它安裝正確，讓它正常的run起來就可以了。

Mysql：我們學習完大數據的處理了，接下來學習學習小數據的處理工具mysql資料庫，因為一會裝hive的時候要用到，mysql需要掌握到什麼層度那?你能在Linux上把它安裝好，運行起來，會配置簡單的許可權，修改root的密碼，創建資料庫。這里主要的是學習SQL的語法，因為hive的語法和這個非常相似。

Sqoop：這個是用於把Mysql里的數據導入到Hadoop里的。當然你也可以不用這個，直接把Mysql數據表導出成文件再放到HDFS上也是一樣的，當然生產環境中使用要注意Mysql的壓力。

Hive：這個東西對於會SQL語法的來說就是神器，它能讓你處理大數據變的很簡單，不會再費勁的編寫MapRece程序。有的人說Pig那?它和Pig差不多掌握一個就可以了。

Oozie：既然學會Hive了，我相信你一定需要這個東西，它可以幫你管理你的Hive或者MapRece、Spark腳本，還能檢查你的程序是否執行正確，出錯了給你發報警並能幫你重試程序，最重要的是還能幫你配置任務的依賴關系。我相信你一定會喜歡上它的，不然你看著那一大堆腳本，和密密麻麻的crond是不是有種想屎的感覺。

Hbase：這是Hadoop生態體系中的NOSQL資料庫，他的數據是按照key和value的形式存儲的並且key是唯一的，所以它能用來做數據的排重，它與MYSQL相比能存儲的數據量大很多。所以他常被用於大數據處理完成之後的存儲目的地。

Kafka：這是個比較好用的隊列工具，隊列是干嗎的?排隊買票你知道不?數據多了同樣也需要排隊處理，這樣與你協作的其它同學不會叫起來，你干嗎給我這么多的數據(比如好幾百G的文件)我怎麼處理得過來，你別怪他因為他不是搞大數據的，你可以跟他講我把數據放在隊列里你使用的時候一個個拿，這樣他就不在抱怨了馬上灰流流的去優化他的程序去了，因為處理不過來就是他的事情。而不是你給的問題。當然我們也可以利用這個工具來做線上實時數據的入庫或入HDFS，這時你可以與一個叫Flume的工具配合使用，它是專門用來提供對數據進行簡單處理，並寫到各種數據接受方(比如Kafka)的。

Spark：它是用來彌補基於MapRece處理數據速度上的缺點，它的特點是把數據裝載到內存中計算而不是去讀慢的要死進化還特別慢的硬碟。特別適合做迭代運算，所以演算法流們特別稀飯它。它是用scala編寫的。Java語言或者Scala都可以操作它，因為它們都是用JVM的。

F. 學習大數據要什麼基礎

大數據開發學習要掌握java、linux、hadoop、storm、flume、hive、Hbase、spark等基礎知識。

學會這兩項基礎後，接下來就需要學習大數據相關的技術了。首先學習Hadoop，需要學習它的HDFS、MapRece和YARN的組件，學會了這些，接下來就按順序學習Zookeeper，Mysql，Sqoop，Hive，Oozie，Hbase，Kafka，Spark。當我們把這些技術都學會了，基本上就能成為一個專業的大數據開發工程師了。

之後再進階提高一下，學習一下python、機器學習、數據分析等知識，能讓自己在今後的工作中更好的配合演算法工程師、數據分析師，讓自己變得更進步更優秀。

G. 大數據需要什麼基礎

學習大數據需要以下幾個方面的基礎： 新手學大數據，首先要具備的是編程語言基礎，如Java、C++等，要初步掌握面向對象、抽象類、介面、繼承、多態和數據流及對象流等基礎，編程語言在大數據中占據了不可逾越的地位，掌握一門編程語言再學習大數據會輕松很多，甚至編程語言要比大數據學習的時間更長。 Linux系統的基本操作是大數據不可分割的一部分，大數據的組件都是在這個系統中跑的

H. 想自學大數據，要從哪方面入手呢

自學大數據很難
因為你的數據不知道從哪裡來
如果用模擬， 那就學hadoop生態
單機部署偽分布式環境， 然後編寫MapRece程序，
搭建hive hbase
走一套數據收集、處理流程
這就是自學

I. 學大數據需要具備什麼基礎

第一、計算機基礎知識。計算機基礎知識涉及到三大塊內容，包括操作系統、編程語言和計算機網路，其中操作系統要重點學習一下Linux操作系統，編程語言可以選擇Java或者Python。

如果要從事大數據開發，應該重點關注一下Java語言，而如果要從事大數據分析，可以重點關注一下Python語言。計算機網路知識對於大數據從業者來說也比較重要，要了解基本的網路通信過程，涉及到網路通信層次結構和安全的相關內容。

第二、資料庫知識。資料庫知識是學習大數據相關技術的重要基礎，大數據的技術體系有兩大基礎，一部分是分布式存儲，另一部分是分布式計算，所以存儲對於大數據技術體系有重要的意義。

初學者可以從Sql語言開始學起，掌握關系型資料庫知識對於學習大數據存儲依然有比較重要的意義。另外，在大數據時代，關系型資料庫依然有大量的應用場景。

第三、數學和統計學知識。從學科的角度來看，大數據涉及到三大學科基礎，分別是數學、統計學和計算機，所以數學和統計學知識對於大數據從業者還是比較重要的。

從大數據崗位的要求來看，大數據分析崗位（演算法）對於數學和統計學知識的要求程度比較高，大數據開發和大數據運維則稍微差一些，所以對於數學基礎比較薄弱的初學者來說，可以考慮向大數據開發和大數據運維方向發展。

大數據的價值體現在以下幾個方面：

（1）對大量消費者提供產品或服務的企業可以利用大數據進行精準營銷；

（2）做小而美模式的中小微企業可以利用大數據做服務轉型；

（3）面臨互聯網壓力之下必須轉型的傳統企業需要與時俱進充分利用大數據的價值。

J. 大數據分析應該掌握哪些基礎知識

大數據分析師應該要學的知識有，統計概率理論基礎，軟體操作結合分析模型進行實際運用，數據挖掘或者數據分析方向性選擇，數據分析業務應用。
1、統計概率理論基礎
這是重中之重，千里之台，起於壘土，最重要的就是最下面的那幾層。統計思維，統計方法，這里首先是市場調研數據的獲取與整理，然後是最簡單的描述性分析，其次是常用的推斷性分析，方差分析，到高級的相關，回歸等多元統計分析，掌握了這些原理，才能進行下一步。
2、軟體操作結合分析模型進行實際運用
關於數據分析主流軟體有（從上手度從易到難）：Excel，SPSS，Stata，R，SAS等。首先是學會怎樣操作這些軟體，然後是利用軟體從數據的清洗開始一步步進行處理，分析，最後輸出結果，檢驗及解讀數據。
3、數據挖掘或者數據分析方向性選擇
其實數據分析也包含數據挖掘，但在工作中做到後面會細分到分析方向和挖掘方向，兩者已有區別，關於數據挖掘也涉及到許多模型演算法，如：關聯法則、神經網路、決策樹、遺傳演算法、可視技術等。
4、數據分析業務應用
這一步也是最難學習的一步，行業有別，業務不同，業務的不同所運用的分析方法亦有區分，實際工作是解決業務問題，因此對業務的洞察能力非常重要。(10)如何選擇大數據基礎知識擴展閱讀
分析工作內容
1、搜索引擎分析師(Search Engine Optimization Strategy Analyst，簡稱SEO分析師)是一項新興信息技術職業，主要關注搜索引擎動態，修建網站，拓展網路營銷渠道，網站內部優化，流量數據分析，策劃外鏈執行方案，負責競價推廣。
2、SEO分析師需要精通商業搜索引擎相關知識與市場運作。通過編程，HTML，CSS，JavaScript，MicrosoftASP.NET，Perl，PHP，Python等建立網站進行各種以用戶體驗為主同時帶給公司盈利但可能失敗的項目嘗試。