中國人民大學王星大數據分析

A. 大數據開發和數據分析有什麼區別

1、技術區別

大數據開發類的崗位對於code能力、工程能力有一定要求，這意味著需要有一定的編程能力，有一定的語言能力，然後就是解決問題的能力。

因為大數據開發會涉及到大量的開源的東西，而開源的東西坑比較多，所以需要能夠快速的定位問題解決問題，如果是零基礎，適合有一定的開發基礎，然後對於新東西能夠快速掌握。

如果是大數據分析類的職位，在業務上，需要你對業務能夠快速的了解、理解、掌握，通過數據感知業務的變化，通過對數據的分析來做業務的決策。

在技術上需要有一定的數據處理能力，比如一些腳本的使用、sql資料庫的查詢，execl、sas、r等工具的使用等等。在工具層面上，變動的范圍比較少，主要還是業務的理解能力。

2、薪資區別

作為IT類職業中的「大熊貓」，大數據工程師的收入待遇可以說達到了同類的頂級。國內IT、通訊、行業招聘中，有10%都是和大數據相關的，且比例還在上升。

在美國，大數據工程師平均每年薪酬高達17.5萬美元。大數據開發工程師在一線城市和大數據發展城市的薪資是比較高的。

大數據分析：大數據分析同樣作為高收入技術崗位，薪資也不遑多讓，並且，我們可以看到，擁有3-5年技術經驗的人才薪資可達到30K以上。

3、數據存儲不同

傳統的數據分析數據量較小，相對更加容易處理。不需要過多考慮數據的存儲問題。而大數據所涉及到的數據具有海量、多樣性、高速性以及易變性等特點。因此需要專門的存儲工具。

4、數據挖掘的方式不同

傳統的數據分析數據一般採用人工挖掘或者收集。而面對大數據人工已經無法實現最終的目標，因此需要跟多的大數據技術實現最終的數據挖掘，例如爬蟲。

B. 大數據時代和傳統數據有什麼區別

大數據是一種規模大到在獲取、存儲、管理、分析方面大大超出了傳統資料庫軟體工具能力范圍的數據集合，具有海量的數據規模、快速的數據流轉、多樣的數據類型和價值密度低四大特徵。

從技術上看，大數據與雲計算的關系就像一枚硬幣的正反面一樣密不可分。大數據必然無法用單台的計算機進行處理，必須採用分布式架構。它的特色在於對海量數據進行分布式數據挖掘。但它必須依託雲計算的分布式處理、分布式資料庫和雲存儲、虛擬化技術。

(2)中國人民大學王星大數據分析擴展閱讀

大數據的價值體現在以三方面：

1、對大量消費者提供產品或服務的企業可以利用大數據進行精準營銷；

2、做小而美模式的中小微企業可以利用大數據做服務轉型；

3、面臨互聯網壓力之下必須轉型的傳統企業需要與時俱進充分利用大數據的價值。

大數據技術主要包括以下作用：

第一，對大數據的處理分析正成為新一代信息技術融合應用的結點。

移動互聯網、物聯網、社交網路、數字家庭、電子商務等是新一代信息技術的應用形態，這些應用不斷產生大數據。雲計算為這些海量、多樣化的大數據提供存儲和運算平台。通過對不同來源數據的管理、處理、分析與優化，將結果反饋到上述應用中，將創造出巨大的經濟和社會價值。

第二，大數據是信息產業持續高速增長的新引擎。

面向大數據市場的新技術、新產品、新服務、新業態會不斷涌現。在硬體與集成設備領域，大數據將對晶元、存儲產業產生重要影響，還將催生一體化數據存儲處理伺服器、內存計算等市場。在軟體與服務領域，大數據將引發數據快速處理分析、數據挖掘技術和軟體產品的發展。

第三，大數據利用將成為提高核心競爭力的關鍵因素。

各行各業的決策正在從「業務驅動」 轉變「數據驅動」。

大數據是大量、高速、多變的信息，它需要新型的處理方式去促成更強的決策能力、洞察力與最佳化處理。大數據為企業獲得更為深刻、全面的洞察能力提供了前所未有的空間與潛力。

C. 大數據分析方法解讀以及相關工具介紹

大數據分析方法解讀以及相關工具介紹
要知道，大數據已不再是數據大，最重要的現實就是對大數據進行分析，只有通過分析才能獲取很多智能的，深入的，有價值的信息。
越來越多的應用涉及到大數據，這些大數據的屬性，包括數量，速度，多樣性等等都是呈現了大數據不斷增長的復雜性，所以，大數據的分析方法在大數據領域就顯得尤為重要，可以說是決定最終信息是否有價值的決定性因素。基於此，大數據分析方法理論有哪些呢？
大數據分析的五個基本方面
（預測性分析能力）
數據挖掘可以讓分析員更好的理解數據，而預測性分析可以讓分析員根據可視化分析和數據挖掘的結果做出一些預測性的判斷。
（數據質量和數據管理）
數據質量和數據管理是一些管理方面的最佳實踐。通過標准化的流程和工具對數據進行處理可以保證一個預先定義好的高質量的分析結果。
AnalyticVisualizations（可視化分析）
不管是對數據分析專家還是普通用戶，數據可視化是數據分析工具最基本的要求。可視化可以直觀的展示數據，讓數據自己說話，讓觀眾聽到結果。
SemanticEngines（語義引擎）
我們知道由於非結構化數據的多樣性帶來了數據分析的新的挑戰，我們需要一系列的工具去解析，提取，分析數據。語義引擎需要被設計成能夠從「文檔」中智能提取信息。
DataMiningAlgorithms（數據挖掘演算法）
可視化是給人看的，數據挖掘就是給機器看的。集群、分割、孤立點分析還有其他的演算法讓我們深入數據內部，挖掘價值。這些演算法不僅要處理大數據的量，也要處理大數據的速度。
假如大數據真的是下一個重要的技術革新的話，我們最好把精力關注在大數據能給我們帶來的好處，而不僅僅是挑戰。
大數據處理
大數據處理數據時代理念的三大轉變：要全體不要抽樣，要效率不要絕對精確，要相關不要因果。具體的大數據處理方法其實有很多，但是根據長時間的實踐，筆者總結了一個基本的大數據處理流程，並且這個流程應該能夠對大家理順大數據的處理有所幫助。整個處理流程可以概括為四步，分別是採集、導入和預處理、統計和分析，以及挖掘。
採集
大數據的採集是指利用多個資料庫來接收發自客戶端的數據，並且用戶可以通過這些資料庫來進行簡單的查詢和處理工作。比如，電商會使用傳統的關系型資料庫MySQL和Oracle等來存儲每一筆事務數據，除此之外，Redis和MongoDB這樣的NoSQL資料庫也常用於數據的採集。
在大數據的採集過程中，其主要特點和挑戰是並發數高，因為同時有可能會有成千上萬的用戶來進行訪問和操作，比如火車票售票網站和淘寶，它們並發的訪問量在峰值時達到上百萬，所以需要在採集端部署大量資料庫才能支撐。並且如何在這些資料庫之間進行負載均衡和分片的確是需要深入的思考和設計。
統計/分析
統計與分析主要利用分布式資料庫，或者分布式計算集群來對存儲於其內的海量數據進行普通的分析和分類匯總等，以滿足大多數常見的分析需求，在這方面，一些實時性需求會用到EMC的GreenPlum、Oracle的Exadata，以及基於MySQL的列式存儲Infobright等，而一些批處理，或者基於半結構化數據的需求可以使用Hadoop。統計與分析這部分的主要特點和挑戰是分析涉及的數據量大，其對系統資源，特別是I/O會有極大的佔用。
導入/預處理
雖然採集端本身會有很多資料庫，但是如果要對這些海量數據進行有效的分析，還是應該將這些來自前端的數據導入到一個集中的大型分布式資料庫，或者分布式存儲集群，並且可以在導入基礎上做一些簡單的清洗和預處理工作。也有一些用戶會在導入時使用來自Twitter的Storm來對數據進行流式計算，來滿足部分業務的實時計算需求。導入與預處理過程的特點和挑戰主要是導入的數據量大，每秒鍾的導入量經常會達到百兆，甚至千兆級別。
挖掘
與前面統計和分析過程不同的是，數據挖掘一般沒有什麼預先設定好的主題，主要是在現有數據上面進行基於各種演算法的計算，從而起到預測的效果，從而實現一些高級別數據分析的需求。比較典型演算法有用於聚類的K-Means、用於統計學習的SVM和用於分類的Naive Bayes，主要使用的工具有Hadoop的Mahout等。該過程的特點和挑戰主要是用於挖掘的演算法很復雜，並且計算涉及的數據量和計算量都很大，還有，常用數據挖掘演算法都以單線程為主。
大數據分析工具詳解 IBM惠普微軟工具在列
去年，IBM宣布以17億美元收購數據分析公司Netezza；EMC繼收購數據倉庫軟體廠商Greenplum後再次收購集群NAS廠商Isilon；Teradata收購了Aster Data 公司；隨後，惠普收購實時分析平台Vertica等，這些收購事件指向的是同一個目標市場——大數據。是的，大數據時代已經來臨，大家都在摩拳擦掌，搶占市場先機。
而在這裡面，最耀眼的明星是hadoop，Hadoop已被公認為是新一代的大數據處理平台，EMC、IBM、Informatica、Microsoft以及Oracle都紛紛投入了Hadoop的懷抱。對於大數據來說，最重要的還是對於數據的分析，從裡面尋找有價值的數據幫助企業作出更好的商業決策。下面，我們就來看以下八大關於大數據分析的工具。
EMC Greenplum統一分析平台(UAP)
Greenplum在2010年被EMC收購了其EMC Greenplum統一分析平台（UAP）是一款單一軟體平台，數據團隊和分析團隊可以在該平台上無縫地共享信息、協作分析，沒必要在不同的孤島上工作，或者在不同的孤島之間轉移數據。正因為如此，UAP包括ECM Greenplum關系資料庫、EMC Greenplum HD Hadoop發行版和EMC Greenplum Chorus。
EMC為大數據開發的硬體是模塊化的EMC數據計算設備（DCA），它能夠在一個設備裡面運行並擴展Greenplum關系資料庫和Greenplum HD節點。DCA提供了一個共享的指揮中心（Command Center）界面，讓管理員可以監控、管理和配置Greenplum資料庫和Hadoop系統性能及容量。隨著Hadoop平台日趨成熟，預計分析功能會急劇增加。
IBM打組合拳提供BigInsights和BigCloud
幾年前，IBM開始在其實驗室嘗試使用Hadoop，但是它在去年將相關產品和服務納入到商業版IBM在去年5月推出了InfoSphere BigI雲版本的 InfoSphere BigInsights使組織內的任何用戶都可以做大數據分析。雲上的BigInsights軟體可以分析資料庫里的結構化數據和非結構化數據，使決策者能夠迅速將洞察轉化為行動。
IBM隨後又在10月通過其智慧雲企業（SmartCloud Enterprise）基礎架構，將BigInsights和BigSheets作為一項服務來提供。這項服務分基礎版和企業版；一大賣點就是客戶不必購買支持性硬體，也不需要IT專門知識，就可以學習和試用大數據處理和分析功能。據IBM聲稱，客戶用不了30分鍾就能搭建起Hadoop集群，並將數據轉移到集群裡面，數據處理費用是每個集群每小時60美分起價。

Informatica 9.1：將大數據的挑戰轉化為大機遇
Informatica公司在去年10月則更深入一步，當時它推出了HParser，這是一種針對Hadoop而優化的數據轉換環境。據Informatica聲稱，軟體支持靈活高效地處理Hadoop裡面的任何文件格式，為Hadoop開發人員提供了即開即用的解析功能，以便處理復雜而多樣的數據源，包括日誌、文檔、二進制數據或層次式數據，以及眾多行業標准格式（如銀行業的NACHA、支付業的SWIFT、金融數據業的FIX和保險業的ACORD）。正如資料庫內處理技術加快了各種分析方法，Informatica同樣將解析代碼添加到Hadoop裡面，以便充分利用所有這些處理功能，不久會添加其他的數據處理代碼。
Informatica HParser是Informatica B2B Data Exchange家族產品及Informatica平台的最新補充，旨在滿足從海量無結構數據中提取商業價值的日益增長的需求。去年， Informatica成功地推出了創新的Informatica 9.1 for Big Data，是全球第一個專門為大數據而構建的統一數據集成平台。

甲骨文大數據機——Oracle Big Data Appliance
甲骨文的Big Data Appliance集成系統包括Cloudera的Hadoop系統管理軟體和支持服務Apache Hadoop 和Cloudera Manager。甲骨文視Big Data Appliance為包括Exadata、Exalogic和 Exalytics In-Memory Machine的「建造系統」。Oracle大數據機(Oracle Big Data Appliance)，是一個軟、硬體集成系統，在系統中融入了Cloudera的Distribution Including Apache Hadoop、Cloudera Manager和一個開源R。該大數據機採用Oracle Linux操作系統，並配備Oracle NoSQL資料庫社區版本和Oracle HotSpot Java虛擬機。Big Data Appliance為全架構產品，每個架構864GB存儲，216個CPU內核，648TBRAW存儲，每秒40GB的InifiniBand連接。Big Data Appliance售價45萬美元，每年硬軟體支持費用為12%。
甲骨文Big Data Appliance與EMC Data Computing Appliance匹敵，IBM也曾推出數據分析軟體平台InfoSphere BigInsights，微軟也宣布在2012年發布Hadoop架構的SQL Server 2012大型數據處理平台。
統計分析方法以及統計軟體詳細介紹
統計分析方法有哪幾種？下面我們將詳細闡述，並介紹一些常用的統計分析軟體。

一、指標對比分析法指標對比分析法
統計分析的八種方法一、指標對比分析法指標對比分析法，又稱比較分析法，是統計分析中最常用的方法。是通過有關的指標對比來反映事物數量上差異和變化的方法。有比較才能鑒別。單獨看一些指標，只能說明總體的某些數量特徵，得不出什麼結論性的認識；一經過比較，如與國外、外單位比，與歷史數據比，與計劃相比，就可以對規模大小、水平高低、速度快慢作出判斷和評價。
指標分析對比分析方法可分為靜態比較和動態比較分析。靜態比較是同一時間條件下不同總體指標比較，如不同部門、不同地區、不同國家的比較，也叫橫向比較；動態比較是同一總體條件不同時期指標數值的比較，也叫縱向比較。這兩種方法既可單獨使用，也可結合使用。進行對比分析時，可以單獨使用總量指標或相對指標或平均指標，也可將它們結合起來進行對比。比較的結果可用相對數，如百分數、倍數、系數等，也可用相差的絕對數和相關的百分點（每1％為一個百分點）來表示，即將對比的指標相減。
二、分組分析法指標對比分析法
分組分析法指標對比分析法對比，但組成統計總體的各單位具有多種特徵，這就使得在同一總體范圍內的各單位之間產生了許多差別，統計分析不僅要對總體數量特徵和數量關系進行分析，還要深入總體的內部進行分組分析。分組分析法就是根據統計分析的目的要求，把所研究的總體按照一個或者幾個標志劃分為若干個部分，加以整理，進行觀察、分析，以揭示其內在的聯系和規律性。
統計分組法的關鍵問題在於正確選擇分組標值和劃分各組界限。
三、時間數列及動態分析法
時間數列。是將同一指標在時間上變化和發展的一系列數值，按時間先後順序排列，就形成時間數列，又稱動態數列。它能反映社會經濟現象的發展變動情況，通過時間數列的編制和分析，可以找出動態變化規律，為預測未來的發展趨勢提供依據。時間數列可分為絕對數時間數列、相對數時間數列、平均數時間數列。
時間數列速度指標。根據絕對數時間數列可以計算的速度指標：有發展速度、增長速度、平均發展速度、平均增長速度。
動態分析法。在統計分析中，如果只有孤立的一個時期指標值，是很難作出判斷的。如果編制了時間數列，就可以進行動態分析，反映其發展水平和速度的變化規律。
進行動態分析，要注意數列中各個指標具有的可比性。總體范圍、指標計算方法、計算價格和計量單位，都應該前後一致。時間間隔一般也要一致，但也可以根據研究目的，採取不同的間隔期，如按歷史時期分。為了消除時間間隔期不同而產生的指標數值不可比，可採用年平均數和年平均發展速度來編制動態數列。此外在統計上，許多綜合指標是採用價值形態來反映實物總量，如國內生產總值、工業總產值、社會商品零售總額等計算不同年份的發展速度時，必須消除價格變動因素的影響，才能正確的反映實物量的變化。也就是說必須用可比價格（如用不變價或用價格指數調整）計算不同年份相同產品的價值，然後才能進行對比。
為了觀察我國經濟發展的波動軌跡，可將各年國內生產總值的發展速度編制時間數列，並據以繪製成曲線圖，令人得到直觀認識。
四、指數分析法
指數是指反映社會經濟現象變動情況的相對數。有廣義和狹義之分。根據指數所研究的范圍不同可以有個體指數、類指數與總指數之分。
指數的作用：一是可以綜合反映復雜的社會經濟現象的總體數量變動的方向和程度；二是可以分析某種社會經濟現象的總變動受各因素變動影響的程度，這是一種因素分析法。操作方法是：通過指數體系中的數量關系，假定其他因素不變，來觀察某一因素的變動對總變動的影響。
用指數進行因素分析。因素分析就是將研究對象分解為各個因素，把研究對象的總體看成是各因素變動共同的結果，通過對各個因素的分析，對研究對象總變動中各項因素的影響程度進行測定。因素分析按其所研究的對象的統計指標不同可分為對總量指標的變動的因素分析，對平均指標變動的因素分析。
五、平衡分析法
平衡分析是研究社會經濟現象數量變化對等關系的一種方法。它把對立統一的雙方按其構成要素一一排列起來，給人以整體的概念，以便於全局來觀察它們之間的平衡關系。平衡關系廣泛存在於經濟生活中，大至全國宏觀經濟運行，小至個人經濟收支。平衡種類繁多，如財政平衡表、勞動力平衡表、能源平衡表、國際收支平衡表、投入產出平衡表，等等。平衡分析的作用：一是從數量對等關繫上反映社會經濟現象的平衡狀況，分析各種比例關系相適應狀況；二是揭示不平衡的因素和發展潛力；三是利用平衡關系可以從各項已知指標中推算未知的個別指標。
六、綜合評價分析
社會經濟分析現象往往是錯綜復雜的，社會經濟運行狀況是多種因素綜合作用的結果，而且各個因素的變動方向和變動程度是不同的。如對宏觀經濟運行的評價，涉及生活、分配、流通、消費各個方面；對企業經濟效益的評價，涉及人、財、物合理利用和市場銷售狀況。如果只用單一指標，就難以作出恰當的評價。
進行綜合評價包括四個步驟：
1.確定評價指標體系，這是綜合評價的基礎和依據。要注意指標體系的全面性和系統性。
2.搜集數據，並對不同計量單位的指標數值進行同度量處理。可採用相對化處理、函數化處理、標准化處理等方法。
3.確定各指標的權數，以保證評價的科學性。根據各個指標所處的地位和對總體影響程度不同，需要對不同指標賦予不同的權數。
4.對指標進行匯總，計算綜合分值，並據此作出綜合評價。
七、景氣分析
經濟波動是客觀存在的，是任何國家都難以完全避免的。如何避免大的經濟波動，保持經濟的穩定發展，一直是各國政府和經濟之專家在宏觀調控和決策中面臨的重要課題，景氣分析正是適應這一要求而產生和發展的。景氣分析是一種綜合評價分析，可分為宏觀經濟景氣分析和企業景氣調查分析。
宏觀經濟景氣分析。是國家統計局20世紀80年代後期開始著手建立監測指標體系和評價方法，經過十多年時間和不斷完善，已形成制度，定期提供景氣分析報告，對宏觀經濟運行狀態起到晴雨表和報警器的作用，便於國務院和有關部門及時採取宏觀調控措施。以經常性的小調整，防止經濟的大起大落。
企業景氣調查分析。是全國的大中型各類企業中，採取抽樣調查的方法，通過問卷的形式，讓企業負責人回答有關情況判斷和預期。內容分為兩類：一是對宏觀經濟總體的判斷和預期；一是對企業經營狀況的判斷和預期，如產品訂單、原材料購進、價格、存貨、就業、市場需求、固定資產投資等。
八、預測分析
宏觀經濟決策和微觀經濟決策，不僅需要了解經濟運行中已經發生了的實際情況，而且更需要預見未來將發生的情況。根據已知的過去和現在推測未來，就是預測分析。
統計預測屬於定量預測，是以數據分析為主，在預測中結合定性分析。統計預測的方法大致可分為兩類：一類是主要根據指標時間數列自身變化與時間的依存關系進行預測，屬於時間數列分析；另一類是根據指標之間相互影響的因果關系進行預測，屬於回歸分析。
預測分析的方法有回歸分析法、滑動平均法、指數平滑法、周期（季節）變化分析和隨機變化分析等。比較復雜的預測分析需要建立計量經濟模型，求解模型中的參數又有許多方法。

D. 學大數據分析難不難

這要根據自身情況來看，基礎較差學起來就可能比較吃力。

E. 大數據分析到底能幹什麼

大數據分析可以用來干什麼

一、大數據可以預測未來

二、如果模式保持不變，那麼未來就不再是未來