大數據技術答案

⑴ 大數據技術的重點是如何將龐大的數據收集起來對還是錯

對的。大數據技術的意義確實不在於掌握規模龐大的數據信息,而在於對這些數據進行智能處理,從中分析和挖掘出有價值的信息,但前提是得擁有大量的數據,所以說大數據技術的重點是如何將龐大的數據收集起來是對的。

⑵ 大數據具有哪些特徵.答案

大數據的5V特點（IBM提出）：Volume（大量）、Velocity（高速）、Variety（多樣）、Value（低價值密度）、Veracity（真實性）。

大數據（big data），指無法在一定時間范圍內用常規軟體工具進行捕捉、管理和處理的數據集合，是需要新處理模式才能具有更強的決策力、洞察發現力和流程優化能力的海量、高增長率和多樣化的信息資產。

在維克托·邁爾-舍恩伯格及肯尼斯·庫克耶編寫的《大數據時代》 中大數據指不用隨機分析法（抽樣調查）這樣捷徑，而採用所有數據進行分析處理。

(2)大數據技術答案擴展閱讀：

一、具體特徵

容量（Volume）：數據的大小決定所考慮的數據的價值和潛在的信息。

種類（Variety）：數據類型的多樣性。

速度（Velocity）：指獲得數據的速度。

可變性（Variability）：妨礙了處理和有效地管理數據的過程。

真實性（Veracity）：數據的質量。

復雜性（Complexity）：數據量巨大，來源多渠道。

價值（value）：合理運用大數據，以低成本創造高價值。

二、運用

洛杉磯警察局和加利福尼亞大學合作利用大數據預測犯罪的發生。

google流感趨勢(Google Flu Trends)利用搜索關鍵詞預測禽流感的散布。

統計學家內特.西爾弗(Nate Silver)利用大數據預測2012美國選舉結果。

麻省理工學院利用手機定位數據和交通數據建立城市規劃。

梅西百貨的實時定價機制。根據需求和庫存的情況，該公司基於SAS的系統對多達7300萬種貨品進行實時調價。

醫療行業早就遇到了海量數據和非結構化數據的挑戰，而近年來很多國家都在積極推進醫療信息化發展，這使得很多醫療機構有資金來做大數據分析。

⑶ 大數據的樣本空間是

樣本空間是隨機試驗E的所有基本結果組成的集合為E的樣本空間。樣本空間的元素稱為樣本點或基本事件。每一個隨機試驗相應的有一個樣本空間，樣本空間的子集就是隨機事件。有些實驗有兩個或多個可能的樣本空間。

⑷ 大數據技術Hadoop筆試題

大數據技術Hadoop筆試題

導讀：Hadoop有高容錯性的特點，並且設計用來部署在低廉的(low-cost)硬體上。以下是由我J.L為您整理推薦的面試筆試題目和經驗，歡迎參考閱讀。

單項選擇題

1. 下面哪個程序負責 HDFS 數據存儲。

a)NameNode

b)Jobtracker

c)Datanode

d)secondaryNameNode

e)tasktracker

2. HDfS 中的 block 默認保存幾份?

a)3 份

b)2 份

c)1 份

d)不確定

3. 下列哪個程序通常與 NameNode 在一個節點啟動?

a)SecondaryNameNode

b)DataNode

c)TaskTracker

d)Jobtracker

4. Hadoop 作者

a)Martin Fowler

b)Kent Beck

c)Doug cutting

5. HDFS 默認 Block Size

a)32MB

b)64MB

c)128MB

6. 下列哪項通常是集群的最主要瓶頸

a)CPU

b)網路

c)磁碟

d)內存

7. 關於 SecondaryNameNode 哪項是正確的?

a)它是 NameNode 的熱備

b)它對內存沒有要求

c)它的目的是幫助 NameNode 合並編輯日誌，減少 NameNode 啟動時間

d)SecondaryNameNode 應與 NameNode 部署到一個節點

多選題

8. 下列哪項可以作為集群的管理工具

a)Puppet

b)Pdsh

c)Cloudera Manager

d)d)Zookeeper

9. 配置機架感知的下面哪項正確

a)如果一個機架出問題，不會影響數據讀寫

b)寫入數據的時候會寫到不同機架的 DataNode 中

c)MapRece 會根據機架獲取離自己比較近的網路數據

10. Client 端上傳文件的時候下列哪項正確

a)數據經過 NameNode 傳遞給 DataNode

b)Client 端將文件切分為 Block，依次上傳

c)Client 只上傳數據到一台 DataNode，然後由 NameNode 負責 Block 復制工作

11. 下列哪個是 Hadoop 運行的模式

a)單機版

b)偽分布式

c)分布式

12. Cloudera 提供哪幾種安裝 CDH 的方法

a)Cloudera manager

b)Tar ball

c)Yum d)Rpm

判斷題

13. Ganglia 不僅可以進行監控，也可以進行告警。( )

14. Block Size 是不可以修改的。( )

15. Nagios 不可以監控 Hadoop 集群，因為它不提供 Hadoop 支持。( )

16. 如果 NameNode 意外終止，SecondaryNameNode 會接替它使集群繼續工作。( )

17. Cloudera CDH 是需要付費使用的。( )

18. Hadoop 是 Java 開發的，所以 MapRece 只支持 Java 語言編寫。( )

19. Hadoop 支持數據的隨機讀寫。( )

20. NameNode 負責管理 metadata，client 端每次讀寫請求，它都會從磁碟中讀取或則會寫入 metadata 信息並反饋 client 端。( )

21. NameNode 本地磁碟保存了 Block 的位置信息。( )

22. DataNode 通過長連接與 NameNode 保持通信。( )

23. Hadoop 自身具有嚴格的許可權管理和安全措施保障集群正常運行。( )

24. Slave 節點要存儲數據，所以它的磁碟越大越好。( )

25. hadoop dfsadmin –report 命令用於檢測 HDFS 損壞塊。( )

26. Hadoop 默認調度器策略為 FIFO( )

27. 集群內每個節點都應該配 RAID，這樣避免單磁碟損壞，影響整個節點運行。( )

28. 因為 HDFS 有多個副本，所以 NameNode 是不存在單點問題的。( )

29. 每個 map 槽就是一個線程。( )

30. Maprece 的 input split 就是一個 block。( )

31. NameNode 的 Web UI 埠是 50030，它通過 jetty 啟動的 Web 服務。( )

32. Hadoop 環境變數中的 HADOOP_HEAPSIZE 用於設置所有 Hadoop 守護線程的內存。它默認是 200 GB。( )

33. DataNode 首次加入 cluster 的時候，如果 log 中報告不兼容文件版本，那需要 NameNode執行“Hadoop namenode -format”操作格式化磁碟。( )

別走開，答案在後面哦!

1. 下面哪個程序負責 HDFS 數據存儲。答案C datanode

a)NameNode

b)Jobtracker

c)Datanode

d)secondaryNameNode

e)tasktracker

2. HDfS 中的 block 默認保存幾份? 答案A默認3分

a)3 份

b)2 份

c)1 份

d)不確定

3. 下列哪個程序通常與 NameNode 在一個節點啟動?答案D

a)SecondaryNameNode

b)DataNode

c)TaskTracker

d)Jobtracker

此題分析：

hadoop的集群是基於master/slave模式，namenode和jobtracker屬於master，datanode和 tasktracker屬於slave，master只有一個，而slave有多個SecondaryNameNode內存需求和NameNode在一個數量級上，所以通常secondary NameNode(運行在單獨的物理機器上)和NameNode運行在不同的機器上。

JobTracker和TaskTracker

JobTracker 對應於 NameNode

TaskTracker 對應於 DataNode

DataNode 和NameNode 是針對數據存放來而言的

JobTracker和TaskTracker是對於MapRece執行而言的

maprece中幾個主要概念，maprece整體上可以分為這么幾條執行線索：obclient，JobTracker與TaskTracker。

1、JobClient會在用戶端通過JobClient類將應用已經配置參數打包成jar文件存儲到hdfs，並把路徑提交到Jobtracker, 然後由JobTracker創建每一個Task(即MapTask和ReceTask)並將它們分發到各個TaskTracker服務中去執行。

2、JobTracker是一個master服務，軟體啟動之後JobTracker接收Job，負責調度Job的每一個子任務task運行於 TaskTracker上，並監控它們，如果發現有失敗的task就重新運行它。一般情況應該把JobTracker部署在單獨的機器上。

3、TaskTracker是運行在多個節點上的slaver服務。TaskTracker主動與JobTracker通信，接收作業，並負責直接執行每一個任務。TaskTracker都需要運行在HDFS的DataNode上。

4. Hadoop 作者 答案C Doug cutting

a)Martin Fowler

b)Kent Beck

c)Doug cutting

5. HDFS 默認 Block Size 答案：B

a)32MB

b)64MB

c)128MB

(因為版本更換較快，這里答案只供參考)

6. 下列哪項通常是集群的最主要瓶頸：答案：C磁碟

a)CPU

b)網路

c)磁碟IO

d)內存

該題解析：

首先集群的目的是為了節省成本，用廉價的pc機，取代小型機及大型機。小型機和大型機有什麼特點?

1.cpu處理能力強

2.內存夠大

所以集群的瓶頸不可能是a和d

3.網路是一種稀缺資源，但是並不是瓶頸。

4.由於大數據面臨海量數據，讀寫數據都需要io，然後還要冗餘數據，hadoop一般備3份數據，所以IO就會打折扣。

7. 關於 SecondaryNameNode 哪項是正確的?答案C

a)它是 NameNode 的熱備

b)它對內存沒有要求

c)它的目的是幫助 NameNode 合並編輯日誌，減少 NameNode 啟動時間

d)SecondaryNameNode 應與 NameNode 部署到一個節點。

多選題：

8. 下列哪項可以作為集群的管理?答案：ABD

a)Puppet

b)Pdsh

c)Cloudera Manager

d)Zookeeper

9. 配置機架感知的下面哪項正確：答案ABC

a)如果一個機架出問題，不會影響數據讀寫

b)寫入數據的時候會寫到不同機架的 DataNode 中

c)MapRece 會根據機架獲取離自己比較近的網路數據

10. Client 端上傳文件的時候下列哪項正確?答案B

a)數據經過 NameNode 傳遞給 DataNode

b)Client 端將文件切分為 Block，依次上傳

c)Client 只上傳數據到一台 DataNode，然後由 NameNode 負責 Block 復制工作

該題分析：

Client向NameNode發起文件寫入的請求。

NameNode根據文件大小和文件塊配置情況，返回給Client它所管理部分DataNode的信息。

Client將文件劃分為多個Block，根據DataNode的地址信息，按順序寫入到每一個DataNode塊中。

11. 下列哪個是 Hadoop 運行的模式：答案ABC

a)單機版

b)偽分布式

c)分布式

12. Cloudera 提供哪幾種安裝 CDH 的方法?答案：ABCD

a)Cloudera manager

b)Tarball

c)Yum

d)Rpm

判斷題：

13. Ganglia 不僅可以進行監控，也可以進行告警。( 正確)

分析：此題的目的是考Ganglia的'了解。嚴格意義上來講是正確。ganglia作為一款最常用的Linux環境中的監控軟體，它擅長的的是從節點中按照用戶的需求以較低的代價採集數據。但是ganglia在預警以及發生事件後通知用戶上並不擅長。最新的ganglia已經有了部分這方面的功能。但是更擅長做警告的還有Nagios。Nagios，就是一款精於預警、通知的軟體。通過將Ganglia和Nagios組合起來，把Ganglia採集的數據作為Nagios的數據源，然後利用Nagios來發送預警通知，可以完美的實現一整套監控管理的系統。

14. Block Size 是不可以修改的。(錯誤 )

分析：它是可以被修改的Hadoop的基礎配置文件是hadoop-default.xml，默認建立一個Job的時候會建立Job的Config，Config首先讀入hadoop-default.xml的配置，然後再讀入hadoop- site.xml的配置(這個文件初始的時候配置為空)，hadoop-site.xml中主要配置需要覆蓋的hadoop-default.xml的系統級配置。

15. Nagios 不可以監控 Hadoop 集群，因為它不提供 Hadoop 支持。(錯誤 )

分析：Nagios是集群監控工具，而且是雲計算三大利器之一

16. 如果 NameNode 意外終止，SecondaryNameNode 會接替它使集群繼續工作。(錯誤 )

分析：SecondaryNameNode是幫助恢復，而不是替代，如何恢復，可以查看

17. Cloudera CDH 是需要付費使用的。(錯誤 )

分析：第一套付費產品是Cloudera Enterpris，Cloudera Enterprise在美國加州舉行的 Hadoop 大會 (Hadoop Summit) 上公開，以若干私有管理、監控、運作工具加強 Hadoop 的功能。收費採取合約訂購方式，價格隨用的 Hadoop 叢集大小變動。

18. Hadoop 是 Java 開發的，所以 MapRece 只支持 Java 語言編寫。(錯誤 )

分析：rhadoop是用R語言開發的，MapRece是一個框架，可以理解是一種思想，可以使用其他語言開發。

19. Hadoop 支持數據的隨機讀寫。(錯 )

分析：lucene是支持隨機讀寫的，而hdfs只支持隨機讀。但是HBase可以來補救。HBase提供隨機讀寫，來解決Hadoop不能處理的問題。HBase自底層設計開始即聚焦於各種可伸縮性問題：表可以很“高”，有數十億個數據行;也可以很“寬”，有數百萬個列;水平分區並在上千個普通商用機節點上自動復制。表的模式是物理存儲的直接反映，使系統有可能提高高效的數據結構的序列化、存儲和檢索。

20. NameNode 負責管理 metadata，client 端每次讀寫請求，它都會從磁碟中讀取或則會寫入 metadata 信息並反饋 client 端。(錯誤)

此題分析：

NameNode 不需要從磁碟讀取 metadata，所有數據都在內存中，硬碟上的只是序列化的結果，只有每次 namenode 啟動的時候才會讀取。

1)文件寫入

Client向NameNode發起文件寫入的請求。

NameNode根據文件大小和文件塊配置情況，返回給Client它所管理部分DataNode的信息。

Client將文件劃分為多個Block，根據DataNode的地址信息，按順序寫入到每一個DataNode塊中。

2)文件讀取

Client向NameNode發起文件讀取的請求。

21. NameNode 本地磁碟保存了 Block 的位置信息。( 個人認為正確，歡迎提出其它意見)

分析：DataNode是文件存儲的基本單元，它將Block存儲在本地文件系統中，保存了Block的Meta-data，同時周期性地將所有存在的Block信息發送給NameNode。NameNode返迴文件存儲的DataNode的信息。

Client讀取文件信息。

22. DataNode 通過長連接與 NameNode 保持通信。( )

這個有分歧：具體正在找這方面的有利資料。下面提供資料可參考。

首先明確一下概念：

(1).長連接

Client方與Server方先建立通訊連接，連接建立後不斷開，然後再進行報文發送和接收。這種方式下由於通訊連接一直存在，此種方式常用於點對點通訊。

(2).短連接

Client方與Server每進行一次報文收發交易時才進行通訊連接，交易完畢後立即斷開連接。此種方式常用於一點對多點通訊，比如多個Client連接一個Server.

23. Hadoop 自身具有嚴格的許可權管理和安全措施保障集群正常運行。(錯誤 )

hadoop只能阻止好人犯錯，但是不能阻止壞人干壞事

24. Slave 節點要存儲數據，所以它的磁碟越大越好。( 錯誤)

分析：一旦Slave節點宕機，數據恢復是一個難題

25. hadoop dfsadmin –report 命令用於檢測 HDFS 損壞塊。(錯誤 )

26. Hadoop 默認調度器策略為 FIFO(正確 )

27. 集群內每個節點都應該配 RAID，這樣避免單磁碟損壞，影響整個節點運行。(錯誤 )

分析：首先明白什麼是RAID，可以參考網路磁碟陣列。這句話錯誤的地方在於太絕對，具體情況具體分析。題目不是重點，知識才是最重要的。因為hadoop本身就具有冗餘能力，所以如果不是很嚴格不需要都配備RAID。具體參考第二題。

28. 因為 HDFS 有多個副本，所以 NameNode 是不存在單點問題的。(錯誤 )

29. 每個 map 槽就是一個線程。(錯誤 )

分析：首先我們知道什麼是map 槽,map 槽->map slotmap slot 只是一個邏輯值 ( org.apache.hadoop.mapred.TaskTracker.TaskLauncher.numFreeSlots )，而不是對應著一個線程或者進程

30. Maprece 的 input split 就是一個 block。(錯誤 )

31. NameNode 的 Web UI 埠是 50030，它通過 jetty 啟動的 Web 服務。(錯誤 )

32. Hadoop 環境變數中的 HADOOP_HEAPSIZE 用於設置所有 Hadoop 守護線程的內存。它默認是 200 GB。( 錯誤)

hadoop為各個守護進程(namenode,secondarynamenode,jobtracker,datanode,tasktracker)統一分配的內存在hadoop-env.sh中設置，參數為HADOOP_HEAPSIZE，默認為1000M。

33. DataNode 首次加入 cluster 的時候，如果 log 中報告不兼容文件版本，那需要 NameNode執行“Hadoop namenode -format”操作格式化磁碟。(錯誤 )

分析：

首先明白介紹，什麼ClusterID

ClusterID

添加了一個新的標識符ClusterID用於標識集群中所有的節點。當格式化一個Namenode，需要提供這個標識符或者自動生成。這個ID可以被用來格式化加入集群的其他Namenode。

二次整理

有的同學問題的重點不是上面分析內容：內容如下：

這個報錯是說明 DataNode 所裝的Hadoop版本和其它節點不一致，應該檢查DataNode的Hadoop版本

;

⑸ 大數據問題 答案求解（給40億個不重復的unsigned int的整數，沒排過序的，然後再給一個數。。。）

bitset<4294967295>flags={0};
for(eachelementinarr_to_check)
flags[element]=1;
if(flags[value_to_test]==0)returnexist;
elsereturnnon_exist;

一般不能來直接設置自bit位，所以實際的代碼要更復雜，但原理大抵如此

⑹ 《大數據技術原理與應用林子雨答案dox》pdf下載在線閱讀全文，求百度網盤雲資源

《大數據技術原理與應用林子雨答案dox》網路網盤pdf最新全集下載:
鏈接: https://pan..com/s/1mD1GqBuxmT3nTZNwrXrfPg

?pwd=5tgw 提取碼: 5tgw
簡介：分為大數據基礎篇、大數據存儲與管理篇、大數據處理與分析篇、大數據應用篇。

⑺ 《大數據》閱讀答案

所謂‘大數據’，是指數據規模巨大，大到難以用我們傳統信息處理技術合理擷取、管理、處理、整理」「在‘大數據’時代，我們的知識生產若再固守印刷時代的知識生產理念，沿襲此前的知識生產方式，就會被遠遠地甩在時代後面。我在這里整理了《大數據》閱讀答案，希望能幫助到那您。

大數據

近年來，「大數據」這個概念突然火爆起來，成為業界人士舌尖上滾燙的話題。所謂「大數據」，是指數據規模巨大，大到難以用我們傳統信息處理技術合理擷取、管理、處理、整理。「大數據」概念是「信息」概念的3.0版，主要是對新媒體語境下信息爆炸情境的生動描述。

我們一直有這樣的成見：信息是個好東西。對於人類社會而言，信息應該多多益善。這種想法是信息稀缺時代的產物。由於我們曾吃盡信息貧困和蒙昧的苦頭，於是就拚命追逐信息、佔有信息。我們甚至還固執地認為，佔有的信息越多，就越好，越有力量。但是，在「大數據’時代，信息不再稀缺，這種成見就會受到沖擊。信息的失速繁衍造成信息的嚴重過剩。當超載的信息逼近人們所能承受的極限值時，就會成為一種負擔，我們會不堪重負。

信息的超速繁殖源自於信息技術的升級換代。以互聯網為代表的新媒體技術打開了信息所羅門的瓶子，數字化的信息失速狂奔，使人類主宰信息的能力遠遠落在後面。美國互聯網數據中心指出，互聯網上的數據每兩年翻一番，目前世界上的90%以上數據是近幾年才產生的。2000年，數字存儲信息佔全球數據量的四分之一，另外四分之三的信息都存儲在報紙、膠片、黑膠唱片和盒式磁帶這類媒介上。2007年，只有7%是存儲在報紙、書籍、圖片等媒介上的模擬數據，其餘都是數字數據。到2013年，世界上存儲的數據中，數字數據超過98%。面對數字數據的大量擴容，我們只能望洋興嘆。

「大數據」時代對人類社會的影響是全方位的。這種影響究竟有多大，我們現在還無法預料。哈佛大學定量社會學研究所主任蓋瑞·金則以「一場革命」來形容大數據技術給學術、商業和政府管理等帶來的變化，認為「大數據」時代會引爆一場「哥白尼式革命」：它改變的不僅僅是信息生產力，更是信息生產關系;不僅是知識生產和傳播的內容，更是其生產與傳播方式。

我們此前的知識生產是印刷時代的產物。它是15世紀古登堡時代的延續。印刷革命引爆了人類社會知識生產與傳播的「哥白尼式革命」，它使得知識的生產和傳播突破了精英、貴族的壟斷，開啟了知識傳播的大眾時代，同時，也確立了「機械復制時代」的知識生產與傳播方式。與印刷時代相比，互聯網新媒體開啟的「大數據」時代，則是一場更為深廣的革命。在「大數據」時代，信息的生產與傳播往往是呈幾何級數式增長、病毒式傳播。以互聯網為代表的媒介技術顛覆了印刷時代的知識生產與傳播方式。新媒體遍地開花，打破了傳統知識主體對知識生產與傳播的壟斷。新媒體技術改寫了靜態、單向、線性的知識生產格局，改變了自上而下的知識傳播模式，將知識的生產與傳播拋入空前的不確定之中。在「大數據」時代，我們的知識生產若再固守印刷時代的知識生產理念，沿襲此前的知識生產方式，就會被遠遠地甩在時代後面。

(節選自2013.2.22《文匯讀書周報》，有刪改)

《大數據》閱讀題目：

9.下列對「大數據時代」的特點解說正確的一項是

A.數據規模巨大，信息嚴重過剩，總量已超過了人們的承受極限值而成為社會的負擔。B.信息生產呈幾何級數式增長、病毒式傳播，信息傳播方式不再是自上而下，而是相反。

C.精英與貴族的知識壟斷被沖破，傳統知識主體不再是唯一的知識生產者和傳播者。 D.「機械復制時代」知識生產和傳播方式被顛覆，呈動態、多向和空前的不確定性。 10.下列理解，不符合原文意思的一項是

A.人們在信息稀缺時代形成的佔有信息越多越好、越有力量的認識，將隨著「大數據」時代的到來而改變。

B.人類主宰信息的能力遠遠落後於信息的產生，是因為信息技術的升級換代帶來的數字化信息的失速狂奔。

C.從2000年數字存儲信息佔全球數據量的四分之一，到2013年超過98%，說明了傳統媒體被新媒體取代。

D.印刷革命開啟了知識傳播的大眾時代, 與印刷時代相比，互聯網新媒體開啟的「大數據」時代，則是一場更為深廣的革命。

《大數據》參考答案：

9.D【試題分析：論述類文體閱讀的命題主要從概念、判斷、推理三個角度命題，概念注意「答非所問」「內涵、外延不準」「誤劃類別」「張冠李戴」;判斷類注意「范圍不當」「偷換概念」「曲解文意」;推理注意「強加因果」「強行推理」等錯誤。答題的關鍵是審清題干、找准區位、對讀原文、尋找細微的差別。選項A原文「信息的失速繁衍造成信息的嚴重過剩。當超載的信息逼近人們所能承受的極限值時，就會成為一種負擔，我們會不堪重負」現在是「大數據」時代，但還沒有到「當超載的信息逼近人們所能承受的極限值時」，時間范圍混淆;選項B 原文「新媒體技術改寫了靜態、單向、線性的知識生產格局，改變了自上而下的知識傳播模式，將知識的生產與傳播拋入空前的不確定之中」選項「信息傳播方式不再是自上而下，而是相反」，偷換了文中的概念「拋入空前的不確定之中」為「自下而上」;選項C對應的原文「印刷革命引爆了人類社會知識生產與傳播的‘哥白尼式革命’，它使得知識的生產和傳播突破了精英、貴族的壟斷」讓「知識的生產和傳播突破了精英、貴族的壟斷」是「印刷革命」，選項是「大數據時代」，犯了張冠李戴的錯誤。】

10.C【試題分析：選項「說明了傳統媒體正被新媒體取代」，文中沒有依據，屬於無中生有。】

⑻ 關於什麼是大數據技術，業界並無標准答案

Mike Jude：從本質上來說，大數據就是曾經被稱為數據倉庫的邏輯延伸。顧名思義，大數據就是一個大型的數據倉庫，一般有一個能支持業務決策的業務重點。但是，它和傳統資料庫不同的是，大數據不用構建。