大数据技术答案

⑴ 大数据技术的重点是如何将庞大的数据收集起来对还是错

对的。大数据技术的意义确实不在于掌握规模庞大的数据信息,而在于对这些数据进行智能处理,从中分析和挖掘出有价值的信息,但前提是得拥有大量的数据,所以说大数据技术的重点是如何将庞大的数据收集起来是对的。

⑵ 大数据具有哪些特征.答案

大数据的5V特点（IBM提出）：Volume（大量）、Velocity（高速）、Variety（多样）、Value（低价值密度）、Veracity（真实性）。

大数据（big data），指无法在一定时间范围内用常规软件工具进行捕捉、管理和处理的数据集合，是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。

在维克托·迈尔-舍恩伯格及肯尼斯·库克耶编写的《大数据时代》 中大数据指不用随机分析法（抽样调查）这样捷径，而采用所有数据进行分析处理。

(2)大数据技术答案扩展阅读：

一、具体特征

容量（Volume）：数据的大小决定所考虑的数据的价值和潜在的信息。

种类（Variety）：数据类型的多样性。

速度（Velocity）：指获得数据的速度。

可变性（Variability）：妨碍了处理和有效地管理数据的过程。

真实性（Veracity）：数据的质量。

复杂性（Complexity）：数据量巨大，来源多渠道。

价值（value）：合理运用大数据，以低成本创造高价值。

二、运用

洛杉矶警察局和加利福尼亚大学合作利用大数据预测犯罪的发生。

google流感趋势(Google Flu Trends)利用搜索关键词预测禽流感的散布。

统计学家内特.西尔弗(Nate Silver)利用大数据预测2012美国选举结果。

麻省理工学院利用手机定位数据和交通数据建立城市规划。

梅西百货的实时定价机制。根据需求和库存的情况，该公司基于SAS的系统对多达7300万种货品进行实时调价。

医疗行业早就遇到了海量数据和非结构化数据的挑战，而近年来很多国家都在积极推进医疗信息化发展，这使得很多医疗机构有资金来做大数据分析。

⑶ 大数据的样本空间是

样本空间是随机试验E的所有基本结果组成的集合为E的样本空间。样本空间的元素称为样本点或基本事件。每一个随机试验相应的有一个样本空间，样本空间的子集就是随机事件。有些实验有两个或多个可能的样本空间。

⑷ 大数据技术Hadoop笔试题

大数据技术Hadoop笔试题

导读：Hadoop有高容错性的特点，并且设计用来部署在低廉的(low-cost)硬件上。以下是由我J.L为您整理推荐的面试笔试题目和经验，欢迎参考阅读。

单项选择题

1. 下面哪个程序负责 HDFS 数据存储。

a)NameNode

b)Jobtracker

c)Datanode

d)secondaryNameNode

e)tasktracker

2. HDfS 中的 block 默认保存几份?

a)3 份

b)2 份

c)1 份

d)不确定

3. 下列哪个程序通常与 NameNode 在一个节点启动?

a)SecondaryNameNode

b)DataNode

c)TaskTracker

d)Jobtracker

4. Hadoop 作者

a)Martin Fowler

b)Kent Beck

c)Doug cutting

5. HDFS 默认 Block Size

a)32MB

b)64MB

c)128MB

6. 下列哪项通常是集群的最主要瓶颈

a)CPU

b)网络

c)磁盘

d)内存

7. 关于 SecondaryNameNode 哪项是正确的?

a)它是 NameNode 的热备

b)它对内存没有要求

c)它的目的是帮助 NameNode 合并编辑日志，减少 NameNode 启动时间

d)SecondaryNameNode 应与 NameNode 部署到一个节点

多选题

8. 下列哪项可以作为集群的管理工具

a)Puppet

b)Pdsh

c)Cloudera Manager

d)d)Zookeeper

9. 配置机架感知的下面哪项正确

a)如果一个机架出问题，不会影响数据读写

b)写入数据的时候会写到不同机架的 DataNode 中

c)MapRece 会根据机架获取离自己比较近的网络数据

10. Client 端上传文件的时候下列哪项正确

a)数据经过 NameNode 传递给 DataNode

b)Client 端将文件切分为 Block，依次上传

c)Client 只上传数据到一台 DataNode，然后由 NameNode 负责 Block 复制工作

11. 下列哪个是 Hadoop 运行的模式

a)单机版

b)伪分布式

c)分布式

12. Cloudera 提供哪几种安装 CDH 的方法

a)Cloudera manager

b)Tar ball

c)Yum d)Rpm

判断题

13. Ganglia 不仅可以进行监控，也可以进行告警。( )

14. Block Size 是不可以修改的。( )

15. Nagios 不可以监控 Hadoop 集群，因为它不提供 Hadoop 支持。( )

16. 如果 NameNode 意外终止，SecondaryNameNode 会接替它使集群继续工作。( )

17. Cloudera CDH 是需要付费使用的。( )

18. Hadoop 是 Java 开发的，所以 MapRece 只支持 Java 语言编写。( )

19. Hadoop 支持数据的随机读写。( )

20. NameNode 负责管理 metadata，client 端每次读写请求，它都会从磁盘中读取或则会写入 metadata 信息并反馈 client 端。( )

21. NameNode 本地磁盘保存了 Block 的位置信息。( )

22. DataNode 通过长连接与 NameNode 保持通信。( )

23. Hadoop 自身具有严格的权限管理和安全措施保障集群正常运行。( )

24. Slave 节点要存储数据，所以它的磁盘越大越好。( )

25. hadoop dfsadmin –report 命令用于检测 HDFS 损坏块。( )

26. Hadoop 默认调度器策略为 FIFO( )

27. 集群内每个节点都应该配 RAID，这样避免单磁盘损坏，影响整个节点运行。( )

28. 因为 HDFS 有多个副本，所以 NameNode 是不存在单点问题的。( )

29. 每个 map 槽就是一个线程。( )

30. Maprece 的 input split 就是一个 block。( )

31. NameNode 的 Web UI 端口是 50030，它通过 jetty 启动的 Web 服务。( )

32. Hadoop 环境变量中的 HADOOP_HEAPSIZE 用于设置所有 Hadoop 守护线程的内存。它默认是 200 GB。( )

33. DataNode 首次加入 cluster 的时候，如果 log 中报告不兼容文件版本，那需要 NameNode执行“Hadoop namenode -format”操作格式化磁盘。( )

别走开，答案在后面哦!

1. 下面哪个程序负责 HDFS 数据存储。答案C datanode

a)NameNode

b)Jobtracker

c)Datanode

d)secondaryNameNode

e)tasktracker

2. HDfS 中的 block 默认保存几份? 答案A默认3分

a)3 份

b)2 份

c)1 份

d)不确定

3. 下列哪个程序通常与 NameNode 在一个节点启动?答案D

a)SecondaryNameNode

b)DataNode

c)TaskTracker

d)Jobtracker

此题分析：

hadoop的集群是基于master/slave模式，namenode和jobtracker属于master，datanode和 tasktracker属于slave，master只有一个，而slave有多个SecondaryNameNode内存需求和NameNode在一个数量级上，所以通常secondary NameNode(运行在单独的物理机器上)和NameNode运行在不同的机器上。

JobTracker和TaskTracker

JobTracker 对应于 NameNode

TaskTracker 对应于 DataNode

DataNode 和NameNode 是针对数据存放来而言的

JobTracker和TaskTracker是对于MapRece执行而言的

maprece中几个主要概念，maprece整体上可以分为这么几条执行线索：obclient，JobTracker与TaskTracker。

1、JobClient会在用户端通过JobClient类将应用已经配置参数打包成jar文件存储到hdfs，并把路径提交到Jobtracker, 然后由JobTracker创建每一个Task(即MapTask和ReceTask)并将它们分发到各个TaskTracker服务中去执行。

2、JobTracker是一个master服务，软件启动之后JobTracker接收Job，负责调度Job的每一个子任务task运行于 TaskTracker上，并监控它们，如果发现有失败的task就重新运行它。一般情况应该把JobTracker部署在单独的机器上。

3、TaskTracker是运行在多个节点上的slaver服务。TaskTracker主动与JobTracker通信，接收作业，并负责直接执行每一个任务。TaskTracker都需要运行在HDFS的DataNode上。

4. Hadoop 作者 答案C Doug cutting

a)Martin Fowler

b)Kent Beck

c)Doug cutting

5. HDFS 默认 Block Size 答案：B

a)32MB

b)64MB

c)128MB

(因为版本更换较快，这里答案只供参考)

6. 下列哪项通常是集群的最主要瓶颈：答案：C磁盘

a)CPU

b)网络

c)磁盘IO

d)内存

该题解析：

首先集群的目的是为了节省成本，用廉价的pc机，取代小型机及大型机。小型机和大型机有什么特点?

1.cpu处理能力强

2.内存够大

所以集群的瓶颈不可能是a和d

3.网络是一种稀缺资源，但是并不是瓶颈。

4.由于大数据面临海量数据，读写数据都需要io，然后还要冗余数据，hadoop一般备3份数据，所以IO就会打折扣。

7. 关于 SecondaryNameNode 哪项是正确的?答案C

a)它是 NameNode 的热备

b)它对内存没有要求

c)它的目的是帮助 NameNode 合并编辑日志，减少 NameNode 启动时间

d)SecondaryNameNode 应与 NameNode 部署到一个节点。

多选题：

8. 下列哪项可以作为集群的管理?答案：ABD

a)Puppet

b)Pdsh

c)Cloudera Manager

d)Zookeeper

9. 配置机架感知的下面哪项正确：答案ABC

a)如果一个机架出问题，不会影响数据读写

b)写入数据的时候会写到不同机架的 DataNode 中

c)MapRece 会根据机架获取离自己比较近的网络数据

10. Client 端上传文件的时候下列哪项正确?答案B

a)数据经过 NameNode 传递给 DataNode

b)Client 端将文件切分为 Block，依次上传

c)Client 只上传数据到一台 DataNode，然后由 NameNode 负责 Block 复制工作

该题分析：

Client向NameNode发起文件写入的请求。

NameNode根据文件大小和文件块配置情况，返回给Client它所管理部分DataNode的信息。

Client将文件划分为多个Block，根据DataNode的地址信息，按顺序写入到每一个DataNode块中。

11. 下列哪个是 Hadoop 运行的模式：答案ABC

a)单机版

b)伪分布式

c)分布式

12. Cloudera 提供哪几种安装 CDH 的方法?答案：ABCD

a)Cloudera manager

b)Tarball

c)Yum

d)Rpm

判断题：

13. Ganglia 不仅可以进行监控，也可以进行告警。( 正确)

分析：此题的目的是考Ganglia的'了解。严格意义上来讲是正确。ganglia作为一款最常用的Linux环境中的监控软件，它擅长的的是从节点中按照用户的需求以较低的代价采集数据。但是ganglia在预警以及发生事件后通知用户上并不擅长。最新的ganglia已经有了部分这方面的功能。但是更擅长做警告的还有Nagios。Nagios，就是一款精于预警、通知的软件。通过将Ganglia和Nagios组合起来，把Ganglia采集的数据作为Nagios的数据源，然后利用Nagios来发送预警通知，可以完美的实现一整套监控管理的系统。

14. Block Size 是不可以修改的。(错误 )

分析：它是可以被修改的Hadoop的基础配置文件是hadoop-default.xml，默认建立一个Job的时候会建立Job的Config，Config首先读入hadoop-default.xml的配置，然后再读入hadoop- site.xml的配置(这个文件初始的时候配置为空)，hadoop-site.xml中主要配置需要覆盖的hadoop-default.xml的系统级配置。

15. Nagios 不可以监控 Hadoop 集群，因为它不提供 Hadoop 支持。(错误 )

分析：Nagios是集群监控工具，而且是云计算三大利器之一

16. 如果 NameNode 意外终止，SecondaryNameNode 会接替它使集群继续工作。(错误 )

分析：SecondaryNameNode是帮助恢复，而不是替代，如何恢复，可以查看

17. Cloudera CDH 是需要付费使用的。(错误 )

分析：第一套付费产品是Cloudera Enterpris，Cloudera Enterprise在美国加州举行的 Hadoop 大会 (Hadoop Summit) 上公开，以若干私有管理、监控、运作工具加强 Hadoop 的功能。收费采取合约订购方式，价格随用的 Hadoop 丛集大小变动。

18. Hadoop 是 Java 开发的，所以 MapRece 只支持 Java 语言编写。(错误 )

分析：rhadoop是用R语言开发的，MapRece是一个框架，可以理解是一种思想，可以使用其他语言开发。

19. Hadoop 支持数据的随机读写。(错 )

分析：lucene是支持随机读写的，而hdfs只支持随机读。但是HBase可以来补救。HBase提供随机读写，来解决Hadoop不能处理的问题。HBase自底层设计开始即聚焦于各种可伸缩性问题：表可以很“高”，有数十亿个数据行;也可以很“宽”，有数百万个列;水平分区并在上千个普通商用机节点上自动复制。表的模式是物理存储的直接反映，使系统有可能提高高效的数据结构的序列化、存储和检索。

20. NameNode 负责管理 metadata，client 端每次读写请求，它都会从磁盘中读取或则会写入 metadata 信息并反馈 client 端。(错误)

此题分析：

NameNode 不需要从磁盘读取 metadata，所有数据都在内存中，硬盘上的只是序列化的结果，只有每次 namenode 启动的时候才会读取。

1)文件写入

Client向NameNode发起文件写入的请求。

NameNode根据文件大小和文件块配置情况，返回给Client它所管理部分DataNode的信息。

Client将文件划分为多个Block，根据DataNode的地址信息，按顺序写入到每一个DataNode块中。

2)文件读取

Client向NameNode发起文件读取的请求。

21. NameNode 本地磁盘保存了 Block 的位置信息。( 个人认为正确，欢迎提出其它意见)

分析：DataNode是文件存储的基本单元，它将Block存储在本地文件系统中，保存了Block的Meta-data，同时周期性地将所有存在的Block信息发送给NameNode。NameNode返回文件存储的DataNode的信息。

Client读取文件信息。

22. DataNode 通过长连接与 NameNode 保持通信。( )

这个有分歧：具体正在找这方面的有利资料。下面提供资料可参考。

首先明确一下概念：

(1).长连接

Client方与Server方先建立通讯连接，连接建立后不断开，然后再进行报文发送和接收。这种方式下由于通讯连接一直存在，此种方式常用于点对点通讯。

(2).短连接

Client方与Server每进行一次报文收发交易时才进行通讯连接，交易完毕后立即断开连接。此种方式常用于一点对多点通讯，比如多个Client连接一个Server.

23. Hadoop 自身具有严格的权限管理和安全措施保障集群正常运行。(错误 )

hadoop只能阻止好人犯错，但是不能阻止坏人干坏事

24. Slave 节点要存储数据，所以它的磁盘越大越好。( 错误)

分析：一旦Slave节点宕机，数据恢复是一个难题

25. hadoop dfsadmin –report 命令用于检测 HDFS 损坏块。(错误 )

26. Hadoop 默认调度器策略为 FIFO(正确 )

27. 集群内每个节点都应该配 RAID，这样避免单磁盘损坏，影响整个节点运行。(错误 )

分析：首先明白什么是RAID，可以参考网络磁盘阵列。这句话错误的地方在于太绝对，具体情况具体分析。题目不是重点，知识才是最重要的。因为hadoop本身就具有冗余能力，所以如果不是很严格不需要都配备RAID。具体参考第二题。

28. 因为 HDFS 有多个副本，所以 NameNode 是不存在单点问题的。(错误 )

29. 每个 map 槽就是一个线程。(错误 )

分析：首先我们知道什么是map 槽,map 槽->map slotmap slot 只是一个逻辑值 ( org.apache.hadoop.mapred.TaskTracker.TaskLauncher.numFreeSlots )，而不是对应着一个线程或者进程

30. Maprece 的 input split 就是一个 block。(错误 )

31. NameNode 的 Web UI 端口是 50030，它通过 jetty 启动的 Web 服务。(错误 )

32. Hadoop 环境变量中的 HADOOP_HEAPSIZE 用于设置所有 Hadoop 守护线程的内存。它默认是 200 GB。( 错误)

hadoop为各个守护进程(namenode,secondarynamenode,jobtracker,datanode,tasktracker)统一分配的内存在hadoop-env.sh中设置，参数为HADOOP_HEAPSIZE，默认为1000M。

33. DataNode 首次加入 cluster 的时候，如果 log 中报告不兼容文件版本，那需要 NameNode执行“Hadoop namenode -format”操作格式化磁盘。(错误 )

分析：

首先明白介绍，什么ClusterID

ClusterID

添加了一个新的标识符ClusterID用于标识集群中所有的节点。当格式化一个Namenode，需要提供这个标识符或者自动生成。这个ID可以被用来格式化加入集群的其他Namenode。

二次整理

有的同学问题的重点不是上面分析内容：内容如下：

这个报错是说明 DataNode 所装的Hadoop版本和其它节点不一致，应该检查DataNode的Hadoop版本

;

⑸ 大数据问题 答案求解（给40亿个不重复的unsigned int的整数，没排过序的，然后再给一个数。。。）

bitset<4294967295>flags={0};
for(eachelementinarr_to_check)
flags[element]=1;
if(flags[value_to_test]==0)returnexist;
elsereturnnon_exist;

一般不能来直接设置自bit位，所以实际的代码要更复杂，但原理大抵如此

⑹ 《大数据技术原理与应用林子雨答案dox》pdf下载在线阅读全文，求百度网盘云资源

《大数据技术原理与应用林子雨答案dox》网络网盘pdf最新全集下载:
链接: https://pan..com/s/1mD1GqBuxmT3nTZNwrXrfPg

?pwd=5tgw 提取码: 5tgw
简介：分为大数据基础篇、大数据存储与管理篇、大数据处理与分析篇、大数据应用篇。

⑺ 《大数据》阅读答案

所谓‘大数据’，是指数据规模巨大，大到难以用我们传统信息处理技术合理撷取、管理、处理、整理”“在‘大数据’时代，我们的知识生产若再固守印刷时代的知识生产理念，沿袭此前的知识生产方式，就会被远远地甩在时代后面。我在这里整理了《大数据》阅读答案，希望能帮助到那您。

大数据

近年来，“大数据”这个概念突然火爆起来，成为业界人士舌尖上滚烫的话题。所谓“大数据”，是指数据规模巨大，大到难以用我们传统信息处理技术合理撷取、管理、处理、整理。“大数据”概念是“信息”概念的3.0版，主要是对新媒体语境下信息爆炸情境的生动描述。

我们一直有这样的成见：信息是个好东西。对于人类社会而言，信息应该多多益善。这种想法是信息稀缺时代的产物。由于我们曾吃尽信息贫困和蒙昧的苦头，于是就拼命追逐信息、占有信息。我们甚至还固执地认为，占有的信息越多，就越好，越有力量。但是，在“大数据’时代，信息不再稀缺，这种成见就会受到冲击。信息的失速繁衍造成信息的严重过剩。当超载的信息逼近人们所能承受的极限值时，就会成为一种负担，我们会不堪重负。

信息的超速繁殖源自于信息技术的升级换代。以互联网为代表的新媒体技术打开了信息所罗门的瓶子，数字化的信息失速狂奔，使人类主宰信息的能力远远落在后面。美国互联网数据中心指出，互联网上的数据每两年翻一番，目前世界上的90%以上数据是近几年才产生的。2000年，数字存储信息占全球数据量的四分之一，另外四分之三的信息都存储在报纸、胶片、黑胶唱片和盒式磁带这类媒介上。2007年，只有7%是存储在报纸、书籍、图片等媒介上的模拟数据，其余都是数字数据。到2013年，世界上存储的数据中，数字数据超过98%。面对数字数据的大量扩容，我们只能望洋兴叹。

“大数据”时代对人类社会的影响是全方位的。这种影响究竟有多大，我们现在还无法预料。哈佛大学定量社会学研究所主任盖瑞·金则以“一场革命”来形容大数据技术给学术、商业和政府管理等带来的变化，认为“大数据”时代会引爆一场“哥白尼式革命”：它改变的不仅仅是信息生产力，更是信息生产关系;不仅是知识生产和传播的内容，更是其生产与传播方式。

我们此前的知识生产是印刷时代的产物。它是15世纪古登堡时代的延续。印刷革命引爆了人类社会知识生产与传播的“哥白尼式革命”，它使得知识的生产和传播突破了精英、贵族的垄断，开启了知识传播的大众时代，同时，也确立了“机械复制时代”的知识生产与传播方式。与印刷时代相比，互联网新媒体开启的“大数据”时代，则是一场更为深广的革命。在“大数据”时代，信息的生产与传播往往是呈几何级数式增长、病毒式传播。以互联网为代表的媒介技术颠覆了印刷时代的知识生产与传播方式。新媒体遍地开花，打破了传统知识主体对知识生产与传播的垄断。新媒体技术改写了静态、单向、线性的知识生产格局，改变了自上而下的知识传播模式，将知识的生产与传播抛入空前的不确定之中。在“大数据”时代，我们的知识生产若再固守印刷时代的知识生产理念，沿袭此前的知识生产方式，就会被远远地甩在时代后面。

(节选自2013.2.22《文汇读书周报》，有删改)

《大数据》阅读题目：

9.下列对“大数据时代”的特点解说正确的一项是

A.数据规模巨大，信息严重过剩，总量已超过了人们的承受极限值而成为社会的负担。B.信息生产呈几何级数式增长、病毒式传播，信息传播方式不再是自上而下，而是相反。

C.精英与贵族的知识垄断被冲破，传统知识主体不再是唯一的知识生产者和传播者。 D.“机械复制时代”知识生产和传播方式被颠覆，呈动态、多向和空前的不确定性。 10.下列理解，不符合原文意思的一项是

A.人们在信息稀缺时代形成的占有信息越多越好、越有力量的认识，将随着“大数据”时代的到来而改变。

B.人类主宰信息的能力远远落后于信息的产生，是因为信息技术的升级换代带来的数字化信息的失速狂奔。

C.从2000年数字存储信息占全球数据量的四分之一，到2013年超过98%，说明了传统媒体被新媒体取代。

D.印刷革命开启了知识传播的大众时代, 与印刷时代相比，互联网新媒体开启的“大数据”时代，则是一场更为深广的革命。

《大数据》参考答案：

9.D【试题分析：论述类文体阅读的命题主要从概念、判断、推理三个角度命题，概念注意“答非所问”“内涵、外延不准”“误划类别”“张冠李戴”;判断类注意“范围不当”“偷换概念”“曲解文意”;推理注意“强加因果”“强行推理”等错误。答题的关键是审清题干、找准区位、对读原文、寻找细微的差别。选项A原文“信息的失速繁衍造成信息的严重过剩。当超载的信息逼近人们所能承受的极限值时，就会成为一种负担，我们会不堪重负”现在是“大数据”时代，但还没有到“当超载的信息逼近人们所能承受的极限值时”，时间范围混淆;选项B 原文“新媒体技术改写了静态、单向、线性的知识生产格局，改变了自上而下的知识传播模式，将知识的生产与传播抛入空前的不确定之中”选项“信息传播方式不再是自上而下，而是相反”，偷换了文中的概念“抛入空前的不确定之中”为“自下而上”;选项C对应的原文“印刷革命引爆了人类社会知识生产与传播的‘哥白尼式革命’，它使得知识的生产和传播突破了精英、贵族的垄断”让“知识的生产和传播突破了精英、贵族的垄断”是“印刷革命”，选项是“大数据时代”，犯了张冠李戴的错误。】

10.C【试题分析：选项“说明了传统媒体正被新媒体取代”，文中没有依据，属于无中生有。】

⑻ 关于什么是大数据技术，业界并无标准答案

Mike Jude：从本质上来说，大数据就是曾经被称为数据仓库的逻辑延伸。顾名思义，大数据就是一个大型的数据仓库，一般有一个能支持业务决策的业务重点。但是，它和传统数据库不同的是，大数据不用构建。