人才大数据平台建设

『壹』 阿里巴巴为什么要斥资百亿在乌兰察布市建立大数据平台

不仅满足当下以及未来大数据产业发展、互联网经济发展需求，提高传统劳动力数字技能、提升数字化素养，也符合乌兰察布市政府以及国家对此的重视，让其共同来努力推动“互联网+”及云计算、电子信息产品制造、电子商务和服务外包等关联产业协同发展，倾力打造成为面向华北、服务京津冀的大数据与云计算中心，打响“草原云谷”的品牌，擎画大数据产业发展的蓝图，深化大数据和云计算各领域应用。

乌兰察布市围绕建设“草原云谷”的信息产业发展战略，充分发挥区位、交通、电力、气候、地质、光缆通道等优势，积极发展大数据核心业态、关联业态和衍生业态，不断打造以云计算、大数据为引领的信息产业的战略性产业，推动经济向高质量发展迈进。目前，内蒙古乌兰察布市大数据产业强势崛起格局已经形成。

加大大数据产业基础设施投资力度，同时也在加快数据中心建设之步伐，2019年，共续建、新建及拟建数据中心项目 8 项，计划总投资 171.8亿元，总占地面积 1220 亩，承载 100 万台服务器。不难看出乌兰察布市现在正在以数据存储、产品研发、数据交易为核心的大数据中心建成后，将铸就高新科技产业载体，夯实大数据产业发展的基础层，进一步拓展上下游产业和配套产业，实现产业体系全覆盖的准备进行中。

『贰』 大数据平台是什么什么时候需要大数据平台如何建立大数据平台

首先我们要了解java语言和Linux操作系统，这两个是学习大数据的基础，学习的顺序不分前后。

Java ：只要了解一些基础即可，做大数据不需要很深的Java 技术，学java SE 就相当于有学习大数据基础。

Linux：因为大数据相关软件都是在Linux上运行的，所以Linux要学习的扎实一些，学好Linux对你快速掌握大数据相关技术会有很大的帮助，能让你更好的理解hadoop、hive、hbase、spark等大数据软件的运行环境和网络环境配置，能少踩很多坑，学会shell就能看懂脚本这样能更容易理解和配置大数据集群。还能让你对以后新出的大数据技术学习起来更快。

Hadoop：这是现在流行的大数据处理平台几乎已经成为大数据的代名词，所以这个是必学的。Hadoop里面包括几个组件HDFS、MapRece和YARN，HDFS是存储数据的地方就像我们电脑的硬盘一样文件都存储在这个上面，MapRece是对数据进行处理计算的，它有个特点就是不管多大的数据只要给它时间它就能把数据跑完，但是时间可能不是很快所以它叫数据的批处理。

Zookeeper：这是个万金油，安装Hadoop的HA的时候就会用到它，以后的Hbase也会用到它。它一般用来存放一些相互协作的信息，这些信息比较小一般不会超过1M，都是使用它的软件对它有依赖，对于我们个人来讲只需要把它安装正确，让它正常的run起来就可以了。

Mysql：我们学习完大数据的处理了，接下来学习学习小数据的处理工具mysql数据库，因为一会装hive的时候要用到，mysql需要掌握到什么层度那?你能在Linux上把它安装好，运行起来，会配置简单的权限，修改root的密码，创建数据库。这里主要的是学习SQL的语法，因为hive的语法和这个非常相似。

Sqoop：这个是用于把Mysql里的数据导入到Hadoop里的。当然你也可以不用这个，直接把Mysql数据表导出成文件再放到HDFS上也是一样的，当然生产环境中使用要注意Mysql的压力。

Hive：这个东西对于会SQL语法的来说就是神器，它能让你处理大数据变的很简单，不会再费劲的编写MapRece程序。有的人说Pig那?它和Pig差不多掌握一个就可以了。

Oozie：既然学会Hive了，我相信你一定需要这个东西，它可以帮你管理你的Hive或者MapRece、Spark脚本，还能检查你的程序是否执行正确，出错了给你发报警并能帮你重试程序，最重要的是还能帮你配置任务的依赖关系。我相信你一定会喜欢上它的，不然你看着那一大堆脚本，和密密麻麻的crond是不是有种想屎的感觉。

Hbase：这是Hadoop生态体系中的NOSQL数据库，他的数据是按照key和value的形式存储的并且key是唯一的，所以它能用来做数据的排重，它与MYSQL相比能存储的数据量大很多。所以他常被用于大数据处理完成之后的存储目的地。

Kafka：这是个比较好用的队列工具，队列是干吗的?排队买票你知道不?数据多了同样也需要排队处理，这样与你协作的其它同学不会叫起来，你干吗给我这么多的数据(比如好几百G的文件)我怎么处理得过来，你别怪他因为他不是搞大数据的，你可以跟他讲我把数据放在队列里你使用的时候一个个拿，这样他就不在抱怨了马上灰流流的去优化他的程序去了，因为处理不过来就是他的事情。而不是你给的问题。当然我们也可以利用这个工具来做线上实时数据的入库或入HDFS，这时你可以与一个叫Flume的工具配合使用，它是专门用来提供对数据进行简单处理，并写到各种数据接受方(比如Kafka)的。

Spark：它是用来弥补基于MapRece处理数据速度上的缺点，它的特点是把数据装载到内存中计算而不是去读慢的要死进化还特别慢的硬盘。特别适合做迭代运算，所以算法流们特别稀饭它。它是用scala编写的。Java语言或者Scala都可以操作它，因为它们都是用JVM的。

『叁』 当前企业大数据人才建设的大环境、大背景如何

近10年大数据呈抄现爆发式增长，大数据人才始终是这股浪潮中的焦点。
从整体背景来看，越来越多的企业开始把数据人才作为企业经营战略版图的核心组成部分，集中表现越来越愿意花高薪聘请大数据人才，整体薪资水平在不断提升。但是大数据人才市场依旧处于紧缩状态，无论是高大上的大数据科学家，还是资深的大数据架构师，或者是普通的数据产品经理，在整个市场中还是一将难求，企业面临的大数据人才供应挑战是不断加剧的。
此外，中大咨询数字化专家表示，对传统企业更加不利的是，在这样紧俏的供需背景下，与互联网企业的薪资竞争力差距，以及企业创新环境的不足，都更加制约了传统企业的人才建设。

『肆』 如何搭建大数据分析平台

1、 搭建大数据分析平台的背景
在大数据之前，BI就已经存在很久了，简单把大数据等同于BI，明显是不恰当的。但两者又是紧密关联的，相辅相成的。BI是达成业务管理的应用工具，没有BI，大数据就没有了价值转化的工具，就无法把数据的价值呈现给用户，也就无法有效地支撑企业经营管理决策；大数据则是基础，没有大数据，BI就失去了存在的基础，没有办法快速、实时、高效地处理数据，支撑应用。 所以，数据的价值发挥，大数据平台的建设，必然是囊括了大数据处理与BI应用分析建设的。
2、 大数据分析平台的特点
数据摄取、数据管理、ETL和数据仓库：提供有效的数据入库与管理数据用于管理作为一种宝贵的资源。
Hadoop系统功能：提供海量存储的任何类型的数据，大量处理功率和处理能力几乎是无限并行工作或任务
流计算在拉动特征：用于流的数据、处理数据并将这些流作为单个流。
内容管理特征：综合生命周期管理和文档内容。
数据治理综合：安全、治理和合规解决方案来保护数据。
3、 怎样去搭建大数据分析平台
大数据分析处理平台就是整合当前主流的各种具有不同侧重点的大数据处理分析框架和工具，实现对数据的挖掘和分析，一个大数据分析平台涉及到的组件众多，如何将其有机地结合起来，完成海量数据的挖掘是一项复杂的工作。我们可以利用亿信一站式数据分析平台（ABI），可以快速构建大数据分析平台，该平台集合了从数据源接入到ETL和数据仓库进行数据整合，再到数据分析，全部在一个平台上完成。
亿信一站式数据分析平台（ABI）囊括了企业全部所需的大数据分析工具。ABI可以对各类业务进行前瞻性预测分析，并为企业各层次用户提供统一的决策分析支持，提升数据共享与流转能力。

『伍』 高校实验室大数据开发平台建设方案

大数据人才应用能力成长平台——Tempo Talents，从产业人才需求的视角，通过模式创新、技术创新，为高校大数据人才培养提供从平台、课程内容到教学管理的系统解决方案。平台核心围绕“人才应用能力培养”，以实践为基础，将大数据人才培养所需的知识、技能和方法论三个层面互相融合，核心是通过学生动手实践，培养数据思维及解决问题的能力。

5、激发学生学习热情，打造“自驱型”能力成长平台

闯关、竞赛、自主探索的数据游乐场，打破传统的学习模式，打造专业与趣味性融合的学习体验，充分激发学生自主学习热情，打造“自驱型”能力成长平台。