大数据工程师招聘要求

⑴ 大数据开发工程师的基本职责-岗位职责

大数据开发工程师的基本职责-岗位职责

在学习、工作、生活中，很多情况下我们都会接触到岗位职责，明确岗位职责能让员工知晓和掌握岗位职责，能够最大化的进行劳动用工管理，科学的进行人力配置，做到人尽其才、人岗匹配。我们该怎么制定岗位职责呢？以下是我为大家整理的大数据开发工程师的基本职责-岗位职责，仅供参考，欢迎大家阅读。

大数据开发工程师的基本职责-岗位职责1

职责：

1、参与大数据平台搭建以及项目技术架构。

2、数据分析，挖掘，模型具体的产品化；

3、根据产品需求，分析编写和制定大数据相关解决方案

岗位要求：

1、计算机相关专业本科以上学历，编程基础扎实，有2年以上大数据开发经验

2、熟悉Hadoop生态和体系架构，熟悉Flink、Spark，Hive等常用开源工具

3、熟悉Flume，kakfa，scribe等日志收集体系

4、熟悉主流数据库（Oracle、postgresql、Mysql、Sql Server）中的1种及以上，有较好的SQL性能调优经验

5、有数据仓库ETL经验者优先

6、有用户行为日志采集、海量数据处理、数据建模方面经验者优先

7、有持续学习的能力；喜欢开源软件，乐于知识分享；对工作认真负责；可以独立承担较大工作压力

大数据开发工程师的基本职责-岗位职责2

职责：

1、数字货币领域数据统计分析，负责数字货币量化投资策略的设计、管理以及实际投资运作

2、与交易员对接，制定切实可行的的'策略测试计划，开展新策略模型的开发和验证

3、协助交易员进行交易、风险管理，并对实际交易结果进行量化的绩效分析，推动交易自动化

4、上级交办的其他工作

任职要求：

1、数学/计算机/金融专业毕业，有扎实的算法和机器学习的理论基础

2、有量化实盘交易经验，具备丰富的数学建模经验及较强的数据处理能力优先

3、对金融市场的价格波动有独特理解和深入的量化分析，具备一定对冲策略研究经验；

4、对数字货币领域感兴趣，结果导向；

5、有网页抓取和爬虫程序编写经验者优先。

大数据开发工程师的基本职责-岗位职责3

职责：

1、大数据日志分析系统的设计，选型和开发；

2、配合各业务给予数据支持，对产品和运营数据总结和优化；

3、处理用户海量数据，提取、分析、归纳用户属性，行为等信息，完成分析结果；

4、发现并指出数据异常情况，分析数据合理性；

5、公司大数据基础架构平台的运维，保障数据平台服务的稳定性和可用性；

6、大数据基础架构平台的监控、资源管理、数据流管理；

7、基于数据分析的可预测的云平台弹性扩展解决方案。

任职要求：

1、日志分析数据系统实际经验；

2、3年以上互联网行业研发经验，有使用Hadoop/hive/spark分析海量数据的能力；

3、掌握Hadoop、Flume，Kafka、Zookeeper、HBase、Spark的安装与调试；

4、熟悉大数据周边相关的数据库系统，关系型数据库和NoSQL。

5、掌握Linux操作系统的配置，管理及优化，能够独立排查及解决操作系统层的各类问题；

6、有良好的沟通能力，具备出色的规划、执行力，强烈的责任感，以及优秀的学习能力。

大数据开发工程师的基本职责-岗位职责4

职责：

1、负责数据分析、加工、清理、处理程序的开发；

2、负责数据相关平台的搭建、维护和优化；

3、负责基于Hadoop/Spark/Hive/kafka等分布式计算平台实现离线分析、实时分析的计算框架的开发；

岗位要求：

1、本科学历须211院校以上，硕士及以上学历不限院校，计算机软件及相关专业

2、熟悉Java和Scala语言、熟悉常用设计模式、具有代码重构意识；

3、熟练使用hadoop、hbase、Kafka、hive、spark、presto，熟悉底层框架和实现原理；

4、使用Spark Streaming和Spark SQL进行数据处理，并具有SPARK SQL优化经验；

5、需要有至少2年开发经验，有flink开发经验优先；

6、学习能力强，喜欢研究新技术，有团队观念，具备独立解决问题的能力。

大数据开发工程师的基本职责-岗位职责5

职责：

1、负责大数据平台的基础环境搭建与性能优化，完成平台的构建与维护、实时流计算平台、分布式调度、可视化报表等平台的架构与研发；

2、对各种开源框架进行深入的代码剖析和优化；

3、参与大数据技术方案评审；

4、指导初中级大数据工程师工作；

岗位要求：

1、计算机相关专业全日制专科及以上学历，具有3年或以上的分布式计算平台研发工作经验；

2。对大数据相关组件：Hadoop、Spark、Hbase、Hive、Flink、Kafka、Flume等架构与底层实现有深入理解，具备相应的定制和研发能力，尤其需要精通Flink框架；

3。具备构建稳定的大数据基础平台的能力，具备数据收集、数据清洗、数据仓库建设、实时流计算等系统研发经验；

4。对技术有热情，有不错的数据思维和敏感度，有一定的数据分析能力优先，对深度学习、机器学习有一定的了解优先；

5。工作有计划性，责任心和执行能力强，具备高度的责任心、诚信的工作作风、优秀沟通能力及团队精神。

⑵ 想成为大数据开发工程师有哪些要求要要哪些证书

1. 精通Java技术知识，熟悉Spark、kafka、Hive、HBase、zookeeper、HDFS、MR等应用设计及开发；
2. 了解python/shell等脚本语言；。

3. 熟悉大数据平台架构，对ETL、数据仓库等有一定了解；。

4. 有数据可视化、数据分析、数学模型建立相关经验者优先考虑。

5. 有爬虫系统开发经验者优先。

至于需要哪些证书看公司招聘要求吧，每个公司要求不同，目前大数据开发工程师市面上统一可用的证书还没有。

⑶ 想成为大数据开发工程师有哪些要求

需要具备大专及以上文化程度、对数据挖掘、数据分析爱好者、软件开发公司技术人员，满足身体健康，有良好的思维和一定的综合素质。

⑷ 学大数据需要什么条件吗

如 果 是 想 去高 端 班的话， 好 程序员 他 们 是 需 要 大 专 及 以 上 学历 的，还 需要有 一 定 基础， 通过考核才能 学 习的 。

⑸ 想成为大数据开发工程师有哪些要求

大数据所需技能要求
Python语言：编写一些脚本时会用到。

Scala语言：编写Spark程序的最佳语言，当然也可以选择用Python。

Ozie，azkaban：定时任务调度的工具。

Hue，Zepplin：图形化任务执行管理，结果查看工具。
Allluxio，Kylin等：通过对存储的数据进行预处理，加快运算速度的工具。

必须掌握的技能：
Java高级(虚拟机、并发)、Linux 基本操作、hadoop(HDFS+MapRece+Yarn )、 HBase(JavaAPI操作+Phoenix )、Hive(Hql基本操作和原理理解)、 Kafka、Storm/JStorm、Scala、Python、Spark (Core+sparksql+Spark streaming ) 、辅助小工具(Sqoop/Flume/Oozie/Hue等)

高阶技能6条：

机器学习算法以及mahout库加MLlib、 R语言、Lambda 架构、Kappa架构、Kylin、Alluxio

大数据开发工程师除具备专业的技能外，还要有学历（至少大专学历），学历是敲门砖。

⑹ 大数据可视化工程师有哪些要求

数据可视化的本质就是视觉对话。数据可视化将技术与艺术完美结合，借助图形化的手段，清晰有效地传达与沟通信息。

可视化的意义是帮助人更好的分析数据，信息的质量很大程度上依赖于其表达方式。对数字罗列所组成的数据中所包含的意义进行分析，使分析结果可视化。

数据可视化的主要作用，在于通过图形和色彩将关键数据和特征直观地传达出来，从而实现对于相当稀疏而又复杂的数据集的深入洞察。而单纯说"数据呈现"并不确切，因为数据可视化并非无差异地涵盖所有数据，可视化的过程本身就已经加入了制作人的对问题的思考、理解、甚至是一些假设，而数据可视化则是通过一目了然的方式，帮助制作人获得客观数据层面的引导或者验证。

大数据可视化工程师的岗位要求如下：

第一，需要是统计、应用数学、计算机科学等专业的本科及以上学历。

第二，需要有实习经验或者参加过大数据比赛者的经验。

第三，要熟练掌握至少一种大数据工具，PYTHON/R或其他数据挖掘和数据展示软件。

第四，要有良好的编写数据分析报告的能力，对图形效果的可视化，科学化，美观化的具备一定能力。

关于大数据可视化工程师有哪些要求，青藤小编就和您分享到这里了。如果你对大数据工程有浓厚的兴趣，希望这篇文章能够对你有所帮助。如果您还想了解更多数据分析师、大数据工程师的技巧及素材等内容，可以点击本站的其他文章进行学习。

⑺ 大数据工程师有哪些技术要求

1、数据采集技术数据采集主要通过Web、应用、传感器等方式获得各种类型的结构化、半结构化及非结构化数据，难点在于采集量大且数据类型繁多。采集网络数据可以通过网络爬虫或API的方式来获取。对于系统管理员来说，系统日志对于管理有重要的意义，很多互联网企业都有自己的海量数据收集工具，用于系统日志的收集，能满足每秒数百MB的日志数据采集和传输需求，如Hadoop的Chukwa、Flume，Facebook的Scribe等。

2、数据预处理技术大数据的预处理包括对数据的抽取和清洗等方面，数据抽取过程可以将数据转化为单一的或者便于处理的数据结构(常用的数据抽取工具infa)。数据清洗是指发现并纠正数据文件中可识别的错误的最后一道程序，可以将数据集中的残缺数据、错误数据和重复数据筛选出来并丢弃。

3、大数据存储和管理技术实现对结构化、半结构化、非结构化海量数据的存储与管理，可以综合利用分布式文件系统、数据仓库、关系型数据库、非关系型数据库等技术。

4、大数据计算引擎批处理模式：一堆数据一起做批量处理，不能满足实时性要求，如MapRece，Spark。流计算：针对流数据(日志流、用户点击流)的实时计算，需要实时处理。只能用流计算框架做，流计算代表产品：S4+Storm+Flume。图计算：MapRece也能处理，但效率不高。代表软件：Google Pregel。查询分析计算：交互式查询，要求实时性高。代表产品：Google Dremel、Hive、Cassandra、Impala。

⑻ 想成为大数据开发工程师有哪些要求

想要成为大数据开发工程师的要求，首先我觉得你必须数学要学得相当的好，有一定的知识，不然的话，我们小数据都无法开发，还算是什么大数据开发工程师？

⑼ 大数据开发工程师有哪些要求

1、熟练精通至少一门编程语言

掌握Java是必不可少的，要是能同时熟悉Python、Scala就更好了。

2、掌握Linux操作系统

百分之八十以上的企业使用Linux操作系统进行云计算、大数据平台的构建，所以做大数据开发，Linux必备。

3、掌握大数据主流框架及组件

主要是Hadoop、Spark、Storm、Flink等一系列框架，及其生态圈组件，这部分是重中之重。

软实力，就相对来说要虚一些了，逻辑思维能力、沟通能力、学习能力等等，通常在HR面试的时候，主要就是考察这些方面。

⑽ 大数据需要什么人才

说到大数据，肯定少不了分析软件，这应该是大数据工作的根基，但市面上很多各种分析软件，如果不是过来人，真的很难找到适合自己或符合企业要求的。
小编通过各大企业对大数据相关行业的岗位要求，总结了以下几点：
（1）SQL数据库的基本操作，会基本的数据管理
（2）会用Excel/SQL做基本的数据分析和展示
（3）会用脚本语言进行数据分析，Python or R
（4）有获取外部数据的能力，如爬虫
（5）会基本的数据可视化技能，能撰写数据报告
（6）熟悉常用的数据挖掘算法：回归分析、决策树、随机森林、支持向量机等
对于学习大数据，总体来说，先学基础，再学理论，最后是工具。基本上，每一门语言的学习都是要按照这个顺序来的。
1、学习数据分析基础知识，包括概率论、数理统计。基础这种东西还是要掌握好的啊，基础都还没扎实，知识大厦是很容易倒的哈。
2、你的目标行业的相关理论知识。比如金融类的，要学习证券、银行、财务等各种知识，不然到了公司就一脸懵逼啦。
3、学习数据分析工具，软件结合案列的实际应用，关于数据分析主流软件有(从上手度从易到难)：Excel，SPSS，stata，R，Python，SAS等。
4、学会怎样操作这些软件，然后是利用软件从数据的清洗开始一步步进行处理，分析，最后输出结果，检验及解读数据。
当然，学习数学与应用数学、统计学、计算机科学与技术等理工科专业的人确实比文科生有着客观的优势，但能力大于专业，兴趣才会决定你走得有多远。毕竟数据分析不像编程那样，需要你天天敲代码，要学习好多的编程语言，数据分析更注重的是你的实操和业务能力。如今的软件学习都是非常简单便捷的，我们真正需要提升的是自己的逻辑思维能力，以及敏锐的洞察能力，还得有良好的沟通表述能力。这些都是和自身的努力有关，而不是单纯凭借理工科背景就可以啃得下来的。相反这些能力更加倾向于文科生，毕竟好奇心、创造力也是一个人不可或缺的。一、计算机编码能力实际开发能力和大规模的数据处理能力是作为大数据工程师的一些必备要素。举例来说，现在人们在社交网络上所产生的许多记录都是非结构化的数据，如何从这些毫无头绪的文字、语音、图像甚至视频中拾取有意义的信息就需要大数据工程师亲自挖掘。二、数学及统计学相关的背景国内BAT为代表的大公司，对于大数据工程师的要求都是希望是统计学和数学背景的硕士或博士学历。缺乏理论背景的数据工作者，按照不同的数据模型和算法总能捯饬出一些结果来，但如果你不知道那代表什么，就并不是真正有意义的结果，并且那样的结果还容易误导你。只有具备一定的理论知识，才能理解模型、复用模型甚至创新模型，来解决实际问题。三、特定应用领域或行业的知识大数据工程师这个角色很重要的一点是，不能脱离市场，因为大数据只有和特定领域的应用结合起来才能产生价值。所以，在某个或多个垂直行业的经历能为应聘者积累对行业的认知，对于之后成为大数据工程师有很大帮助。