大数据架构分析方向知乎

1. 大数据分析有哪些基本方向

【导读】跟着大数据时代的降临，大数据剖析也应运而生。随之而来的数据仓库、数据安全、数据剖析、数据发掘等等环绕大数据的商业价值的使用逐渐成为职业人士争相追捧的利润焦点。那么，大数据剖析有哪些根本方向呢?

1.可视化剖析

不管是对数据剖析专家仍是普通用户，数据可视化是数据剖析东西最根本的要求。可视化能够直观的展现数据，让数据自己说话，让观众听到成果。

2.数据发掘算法

可视化是给人看的，数据发掘便是给机器看的。集群、切割、孤立点剖析还有其他的算法让咱们深入数据内部，发掘价值。这些算法不只要处理大数据的量，也要处理大数据的速度。

3.猜测性剖析才能

数据发掘能够让剖析员更好的理解数据，而猜测性剖析能够让剖析员根据可视化剖析和数据发掘的成果做出一些猜测性的判别。

4.语义引擎

咱们知道由于非结构化数据的多样性带来了数据剖析的新的应战，咱们需求一系列的东西去解析，提取，剖析数据。语义引擎需求被设计成能够从“文档”中智能提取信息。

5.数据质量和数据管理

数据质量和数据管理是一些管理方面的最佳实践。经过标准化的流程和东西对数据进行处理能够保证一个预先界说好的高质量的剖析成果。

6.数据存储，数据仓库

数据仓库是为了便于多维剖析和多角度展现数据按特定形式进行存储所建立起来的联系型数据库。在商业智能系统的设计中，数据仓库的构建是关键，是商业智能系统的根底，为商业智能系统供给数据抽取、转换和加载(ETL)，并按主题对数据进行查询和拜访，为联机数据剖析和数据发掘供给数据平台。

以上就是小编今天给大家整理分享关于“大数据分析有哪些基本方向?”的相关内容希望对大家有所帮助。小编认为要想在大数据行业有所建树，需要考取部分含金量高的数据分析师证书，这样更有核心竞争力与竞争资本。

2. 大数据系统架构

转： https://www.sohu.com/a/227887005_487103

数据分析工作虽然隐藏在业务系统背后，但是具有非常重要的作用，数据分析的结果对决策、业务发展有着举足轻重的作用。随着大数据技术的发展，数据挖掘、数据探索等专有名词曝光度越来越高，但是在类似于Hadoop系列的大数据分析系统大行其道之前，数据分析工作已经经历了长足的发展，尤其是以BI系统为主的数据分析，已经有了非常成熟和稳定的技术方案和生态系统，对于BI系统来说，大概的架构图如下：

总的来说，目前围绕Hadoop体系的大数据架构大概有以下几种：
传统大数据架构

Lambda架构算是大数据系统里面举足轻重的架构，大多数架构基本都是Lambda架构或者基于其变种的架构。Lambda的数据通道分为两条分支：实时流和离线。实时流依照流式架构，保障了其实时性，而离线则以批处理方式为主，保障了最终一致性。什么意思呢？流式通道处理为保障实效性更多的以增量计算为主辅助参考，而批处理层则对数据进行全量运算，保障其最终的一致性，因此Lambda最外层有一个实时层和离线层合并的动作，此动作是Lambda里非常重要的一个动作
优点： 既有实时又有离线，对于数据分析场景涵盖的非常到位。
缺点： 离线层和实时流虽然面临的场景不相同，但是其内部处理的逻辑却是相同，因此有大量荣誉和重复的模块存在。
适用场景： 同时存在实时和离线需求的情况。

Kappa架构

Unifield架构

总结
以上几种架构为目前数据处理领域使用比较多的几种架构，当然还有非常多其他架构，不过其思想都会或多或少的类似。数据领域和机器学习领域会持续发展，以上几种思想或许终究也会变得过时。

3. 大数据的就业方向

总的来说大数据领域有几大细分 1 数据清洗、收集、爬虫 //偏脚本、爬虫能力 2 数据回分析 //偏业务答，偏SQL，偏分析能力 3 数据开发 //偏平台，偏工程化、后端开发能力 4 数据挖掘 //偏算法，偏挖掘能力 一般来说，数据分析的门槛最低，其次数据开发和爬虫类，门槛最高的是挖掘，当然薪酬也是相对较高的。 从应用开发入手，你可以往两个方向房展： 1 进一步熟悉架构，提升开发能力，往数据架构师转； 2 从应用工程化往挖掘工程师转，需要自己多学算法相关的知识；

4. 大数据都有哪些就业方向

主要有二个方向：
一是大数据维护、研发、架构工程师方向；所涉及的职业岗位为：大数据工程师、大数据维护工程师、大数据研发工程师、大数据架构师等；
二是大数据挖掘、分析方向；所涉及的职业岗位为：大数据分析师、大数据高级工程师、大数据分析师专家、大数据挖掘师、大数据算法师等

5. 大数据发展几个方向

1.在大数据采集与预处理方向。这方向最常见的问题是数据的多源和多样性，导致数据的质量存在差异，严重影响到数据的可用性。针对这些问题，目前很多公司已经推出了多种数据清洗和质量控制工具(如IBM的Data Stage)。
2.在大数据存储与管理方向。这方向最常见的挑战是存储规模大，存储管理复杂，需要兼顾结构化、非结构化和半结构化的数据。分布式文件系统和分布式数据库相关技术的发展正在有效的解决这些方面的问题。在大数据存储和管理方向，尤其值得我们关注的是大数据索引和查询技术、实时及流式大数据存储与处理的发展。
3.大数据计算模式方向。由于大数据处理多样性的需求，目前出现了多种典型的计算模式，包括大数据查询分析计算(如Hive)、批处理计算(如Hadoop MapRece)、流式计算(如Storm)、迭代计算(如HaLoop)、图计算(如Pregel)和内存计算(如Hana)，而这些计算模式的混合计算模式将成为满足多样性大数据处理和应用需求的有效手段。
4.大数据分析与挖掘方向。在数据量迅速膨胀的同时，还要进行深度的数据深度分析和挖掘，并且对自动化分析要求越来越高，越来越多的大数据数据分析工具和产品应运而生，如用于大数据挖掘的R Hadoop版、基于MapRece开发的数据挖掘算法等等。
5.大数据可视化分析方向。通过可视化方式来帮助人们探索和解释复杂的数据，有利于决策者挖掘数据的商业价值，进而有助于大数据的发展。很多公司也在开展相应的研究，试图把可视化引入其不同的数据分析和展示的产品中，各种可能相关的商品也将会不断出现。可视化工具Tabealu 的成功上市反映了大数据可视化的需求。
6.大数据安全方向。当我们在用大数据分析和数据挖掘获取商业价值的时候，黑客很可能在向我们攻击，收集有用的信息。因此，大数据的安全一直是企业和学术界非常关注的研究方向。通过文件访问控制来限制呈现对数据的操作、基础设备加密、匿名化保护技术和加密保护等技术正在最大程度的保护数据安全。
互联网的发展是大数据发展的最大驱动力，大数据技术运用到各个领域，受到越来越多企业的热捧，越来越多的人选择学习大数据。

6. 大数据都有哪些就业方向

1. 数据工程方向

毕业生能够从事基于计算机、移动互联网、电子信息、等各种相关领域的Java大数据分布式程序开发、大数据集成平台的应用、开发等方面的工作，也可以就在IT领域从事计算机应用工作

2. 数据分析方向

缺啊，数据分析师一出手！市场导向全在手，大数据毕业生做数据分析，多理所应当的一件事情！数据分析方向还可以分得更细，数据存储和管理、数据清理、数据挖掘、数据可视化，大数据很难的你们晓得吧，这些岗位也都是分开招人的，所以说，你就得逮着一个方向使劲儿学，不然你跟不是大数据专业的计算机毕业生之间有啥子区别哦！

3. 大数据运维方向

这个嘛！云计算和大数据是紧密相连的吗，一个负责搞出来数据，一个负责计算数据，还是抢手的嘞！运营工程师基本是负责服务的稳定性，维护并确保整个服务的高可用性，同时做优化。

7. 大数据都有什么就业方向

大数据专业就业方向

大数据主要的三大就业方向：大数据系统研发类人才、大数据应用开发类人才和大数据分析类人才。在此三大方向中，各自的基础岗位一般为大数据系统研发工程师、大数据应用开发工程师和数据分析师。
大数据专业介绍

计算机科学与技术（数据科学与大数据技术方向）主要培养大数据科学与工程领域的复合型高级技术人才。毕业生具有信息科学、管理科学和数据科学基础知识与基本技能，掌握大数据科学与技术所需要的计算机、网络、数据编码、数据处理等相关学科的基本理论和基本知识，熟练掌握大数据采集、存储、处理与分析、传输与应用等技术，具备大数据工程项目的系统集成能力、应用软件设计和开发能力，具有一定的大数据科学研究能力及数据科学家岗位的基本能力与素质。毕业后能从事各行业大数据分析、处理、服务、开发和利用工作，大数据系统集成与管理维护等各方面工作，亦可从事大数据研究、咨询、教育培训工作。
大数据（big data）是指无法在一定时间内用常规软件工具对其内容进行抓取、管理和处理的数据集合。大数据有五大特点，即大量（Volume）、高速（Velocity）、多样（Variety）、低价值密度（Value）、真实性（Veracity）。它并没有统计学的抽样方法，只是观察和追踪发生的事情。

大数据的用法倾向于预测分析、用户行为分析或某些其他高级数据分析方法的使用。
对于“大数据”（Big data）研究机构Gartner给出了这样的定义。“大数据”是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力来适应海量、高增长率和多样化的信息资产。[1]

麦肯锡全球研究所给出的定义是：一种规模大到在获取、存储、管理、分析方面大大超出了传统数据库软件工具能力范围的数据集合，具有海量的数据规模、快速的数据流转、多样的数据类型和价值密度低四大特征。[2]

大数据技术的战略意义不在于掌握庞大的数据信息，而在于对这些含有意义的数据进行专业化处理。换而言之，如果把大数据比作一种产业，那么这种产业实现盈利的关键，在于提高对数据的“加工能力”，通过“加工”实现数据的“增值”。[3]

从技术上看，大数据与云计算的关系就像一枚硬币的正反面一样密不可分。大数据必然无法用单台的计算机进行处理，必须采用分布式架构。它的特色在于对海量数据进行分布式数据挖掘。但它必须依托云计算的分布式处理、分布式数据库和云存储、虚拟化技术。[4]

8. 企业应该如何在大数据基础架构方面做出选择

企业应该如何在大数据基础架构方面做出选择

如果询问十家公司他们为了运行大数据负载需要使用怎样的基础架构，那么可能会得到十种不同的答案。现在这个领域当中几乎没有可以遵循的原则，甚至没有可以参考的最佳实践。

不管是从资源还是从专业性方面来说，大数据分析已经成为基础架构领域当中真正的难题。顾名思义，大数据分析工具所针对的数据集合，规模将会非常庞大，并且需要大量的计算、存储和网络资源来满足性能需求。但是这些大数据工具通常是由超大规模企业开发的，这些企业并不存在普通企业需要考虑的同等级安全问题和高可用性问题，而主流IT企业还没有深入了解这些工具，再加上大数据在投资回报率方面的不确定性，导致只有非常少的企业愿意在大数据方面进行投入。

此外，即便对于曾经在Hadoop、Spark和类似产品上运行过大数据集群的部分企业来说，也会在大数据基础架构方面遇到技术和业务方面的挑战。

大数据带来大问题

一家大型远程通讯提供商正在构建一种新的数字服务，预计在今年年底正式推出，并且准备使用Hadoop来分析这种服务所产生的内容、使用情况和收入（广告服务）数据。但是由于这种服务是全新的，因此很难分析应该使用哪种大数据基础架构，负责这个项目的技术副总裁表示。

“对于一个还没有推出的项目来说，我们不可能进行任何容量规划，”他说。

确实，现在很多大数据项目仍然处于初级阶段。“大多数大数据项目的性质比我们想象的还要低，” 可扩展存储基础架构提供商Coho Data CTO Andrew Warfield表示。

即便企业还不是十分了解大数据技术，但这并不意味着企业不应该在大数据方面投入精力。“但是运行这种技术可能面临着很大风险，提前认识到这点非常重要，” Warfield说，他认为企业应该提前考虑基础架构方面的因素。

对于这家远程通讯提供商来说，他们将会采用一种渐进的方式，使用来自于BlueData Software的软件在商用硬件环境当中运行大数据集群，这样就能够从现有的存储系统上访问数据了。

无处不在的数据

如果数据来自于云，那么当然可以直接在云中进行分析；如果数据全部位于本地，那么底层的基础架构也应该位于本地。但是如果数据分散在不同位置，那么无疑会使得基础架构更加复杂。

远程通讯提供商的服务将会同时使用来自于云和本地的数据。对于任何大数据解决方案来说，考虑到合规性、节省时间和网络带宽等因素，能够同时支持两种数据来源都是十分重要的。“同步生产环境当中的数据是一件非常困难的事情，”这位副总裁说，“我们希望将所有的实例全都指向一个单一数据源。”

此外，虽然数据科学家想要分析的信息是可用的，但是现在还不能进行使用，因为其位于大数据计算工具无法访问的存储基础架构当中，Warfield说。一种解决方案是存储硬件使用Hadoop Distributed File System或者RESTful API这样的协议公开这些数据。

注意延迟

对于特性类型的大数据分析来说，将数据从存储阵列移动到计算环境所花费的时间将会对性能造成严重影响。但是如果不将数据跨越整个网络移动到计算环境当中，而是将应用程序移动到数据附近以降低延迟，将会怎样呢？

将计算环境移动到数据附近并不是一种全新的概念，但是现在出现了一种前所未有的实现方式：Docker。比如Coho Data和Intel通过合作证明了这种概念的有效性，在一个大型金融服务公司当中，使用Docker格式封装计算节点，之后在上面直接运行Hadoop负载。

在存储阵列上直接运行Docker容器，这样做的意义在于直接对附近的数据进行分析，而不再需要跨网络移动数据，同时利用任何可用的计算资源。“相比于其他存储平台来说，大数据平台的CPU使用率通常会很高，” Warfield说。“更何况如果你将闪存加入其中，那么问题就会变成‘我该如何从这种资源当中获得更多价值？’”

直接在存储阵列当中运行容器化应用程序是一件非常有趣的事情，但是需要提前对负载进行认真评估，以确保其能够很好地适应当前环境，为建筑行业提供文档管理服务的Signature Tech Studios公司副总裁Bubba Hines说。这种服务基于Amazon Web Services，使用来自于Zadara Storage的存储服务。这家公司最近开始评估新的Zadara Container Service，其中容器化应用程序运行在存储阵列上，可以直接访问本地磁盘。根据Hines的想法，现在有几种可能的使用情况：在存储阵列上运行其灾难恢复软件的容器版本来持续监控用户数据和工作方面的变化，更改或者验证主要存储数据。

但是如果使用Zadara Container Service处理全部数据将没有什么意义。Signature Tech Studio的系统正在按照计划执行数据转换，并且已经实现大规模容器化了。但是“我们可能不会将所有Docker容器移动到Zadara容器服务当中，因为从体积和规模方面考虑这样做并没有意义，”Hines说。“我们必须寻找能够真正从降低延迟当中获利的负载。”

以上是小编为大家分享的关于企业应该如何在大数据基础架构方面做出选择的相关内容，更多信息可以关注环球青藤分享更多干货