几大数据结构

A. 大数据时代下的三种存储架构

大数据时代下的三种存储架构_数据分析师考试

大数据时代，移动互联、社交网络、数据分析、云服务等应用的迅速普及，对数据中心提出革命性的需求，存储基础架构已经成为IT核心之一。政府、军队军工、科研院所、航空航天、大型商业连锁、医疗、金融、新媒体、广电等各个领域新兴应用层出不穷。数据的价值日益凸显，数据已经成为不可或缺的资产。作为数据载体和驱动力量，存储系统成为大数据基础架构中最为关键的核心。

传统的数据中心无论是在性能、效率，还是在投资收益、安全，已经远远不能满足新兴应用的需求，数据中心业务急需新型大数据处理中心来支撑。除了传统的高可靠、高冗余、绿色节能之外，新型的大数据中心还需具备虚拟化、模块化、弹性扩展、自动化等一系列特征，才能满足具备大数据特征的应用需求。这些史无前例的需求，让存储系统的架构和功能都发生了前所未有的变化。

基于大数据应用需求，“应用定义存储”概念被提出。存储系统作为数据中心最核心的数据基础，不再仅是传统分散的、单一的底层设备。除了要具备高性能、高安全、高可靠等特征之外，还要有虚拟化、并行分布、自动分层、弹性扩展、异构资源整合、全局缓存加速等多方面的特点，才能满足具备大数据特征的业务应用需求。

尤其在云安防概念被热炒的时代，随着高清技术的普及，720P、1080P随处可见，智能和高清的双向需求、动辄500W、800W甚至上千万更高分辨率的摄像机面市，大数据对存储设备的容量、读写性能、可靠性、扩展性等都提出了更高的要求，需要充分考虑功能集成度、数据安全性、数据稳定性，系统可扩展性、性能及成本各方面因素。

目前市场上的存储架构如下：

（1）基于嵌入式架构的存储系统

节点NVR架构主要面向小型高清监控系统，高清前端数量一般在几十路以内。系统建设中没有大型的存储监控中心机房，存储容量相对较小，用户体验度、系统功能集成度要求较高。在市场应用层面，超市、店铺、小型企业、政法行业中基本管理单元等应用较为广泛。

（2）基于X86架构的存储系统

平台SAN架构主要面向中大型高清监控系统，前端路数成百上千甚至上万。一般多采用IPSAN或FCSAN搭建高清视频存储系统。作为监控平台的重要组成部分，前端监控数据通过录像存储管理模块存储到SAN中。

此种架构接入高清前端路数相对节点NVR有了较高提升，具备快捷便利的可扩展性，技术成熟。对于IPSAN而言，虽然在ISCSI环节数据并发读写传输速率有所消耗，但其凭借扩展性良好、硬件平台通用、海量数据可充分共享等优点，仍然得到很多客户的青睐。FCSAN在行业用户、封闭存储系统中应用较多，比如县级或地级市高清监控项目，大数据量的并发读写对千兆网络交换提出了较大的挑战，但应用FCSAN构建相对独立的存储子系统，可以有效解决上述问题。

面对视频监控系统大文件、随机读写的特点，平台SAN架构系统不同存储单元之间的数据共享冗余方面还有待提高；从高性能服务器转发视频数据到存储空间的策略，从系统架构而言也增加了隐患故障点、ISCSI带宽瓶颈导致无法充分利用硬件数据并发性能、接入前端数据较少。上述问题催生了平台NVR架构解决方案。

该方案在系统架构上省去了存储服务器，消除了上文提到的性能瓶颈和单点故障隐患。大幅度提高存储系统的写入和检索速度；同时也彻底消除了传统文件系统由于供电和网络的不稳定带来的文件系统损坏等问题。

平台NVR中存储的数据可同时供多个客户端随时查询，点播，当用户需要查看多个已保存的视频监控数据时，可通过授权的视频监控客户端直接查询并点播相应位置的视频监控数据进行历史图像的查看。由于数据管理服务器具有监控系统所有监控点的录像文件的索引，因此通过平台CMS授权，视频监控客户端可以查询并点播整个监控系统上所有监控点的数据，这个过程对用户而言也是透明的。

（3）基于云技术的存储方案

当前，安防行业可谓“云”山“物”罩。随着视频监控的高清化和网络化，存储和管理的视频数据量已有海量之势，云存储技术是突破IP高清监控存储瓶颈的重要手段。云存储作为一种服务，在未来安防监控行业有着客观的应用前景。

与传统存储设备不同，云存储不仅是一个硬件，而是一个由网络设备、存储设备、服务器、软件、接入网络、用户访问接口以及客户端程序等多个部分构成的复杂系统。该系统以存储设备为核心，通过应用层软件对外提供数据存储和业务服务。

一般分为存储层、基础管理层、应用接口层以及访问层。存储层是云存储系统的基础，由存储设备（满足FC协议、iSCSI协议、NAS协议等）构成。基础管理层是云存储系统的核心，其担负着存储设备间协同工作，数据加密，分发以及容灾备份等工作。应用接口层是系统中根据用户需求来开发的部分，根据不同的业务类型，可以开发出不同的应用服务接口。访问层指授权用户通过应用接口来登录、享受云服务。其主要优势在于：硬件冗余、节能环保、系统升级不会影响存储服务、海量并行扩容、强大的负载均衡功能、统一管理、统一向外提供服务，管理效率高，云存储系统从系统架构、文件结构、高速缓存等方面入手，针对监控应用进行了优化设计。数据传输可采用流方式，底层采用突破传统文件系统限制的流媒体数据结构，大幅提高了系统性能。

高清监控存储是一种大码流多并发写为主的存储应用，对性能、并发性和稳定性等方面有很高的要求。该存储解决方案采用独特的大缓存顺序化算法，把多路随机并发访问变为顺序访问，解决了硬盘磁头因频繁寻道而导致的性能迅速下降和硬盘寿命缩短的问题。

针对系统中会产生PB级海量监控数据，存储设备的数量达数十台上百台，因此管理方式的科学高效显得十分重要。云存储可提供基于集群管理技术的多设备集中管理工具，具有设备集中监控、集群管理、系统软硬件运行状态的监控、主动报警，图像化系统检测等功能。在海量视频存储检索应用中，检索性能尤为重要。传统文件系统中，文件检索采用的是“目录-》子目录-》文件-》定位”的检索步骤，在海量数据的高清视频监控，目录和文件数量十分可观，这种检索模式的效率就会大打折扣。采用序号文件定位可以有效解决该问题。

云存储可以提供非常高的的系统冗余和安全性。当在线存储系统出现故障后，热备机可以立即接替服务，当故障恢复时，服务和数据回迁；若故障机数据需要调用，可以将故障机的磁盘插入到冷备机中，实现所有数据的立即可用。

对于高清监控系统，随着监控前端的增加和存储时间的延长，扩展能力十分重要。市场中已有友商可提供单纯针对容量的扩展柜扩展模式和性能容量同步线性扩展的堆叠扩展模式。

云存储系统除上述优点之外，在平台对接整合、业务流程梳理、视频数据智能分析深度挖掘及成本方面都将面临挑战。承建大型系统、构建云存储的商业模式也亟待创新。受限于宽带网络、web2.0技术、应用存储技术、文件系统、P2P、数据压缩、CDN技术、虚拟化技术等的发展，未来云存储还有很长的路要走。

以上是小编为大家分享的关于大数据时代下的三种存储架构的相关内容，更多信息可以关注环球青藤分享更多干货

B. 数据分析的三大组成部分

数据分析由三大重要部分组成：

1.数据采集。它是我们的原材料，因为任何分析都是需要数据源；

2.数据挖掘。它可以说是最“高大上”的部分，也是整个商业价值所在。数据挖掘的核心是挖掘数据的商业价值，也就是我们所谈的商业智能BI

3.数据可视化。它可以说是数据领域中万金油的技能，可以让我们直观的了解到分析数据的结果。

下面总结详解这三大部分的内容：

一、数据采集

采集工具：八爪鱼，自动抓取的神器，它可以帮你抓取 99% 的页面源。

python爬虫：可编写，采集，存储数据，以及自动化采集设计。

相关推荐：《Python视频教程》

二、数据挖掘

它可以说是知识型的工程，相当于整个专栏中的“算法”部分。首先要知道他的基本流程，算法，以及底层的数学基础。

基本流程：商业理解，数据理解，数据准备，模型建立，模型评估，上线发布。

算法:分类算法，聚类算法，关联分析，连接分析。

数学基础：概率论和数据统计，线性代数，图论，最优化方法。

三、数据可视化

当数据量大的时候很难理解，可视化可以帮我们很好地理解这些数据的结构，以及分析结果的视觉呈现。

数据可视化有两种方法(并不是全部)：

1.python第三方库：Matplotlib，Seaborn等

2.第三方工具:如果生成了csv格式文件，想要采用所见即得的方式进行呈现，可以采用微图，DataV，Data GIF Maker等第三方工具。

C. 数据管理技术的发展经历了那几个阶段

一、人工管理阶段

在计算机出现之前，人们运用常规的手段从事记录、存储和对数据加工，也就是利用纸张来记录和利用计算工具（算盘、计算尺）来进行计算，并主要使用人的大脑来管理和利用这些数据。

二、文件系统阶段

20世纪50年代后期到60年代中期，随着计算机硬件和软件的发展，磁盘、磁鼓等直接存取设备开始普及，这一时期的数据处理系统是把计算机中的数据组织成相互独立的被命名的数据文件，并可按文件的名字来进行访问，对文件中的记录进行存取的数据管理技术。

三、数据库系统阶段

20世纪60年代后期以来 ，计算机性能得到进一步提高，更重要的是出现了大容量磁盘，存储容量大大增加且价格下降。

(3)几大数据结构扩展阅读：

管理数据的特点是：

1、数据不保存。因为当时计算机主要用于科学计算，对于数据保存的需求尚不迫切。

2、系统没有专用的软件对数据进行管理，每个应用程序都要包括数据的存储结构、存取方法和输入方法等。程序员编写应用程序是，还要安排数据的物理存储，因此程序员负担很重。

3、数据不共享。数据是面向程序的，一组数据只能对应一个程序。

4、数据不具有独立性。程序依赖于数据，如果数据的类型、格式或输入/输出方式等逻辑结构或物理结构发生变化，则必须对应用程序做出相应的修改。

D. 什么是数据库系统的体系结构

三级结构的组织形式称为数据库的体系结构或数据抽象的三个级别。这个结构是于1975年在美国ANSI/X3/SPARC（美国国家标准协会的计算机与信息处理委员会中的标准计划与需求委员会）数据库小组的报告中提出的。

1.1.4.1三级数据视图
数据抽象的三个级别又称为三级数据视图，是不同层次用户（人员）从不同角度所看到的数据组织形式。
(1) 外部视图 第一层的数据组织形式是面向应用的，是应用程序员开发应用程序时所使用的数据组织形式，是应用程序员所看到的数据的逻辑结构，是用户数据视图，称为外部视图。外部视图可有多个。这一层的最大特点是以各类用户的需求为出发点，构造满足其需求的最佳逻辑结构。
(2) 全局视图 第二层的数据组织形式是面向全局应用的，是全局数据的组织形式，是数据库管理人员所看到的全体数据的逻辑组织形式，称为全局视图，全局视图仅有一个。这一层的特点是对全局应用最佳的逻辑结构形式。
(3) 存储视图第三层的数据组织形式是面向存储的，是按照物理存储最优的策略所组织形式，是系统维护人员所看到的数据结构，称为存储视图。存储视图只有一个。这一层的特点是物理存储最佳的结构形式。
外部视图是全局视图的逻辑子集，全局视图是外部视图的逻辑汇总和综合，存储视图是全局视图的具体实现。三级视图之间的联系由二级映射实现。外部视图和全局视图之间的映射称为逻辑映射，全局视图和存储视图之间的映射称为物理映射。

1.1.4.2 三级模式
三级视图是用图、表等形式描述的，具有简单、直观的优点。但是，这种形式目前还不能被计算机直接识别。为了在计算机系统中实现数据的三级组织形式，必须用计算机可以识别的语言对其进行描述。DBMS提供了这种数据描述语言（Data Description Language 简记为DDL）。我们称用DDL精确定义数据视图的程序为模式（Scheme）。与三级视图对应的是三级模式。
（1） 子模式 定义外部视图的模式称外模式，也称子模式。它由对用户数据文件的逻辑结构描述以及和全局视图中文件的对应关系的描述组成，用DBMS提供的子模式DDL定义。一个子模式可以由多个用户共享，而一个用户只能使用一个子模式。
（2） 模式 定义全局视图的模式称逻辑模式，简称模式。它由对全局视图中全体数据文件的逻辑结构描述以及和存储视图中文件的对应关系的描述组成，用DBMS提供的模式DDL定义。逻辑结构的描述包括记录的型（组成记录的数据项名、类型、取值范围等），还有记录之间的联系，数据的完整性、安全保密要求等。
（3） 内模式 定义存储视图的模式称内模式，又称物理模式。它由对存储视图中全体数据文件的存储结构的描述和对存储介质参数的描述组成，用DBMS提供的内模式DDL定义。存储结构的描述包括记录值的存储方式（顺序存储、hash方法、B树结构等），索引的组织方式等。
三级模式的结构如图1.8所示。
三级模式所描述的仅仅是数据的组织框架，而不是数据本身。在内模式这个框架填上具体数据就构成物理数据库，它是外部存储器上真实存在的数据集合。模式框架下的数据集合是概念数据库，它仅是物理数据库的逻辑映像。子模式框架下的数据集合是用户数据库，它是概念数据库的逻辑子集。

E. 什么是大数据，大数据的特征和结构有那些

大数据(Big Data)是指“无法用现有的软件工具提取、存储、搜索、共享、分析和处理的海量的、复杂的数据集合。”业界通常用4个V(即Volume、Variety、Value、Velocity)来概括大数据的特征。
一是数据体量巨大(Volume)。截至目前，人类生产的所有印刷材料的数据量是200PB(1PB=210TB)，而历史上全人类说过的所有的话的数据量大约是5EB(1EB=210PB)。当前，典型个人计算机硬盘的容量为TB量级，而一些大企业的数据量已经接近EB量级。
二是数据类型繁多(Variety)。这种类型的多样性也让数据被分为结构化数据和非结构化数据。相对于以往便于存储的以文本为主的结构化数据，非结构化数据越来越多，包括网络日志、音频、视频、图片、地理位置信息等，这些多类型的数据对数据的处理能力提出了更高要求。
三是价值密度低(Value)。价值密度的高低与数据总量的大小成反比。以视频为例，一部1小时的视频，在连续不间断的监控中，有用数据可能仅有一二秒。如何通过强大的机器算法更迅速地完成数据的价值“提纯”成为目前大数据背景下亟待解决的难题。

四是处理速度快(Velocity)。这是大数据区分于传统数据挖掘的最显著特征。