大量数据传输备份用什么架构

㈠ 大数据时代下的三种存储架构

大数据时代下的三种存储架构_数据分析师考试

大数据时代，移动互联、社交网络、数据分析、云服务等应用的迅速普及，对数据中心提出革命性的需求，存储基础架构已经成为IT核心之一。政府、军队军工、科研院所、航空航天、大型商业连锁、医疗、金融、新媒体、广电等各个领域新兴应用层出不穷。数据的价值日益凸显，数据已经成为不可或缺的资产。作为数据载体和驱动力量，存储系统成为大数据基础架构中最为关键的核心。

传统的数据中心无论是在性能、效率，还是在投资收益、安全，已经远远不能满足新兴应用的需求，数据中心业务急需新型大数据处理中心来支撑。除了传统的高可靠、高冗余、绿色节能之外，新型的大数据中心还需具备虚拟化、模块化、弹性扩展、自动化等一系列特征，才能满足具备大数据特征的应用需求。这些史无前例的需求，让存储系统的架构和功能都发生了前所未有的变化。

基于大数据应用需求，“应用定义存储”概念被提出。存储系统作为数据中心最核心的数据基础，不再仅是传统分散的、单一的底层设备。除了要具备高性能、高安全、高可靠等特征之外，还要有虚拟化、并行分布、自动分层、弹性扩展、异构资源整合、全局缓存加速等多方面的特点，才能满足具备大数据特征的业务应用需求。

尤其在云安防概念被热炒的时代，随着高清技术的普及，720P、1080P随处可见，智能和高清的双向需求、动辄500W、800W甚至上千万更高分辨率的摄像机面市，大数据对存储设备的容量、读写性能、可靠性、扩展性等都提出了更高的要求，需要充分考虑功能集成度、数据安全性、数据稳定性，系统可扩展性、性能及成本各方面因素。

目前市场上的存储架构如下：

（1）基于嵌入式架构的存储系统

节点NVR架构主要面向小型高清监控系统，高清前端数量一般在几十路以内。系统建设中没有大型的存储监控中心机房，存储容量相对较小，用户体验度、系统功能集成度要求较高。在市场应用层面，超市、店铺、小型企业、政法行业中基本管理单元等应用较为广泛。

（2）基于X86架构的存储系统

平台SAN架构主要面向中大型高清监控系统，前端路数成百上千甚至上万。一般多采用IPSAN或FCSAN搭建高清视频存储系统。作为监控平台的重要组成部分，前端监控数据通过录像存储管理模块存储到SAN中。

此种架构接入高清前端路数相对节点NVR有了较高提升，具备快捷便利的可扩展性，技术成熟。对于IPSAN而言，虽然在ISCSI环节数据并发读写传输速率有所消耗，但其凭借扩展性良好、硬件平台通用、海量数据可充分共享等优点，仍然得到很多客户的青睐。FCSAN在行业用户、封闭存储系统中应用较多，比如县级或地级市高清监控项目，大数据量的并发读写对千兆网络交换提出了较大的挑战，但应用FCSAN构建相对独立的存储子系统，可以有效解决上述问题。

面对视频监控系统大文件、随机读写的特点，平台SAN架构系统不同存储单元之间的数据共享冗余方面还有待提高；从高性能服务器转发视频数据到存储空间的策略，从系统架构而言也增加了隐患故障点、ISCSI带宽瓶颈导致无法充分利用硬件数据并发性能、接入前端数据较少。上述问题催生了平台NVR架构解决方案。

该方案在系统架构上省去了存储服务器，消除了上文提到的性能瓶颈和单点故障隐患。大幅度提高存储系统的写入和检索速度；同时也彻底消除了传统文件系统由于供电和网络的不稳定带来的文件系统损坏等问题。

平台NVR中存储的数据可同时供多个客户端随时查询，点播，当用户需要查看多个已保存的视频监控数据时，可通过授权的视频监控客户端直接查询并点播相应位置的视频监控数据进行历史图像的查看。由于数据管理服务器具有监控系统所有监控点的录像文件的索引，因此通过平台CMS授权，视频监控客户端可以查询并点播整个监控系统上所有监控点的数据，这个过程对用户而言也是透明的。

（3）基于云技术的存储方案

当前，安防行业可谓“云”山“物”罩。随着视频监控的高清化和网络化，存储和管理的视频数据量已有海量之势，云存储技术是突破IP高清监控存储瓶颈的重要手段。云存储作为一种服务，在未来安防监控行业有着客观的应用前景。

与传统存储设备不同，云存储不仅是一个硬件，而是一个由网络设备、存储设备、服务器、软件、接入网络、用户访问接口以及客户端程序等多个部分构成的复杂系统。该系统以存储设备为核心，通过应用层软件对外提供数据存储和业务服务。

一般分为存储层、基础管理层、应用接口层以及访问层。存储层是云存储系统的基础，由存储设备（满足FC协议、iSCSI协议、NAS协议等）构成。基础管理层是云存储系统的核心，其担负着存储设备间协同工作，数据加密，分发以及容灾备份等工作。应用接口层是系统中根据用户需求来开发的部分，根据不同的业务类型，可以开发出不同的应用服务接口。访问层指授权用户通过应用接口来登录、享受云服务。其主要优势在于：硬件冗余、节能环保、系统升级不会影响存储服务、海量并行扩容、强大的负载均衡功能、统一管理、统一向外提供服务，管理效率高，云存储系统从系统架构、文件结构、高速缓存等方面入手，针对监控应用进行了优化设计。数据传输可采用流方式，底层采用突破传统文件系统限制的流媒体数据结构，大幅提高了系统性能。

高清监控存储是一种大码流多并发写为主的存储应用，对性能、并发性和稳定性等方面有很高的要求。该存储解决方案采用独特的大缓存顺序化算法，把多路随机并发访问变为顺序访问，解决了硬盘磁头因频繁寻道而导致的性能迅速下降和硬盘寿命缩短的问题。

针对系统中会产生PB级海量监控数据，存储设备的数量达数十台上百台，因此管理方式的科学高效显得十分重要。云存储可提供基于集群管理技术的多设备集中管理工具，具有设备集中监控、集群管理、系统软硬件运行状态的监控、主动报警，图像化系统检测等功能。在海量视频存储检索应用中，检索性能尤为重要。传统文件系统中，文件检索采用的是“目录-》子目录-》文件-》定位”的检索步骤，在海量数据的高清视频监控，目录和文件数量十分可观，这种检索模式的效率就会大打折扣。采用序号文件定位可以有效解决该问题。

云存储可以提供非常高的的系统冗余和安全性。当在线存储系统出现故障后，热备机可以立即接替服务，当故障恢复时，服务和数据回迁；若故障机数据需要调用，可以将故障机的磁盘插入到冷备机中，实现所有数据的立即可用。

对于高清监控系统，随着监控前端的增加和存储时间的延长，扩展能力十分重要。市场中已有友商可提供单纯针对容量的扩展柜扩展模式和性能容量同步线性扩展的堆叠扩展模式。

云存储系统除上述优点之外，在平台对接整合、业务流程梳理、视频数据智能分析深度挖掘及成本方面都将面临挑战。承建大型系统、构建云存储的商业模式也亟待创新。受限于宽带网络、web2.0技术、应用存储技术、文件系统、P2P、数据压缩、CDN技术、虚拟化技术等的发展，未来云存储还有很长的路要走。

以上是小编为大家分享的关于大数据时代下的三种存储架构的相关内容，更多信息可以关注环球青藤分享更多干货

㈡ hadoop三大核心组件

Hadoop三大核心组件分别是HDFS、MapRece和YARN。

HDFS是Hadoop生态系统中的分布式文件系统，用于存储大规模数据集。HDFS将数据分布在多个节点上，支持数据冗余备份，确保数据的可靠性和高可用性。它是支持Hadoop分布式计算的基础，可以让Hadoop系统高效地处理大规模数据。

MapRece是Hadoop生态系统中的分布式计算框架，用于处理大规模数据集。MapRece将数据分成多个小块，将计算任务分配到多个节点上并行处理，最后将结果汇总输出。MapRece框架可以自动管理任务的调度、容错、负载均衡等问题，使得Hadoop可以高效地运行大规模数据处理任务。

YARN是Hadoop 2.0引入的新一代资源管理器，用于管理Hadoop集群中的计算资源。YARN支持多种应用程序框架，包括MapRece、Spark等，让Hadoop生态系统变得更加灵活和多样化。YARN可以自动对资源进行分配和调度，让各种应用程序都可以在Hadoop集群上高效地运行。

这三个核心组件互相配合，构成了Hadoop的基本架构，为大数据处理提供了高效、可靠的解决方案。

Hadoop的作用

1、大数据存储：Hadoop可以将大数据以分布式的方式存储在多个节点上，保证数据的安全性和可靠性。Hadoop使用Hadoop Distributed File System（HDFS）来存储数据，HDFS将数据划分为多个块并分散存储在多个节点上。

2、分布式计算：Hadoop可以在多个节点上并行计算，以提高计算效率。Hadoop使用MapRece框架来实现分布式计算，MapRece将计算任务分解为多个子任务，并将它们分配给多个计算节点执行，最后将结果合并输出。

3、大数据处理：Hadoop可以通过MapRece框架来处理大数据，支持对数据进行分组、排序、聚合等操作。同时，Hadoop还支持多种编程语言和工具，如Java、Python、Hive、Pig等，方便用户进行数据处理和分析。

㈢ 医院SAN是什么意思

医院SAN是指医院存储区域网络，是一种基于高速网络技术的存储架构，可以满足医院对数据存储、数据备份、数据恢复以及数据共享等方面的需求。它具有高速、稳定、可靠、安全等特点，可为医院提供优质的存储服务，确保医院数据的安全性和稳定性。
医院SAN采用光纤通道技术，使数据传输速度更快，同时也更加稳定可靠。SAN架构可以集中管理医院所有存储设备，为医院提供更高效的数据管理服务。此外，SAN还能实现对数据的备份和恢复，可以保障医院数据的完整性和安全性。
医院SAN系统可根据医院的实际需求进行设定，满足医院各种数据管理要求。它可以支持多种存储协议，实现与不同厂商的存储设备进行互联互通。同时，SAN还支持灵活的扩展、升级和可靠的容错功能，在满足医院需求的同时，还可以为医院提供更加高效的数据管理和运维服务。

㈣ 备份系统有几种

常见的数据备份系统主要有Host-Base、LAN-Base和基于SAN结构的LAN-Free、Server-Free等多种结构。

Host-Based备份方式:

Host-Based是传统的数据备份的结构这种结构中磁带库直接接在服务器上，而且只为该服务器提供数据备份服务。在大多数情况下，这种备份大多是采用服务器上自带的磁带机，而备份操作往往也是通过手工操作的方式进行的。

Host-Based备份结构的优点是数据传输速度快，备份管理简单;缺点是不利于备份系统的共享，不适合于现在大型的数据备份要求。

LAN-Based备份方式:

LAN-Based备份，在该系统中数据的传输是以网络为基础的。其中配置一台服务器作为备份服务器，由它负责整个系统的备份操作。磁带库则接在某台服务器上，在数据备份时备份对象把数据通过网络传输到磁带库中实现备份的。

LAN-Based备份结构的优点是节省投资、磁带库共享、集中备份管理;它的缺点是对网络传输压力大。

LAN-Free备份方式:

LAN-Free和Server-Free的备份系统是建立在SAN(存储区域网)的基础上的，其结构如下图所示。基于SAN的备份是一种彻底解决传统备份方式需要占用LAN带宽问题的解决方案。它采用一种全新的体系结构，将磁带库和磁盘阵列各自作为独立的光纤结点，多台主机共享磁带库备份时，数据流不再经过网络而直接从磁盘阵列传到磁带库内，是一种无需占用网络带宽 (LAN-Free) 的解决方案。

目前随着SAN技术的不断进步，LAN-Free的结构已经相当成熟，而Server-Free的备份结构则不太成熟。

LAN-Free的优点是数据备份统一管理、备份速度快、网络传输压力小、磁带库资源共享;缺点是投资高。

利用IBM Tivoly Storage Manager软件，配合IBM LTO等磁带库产品，可以实现以上各种备份方式。

数据备份方式的选择

目前数据备份主要方式有:LAN 备份、LAN Free备份和SAN Server-Free备份三种。LAN 备份针对所有存储类型都可以使用， LAN Free备份和SAN Server-Free备份只能针对SAN架构的存储。

㈤ 数据备份的主要技术

LAN 备份、LAN Free备份和SAN Server-Free备份三种。LAN 备份针对所有存储类型都可以使用， LAN Free备份和SAN Server-Free备份只能针对SAN架构的存储。
基于LAN备份 传统备份需要在每台主机上安装磁带机备份本机系统，采用LAN备份策略，在数据量不是很大时候，可采用集中备份。一台中央备份服务器将会安装在 LAN 中，然后将应用服务器和工作站配置为备份服务器的客户端。中央备份服务器接受运行在客户机上的备份代理程序的请求，将数据通过 LAN 传递到它所管理的、与其连接的本地磁带机资源上。这一方式提供了一种集中的、易于管理的备份方案，并通过在网络中共享磁带机资源提高了效率。
LAN-Free备份由于数据通过LAN传播，当需要备份的数据量较大，备份时间窗口紧张时，网络容易发生堵塞。在SAN环境下，可采用存储网络的LAN-Free备份，需要备份的服务器通过SAN连接到磁带机上，在LAN-Free备份客户端软件的触发下，读取需要备份的数据，通过SAN备份到共享的磁带机。这种独立网络不仅可以使 LAN 流量得以转移，而且它的运转所需的 CPU 资源低于LAN 方式，这是因为光纤通道连接不需要经过服务器的 TCP/IP 栈，而且某些层的错误检查可以由光纤通道内部的硬件完成。在许多解决方案中需要一台主机来管理共享的存储设备以及用于查找和恢复数据的备份数据库。SAN Server-Free备份 LAN Free备份对需要占用备份主机的CPU资源，如果备份过程能够在SAN内部完成，而大量数据流无需流过服务器，则可以极大降低备份操作对生产系统的影响。SAN Server-Free备份就是这样的技术。