大数据存储面临的问题有哪些

1. 国内大数据需求所面临的典型存储挑战

国内大数据需求所面临的典型存储挑战
大数据让零售无需店面，在最大限度降低投资同时，加快现金流周转效率。大数据使各行各业商家提高获取优质客户资源和提升利润空间的同时，也使竞争进入“一兵一卒”用户争夺战之中。

大数据时代，企业数据量和数据种类出现飞速增长。大数据时代，全球应用数量从几年前的以十万为单位计算，到了以百万为单位计算。10年前，IT从业人员只是以百万计算，数据生成来源也比较单一，但现在，IT服务使用者已经上升到十几亿的消费者，数据生成来源更为丰富，是名副其实的大数据时代。同时，IT资源的配置和管理要满足高度虚拟化或集群IT架构的需求。企业应用部署效率、业务稳定服务性能，以及动态有效满足OLTP和OLAP性能要求，直接决定着企业核心竞争力。企业要求存储更灵活、更动态、性能更稳定，以支撑大量用户对各种IT服务交付的能力。此外，大数据时代还需要集中、统一和自动化管理的功能。
中国市场针对大数据的需求所面临的典型的存储挑战：
1.业务关键型性能：就“存储是否能满足目前业务关键应用性能”的调查结果显示，接受调查人员（总计455名受访者）中28.1%表示在未来12个月考虑部署新型存储。36.5%用户在未来12-24个月考虑部署新存储。大数据时代，应用使用者的快速增加，对存储并行处理能力提出了更高要求。此外，生产应用虚拟化产生大量随机读取，这就对传统IOPs和时间延迟提出了挑战。
2.存储利用率：大数据时代数据量快速增加。如何通过存储容量优化，降低存储容量和网络资源需求，降低数据保护过程对生产环境的性能影响，是控制大数据存储新增开支的关键。
3. 容量优化系统性能：为了提高存储资源利用率和业务连续性，存储厂商近年纷纷推出各种企业级功能。为了降低存储管理强度，中端以上存储具有多种工作负载性能监控、动态资源配置和自动化端对端管理功能。然而，传统存储控制器处理能力有限，启动这些企业级功能需要消耗存储控制器资源。用户往往要在存储资源优化和生产性能之间做取舍。
4.在大数据时代如何利用各种已有存储资源，为大数据时代的业务发展提供高可扩展和业务连续性是关键。传统存储下，不同厂商的存储之间无法实现快照、复制、备份和恢复，由此带来数据保护的大量开支。同时，带来存储资源浪费。
大数据环境对系统性能要求非常苛刻，要满足应用OLTP和大数据分析OLAP，以及业务关键型应用的低延迟需求，传统地通过增加控制器和硬盘这一解决方式不仅带来高昂的采购、运维成本和占地空间成本，而且还会导致资源的闲置，从而进一步降低了企业的IT总拥有成本。

2. 大数据存在的安全问题有哪些

【导读】互联网时代，数据已成为公司的重要资产，许多公司会使用大数据等现代技术来收集和处理数据。大数据的应用，有助于公司改善业务运营并预测行业趋势。那么，大数据存在的安全问题有哪些呢?今天就跟随小编一起来了解下吧!

一、分布式系统

大数据解决方案将数据和操作分布在许多系统中，以实现更快的处理和分析。这种分布式系统可以平衡负载，避免单点故障。但是这样的系统容易受到安全威胁，黑客只要攻击一个点就可以渗透整个网络。

二.数据存取

大数据系统需要访问控制来限制对敏感数据的访问，否则，任何用户都可以访问机密数据，有些用户可能会出于恶意使用。此外，网络犯罪分子可以入侵与大数据系统相连的系统，窃取敏感数据。因此，使用大数据的公司需要检查和验证每个用户的身份。

三.数据不正确

网络犯罪分子可以通过操纵存储的数据来影响大数据系统的准确性。因此，网络犯罪分子可以创建虚假数据，并将这些数据提供给大数据系统。比如医疗机构可以利用大数据系统研究患者的病历，而黑客可以修改这些数据，产生不正确的诊断结果。

四.侵犯隐私

大数据系统通常包含机密数据，这是很多人非常关心的问题。这样的大数据隐私威胁已经被全世界的专家讨论过了。此外，网络犯罪分子经常攻击大数据系统以破坏敏感数据。这种数据泄露已经成为头条新闻，导致数百万人的敏感数据被盗。

五、云安全性不足

大数据系统收集的数据通常存储在云中，这可能是一个潜在的安全威胁。网络犯罪分子破坏了许多知名公司的云数据。如果存储的数据没有加密，并且没有适当的数据安全性，就会出现这些问题。

以上就是小编今天给大家整理分享关于“大数据存在的安全问题有哪些?”的相关内容希望对大家有所帮助。小编认为要想在大数据行业有所建树，需要考取部分含金量高的数据分析师证书，这样更有核心竞争力与竞争资本。

3. 大数据面临哪些安全与隐私问题

(一)大数据遭受异常流量攻击
大数据所存储的数据非常巨大，往往采用分布式的方式进行存储，而正是由于这种存储方式，存储的路径视图相对清晰，而数据量过大，导致数据保护，相对简单，黑客较为轻易利用相关漏洞，实施不法操作，造成安全问题。由于大数据环境下终端用户非常多，且受众类型较多，对客户身份的认证环节需要耗费大量处理能力。由于APT攻击具有很强的针对性，且攻击时间长，一旦攻击成功，大数据分析平台输出的最终数据均会被获取，容易造成的较大的信息安全隐患。
(二)大数据信息泄露风险
大数据平台的信息泄露风险在对大数据进行数据采集和信息挖掘的时候，要注重用户隐私数据的安全问题，在不泄露用户隐私数据的前提下进行数据挖掘。需要考虑的是在分布计算的信息传输和数据交换时保证各个存储点内的用户隐私数据不被非法泄露和使用是当前大数据背景下信息安全的主要问题。同时，当前的大数据数据量并不是固定的，而是在应用过程中动态增加的，但是，传统的数据隐私保护技术大多是针对静态数据的，所以，如何有效地应对大数据动态数据属性和表现形式的数据隐私保护也是要注重的安全问题。最后，大数据的数据远比传统数据复杂，现有的敏感数据的隐私保护是否能够满足大数据复杂的数据信息也是应该考虑的安全问题。
(三)大数据传输过程中的安全隐患
数据生命周期安全问题。伴随着大数据传输技术和应用的快速发展，在大数据传输生命周期的各个阶段、各个环节，越来越多的安全隐患逐渐暴露出来。比如，大数据传输环节，除了存在泄漏、篡改等风险外，还可能被数据流攻击者利用，数据在传播中可能出现逐步失真等。又如，大数据传输处理环节，除数据非授权使用和被破坏的风险外，由于大数据传输的异构、多源、关联等特点，即使多个数据集各自脱敏处理，数据集仍然存在因关联分析而造成个人信息泄漏的风险。
基础设施安全问题。作为大数据传输汇集的主要载体和基础设施，云计算为大数据传输提供了存储场所、访问通道、虚拟化的数据处理空间。因此，云平台中存储数据的安全问题也成为阻碍大数据传输发展的主要因素。
个人隐私安全问题。在现有隐私保护法规不健全、隐私保护技术不完善的条件下，互联网上的个人隐私泄露失去管控，微信、微博、QQ等社交软件掌握着用户的社会关系，监控系统记录着人们的聊天、上网、出行记录，网上支付、购物网站记录着人们的消费行为。但在大数据传输时代，人们面临的威胁不仅限于个人隐私泄露，还在于基于大数据传输对人的状态和行为的预测。近年来，国内多省社保系统个人信息泄露、12306账号信息泄露等大数据传输安全事件表明，大数据传输未被妥善处理会对用户隐私造成极大的侵害。因此，在大数据传输环境下，如何管理好数据，在保证数据使用效益的同时保护个人隐私，是大数据传输时代面临的巨大挑战之一。
(四)大数据的存储管理风险
大数据的数据类型和数据结构是传统数据不能比拟的，在大数据的存储平台上，数据量是非线性甚至是指数级的速度增长的，各种类型和各种结构的数据进行数据存储，势必会引发多种应用进程的并发且频繁无序的运行，极易造成数据存储错位和数据管理混乱，为大数据存储和后期的处理带来安全隐患。当前的数据存储管理系统，能否满足大数据背景下的海量数据的数据存储需求，还有待考验。不过，如果数据管理系统没有相应的安全机制升级，出现问题后则为时已晚。

4. 我国发展大数据存在哪些问题

您好，一是信息孤岛普遍存在。跨部门、跨行业的数据共享仍不顺畅，有价值的公共信息资源和商业数据开放程度低，基本处于死锁状态，无法顺畅流动。
二是对大数据产业发展规律认识不足。全社会尚未形成对大数据产业发展规律的客观、科学的认识，一些地方误将数据中心建设视为大数据产业发展重点，盲目追逐硬件设施投资，轻视了数据资源汇聚、积累、处理与应用能力建设，未能主动推进大数据产业发展与应用需求间的对接。
三是技术创新与支撑能力不足。大数据需要从底层芯片到基础软件再到应用分析软件等信息产业全产业链的支撑，无论是新型计算平台、分布式计算架构，还是大数据处理、分析和呈现方面与国外均存在较大差距，难以满足各行各业大数据应用需求。
四是数据资源建设和应用水平低。用户普遍不重视数据资源的建设，即使有数据意识的机构也大多只重视数据的简单存储，很少针对后续应用需求进行加工整理。数据资源普遍存在质量差，标准规范缺乏，管理能力弱，数据价值难以被有效挖掘利用的问题。
五是信息安全和数据管理体系尚未建立。数据所有权、隐私权等相关法律法规和信息安全、开放共享等标准规范缺乏，技术安全防范和管理能力不够，尚未建立起兼顾安全与发展的数据开放、管理和信息安全保障体系，制约了大数据发展。
六是人才队伍建设亟须加强。综合掌握数学、统计学、计算机等相关学科及应用领域知识的综合性数据科学人才缺乏，远不能满足发展需要，尤其是缺乏既熟悉行业业务需求，又掌握大数据技术与管理的综合型人才。

5. 大数据面临哪些安全与隐私问题

在大数据环境下，人们上传的数据会面临这些问题：
一：数据安全隐患问题；注要表现在（一）大数据遭受异常攻击，造成安全隐患。（二）大数据泄露风险。（三）大数据传输过程的安全隐患。（四）大数据存储管理风险。
二、大数据隐私问题；主要表现在（一）个人隐私保护。（二）传统安全措施难以适配。（三）数据访问控制愈加复杂。

6. 大数据安全层面的风险主要包括

大数据在应用和存储中存在着一系列安全风险，包括以下几个层面：
数据泄露风险：大数据的存储和传输，容易面临数据泄露的风险。这些数据可能是敏感性数据，如个人身份信息、财务信息、医疗记录等。
数据完整性风险：大数据存储和传输中，数据可能会遭受损坏、篡改或丢失，因此需要采取保护措施，保证大数据的完整性。
权限管理风险：“大数据时代”涉及众多数据源，管理人员要对各类数据源的权限进行仔细的分析和考虑，设置合适的权限，避免数据泄漏、篡改等风险。
命令注入风险：黑客利用安全漏洞，通过构造特殊的输入进行攻击，从而在系统内执行恶意命令，造成系统瘫痪、用户数据丢失等风险。
恶意软件攻击：恶意软件是指那些被创建来入侵计算机、网络或移动设备的软件，通过恶意指令来获取敏感数据，窃取隐私信息，或者破坏系统的完整性。
供应链风险：大数据往往依赖于云服务、第三方应用等，这些供应商存在安全问题时，会直接影响大数据的安全。
数据处理风险：大数据可能存在各种数据处理问题，如特征选择错误、处没烂理数据集不准确、应用算法核闭缺陷等，从而导致大数据的隐私和安全问题。
这些安全风险需要引起我们的注意，企业或个人在使用、处理与存储大数据时，应制定安全策略和措施，加强数据管理与安枯氏漏全运维，从而有效地缓解数据的安全风险。

7. 大数据爆发性增长 存储技术面临难题

大数据爆发性增长 存储技术面临难题

随着大数据应用的爆发性增长，大数据已经衍生出了自己独特的架构，而且也直接推动了存储、网络以及计算技术的发展。毕竟处理大数据这种特殊的需求是一个新的挑战。硬件的发展最终还是由软件需求推动的。大数据本身意味着非常多需要使用标准存储技术来处理的数据。大数据可能由TB级(或者甚至PB级)信息组成，既包括结构化数据(数据库、日志、SQL等)以及非结构化数据(社交媒体帖子、传感器、多媒体数据)。此外，大部分这些数据缺乏索引或者其他组织结构，可能由很多不同文件类型组成。从目前技术发展的情况来看，大数据存储技术的发展正面临着以下几个难题：

1、容量问题

这里所说的“大容量”通常可达到PB级的数据规模，因此，海量数据存储系统也一定要有相应等级的扩展能力。与此同时，存储系统的扩展一定要简便，可以通过增加模块或磁盘柜来增加容量，甚至不需要停机。

“大数据”应用除了数据规模巨大之外，还意味着拥有庞大的文件数量。因此如何管理文件系统层累积的元数据是一个难题，处理不当的话会影响到系统的扩展能力和性能，而传统的NAS系统就存在这一瓶颈。所幸的是，基于对象的存储架构就不存在这个问题，它可以在一个系统中管理十亿级别的文件数量，而且还不会像传统存储一样遭遇元数据管理的困扰。基于对象的存储系统还具有广域扩展能力，可以在多个不同的地点部署并组成一个跨区域的大型存储基础架构。

2、延迟问题

“大数据”应用还存在实时性的问题。有很多“大数据”应用环境需要较高的IOPS性能，比如HPC高性能计算。此外，服务器虚拟化的普及也导致了对高IOPS的需求，正如它改变了传统IT环境一样。为了迎接这些挑战，各种模式的固态存储设备应运而生，小到简单的在服务器内部做高速缓存，大到全固态介质的可扩展存储系统等等都在蓬勃发展。

3、并发访问

一旦企业认识到大数据分析应用的潜在价值，他们就会将更多的数据集纳入系统进行比较，同时让更多的人分享并使用这些数据。为了创造更多的商业价值，企业往往会综合分析那些来自不同平台下的多种数据对象。包括全局文件系统在内的存储基础设施就能够帮助用户解决数据访问的问题，全局文件系统允许多个主机上的多个用户并发访问文件数据，而这些数据则可能存储在多个地点的多种不同类型的存储设备上。

4、安全问题

某些特殊行业的应用，比如金融数据、医疗信息以及政府情报等都有自己的安全标准和保密性需求。虽然对于IT管理者来说这些并没有什么不同，而且都是必须遵从的，但是，大数据分析往往需要多类数据相互参考，而在过去并不会有这种数据混合访问的情况，因此大数据应用也催生出一些新的、需要考虑的安全性问题。

5、成本问题

成本问题“大”，也可能意味着代价不菲。而对于那些正在使用大数据环境的企业来说，成本控制是关键的问题。想控制成本，就意味着我们要让每一台设备都实现更高的“效率”，同时还要减少那些昂贵的部件。

对成本控制影响最大的因素是那些商业化的硬件设备。因此，很多初次进入这一领域的用户以及那些应用规模最大的用户都会定制他们自己的“硬件平台”而不是用现成的商业产品，这一举措可以用来平衡他们在业务扩展过程中的成本控制战略。为了适应这一需求，现在越来越多的存储产品都提供纯软件的形式，可以直接安装在用户已有的、通用的或者现成的硬件设备上。此外，很多存储软件公司还在销售以软件产品为核心的软硬一体化装置，或者与硬件厂商结盟，推出合作型产品。

6、数据的积累

许多大数据应用都会涉及到法规遵从问题，这些法规通常要求数据要保存几年或者几十年。比如医疗信息通常是为了保证患者的生命安全，而财务信息通常要保存7年。而有些使用大数据存储的用户却希望数据能够保存更长的时间，因为任何数据都是历史记录的一部分，而且数据的分析大都是基于时间段进行的。要实现长期的数据保存，就要求存储厂商开发出能够持续进行数据一致性检测的功能以及其他保证长期高可用的特性。同时还要实现数据直接在原位更新的功能需求。

7、数据的灵活性

大数据存储系统的基础设施规模通常都很大，因此必须经过仔细设计，才能保证存储系统的灵活性，使其能够随着应用分析软件一起扩容及扩展。在大数据存储环境中，已经没有必要再做数据迁移了，因为数据会同时保存在多个部署站点。一个大型的数据存储基础设施一旦开始投入使用，就很难再调整了，因此它必须能够适应各种不同的应用类型和数据场景。

存储介质正在改变，云计算倍受青睐

存储之于安防的地位，其已经不仅是一个设备而已，而是已经升华到了一个解决方案平台的地步。作为图像数据和报警事件记录的载体，存储的重要性是不言而喻的。

安防监控应用对存储的需求是什么？首先，海量存储的需求。其次，性能的要求。第三，价格的敏感度。第四，集中管理的要求。第五，网络化要求。安防监控技术发展到今天经历了三个阶段，即：模拟化、数字化、网络化。与之相适应，监控数据存储也经历了多个阶段，即：VCR模拟数据存储、DVR数字数据存储，到现在的集中网络存储，以及发展到云存储阶段，正是在一步步迎合这种市场需求。在未来，安防监控随着高清化，网络化，智能化的不断发展，将对现有存储方案带来不断挑战，包括容量、带宽的扩展问题和管理问题。那么，基于大数据战略的海量存储系统--云存储就倍受青睐了。

基于大数据战略的安防存储优势明显

当前社会对于数据的依赖是前所未有的，数据已变成与硬资产和人同等重要的重要资料。如何存好、保护好、使用好这些海量的大数据，是安防行业面临的重要问题之一。那么基于大数据战略的安防存储其优势何在？

目前的存储市场上，原有的视频监控方案容量、带宽难以扩展。客户往往需要采购更多更高端的设备来扩充容量，提高性能，随之带来的是成本的急剧增长以及系统复杂性的激增。同时，传统的存储模式很难在完全没有业务停顿的情况下进行升级，扩容会对业务带来巨大影响。其次，传统的视频监控方案难于管理。由于视频监控系统一般规模较大，分布特征明显，大多独立管理，这样就把整个系统分割成了多个管理孤岛，相互之间通信困难，难以协调工作，以提高整体性能。除此之外，绿色、安全等也是传统视频监控方案所面临的突出问题。

基于大数据战略的云存储技术与生俱来的高扩展、易管理、高安全等特性为传统存储面临的问题带来了解决的契机。利用云存储，用户可以方便的进行容量、带宽扩展，而不必停止业务，或改变系统架构。同时，云存储还具有高安全、低成本、绿色节能等特点。基于云存储的视频监控解决方案是客户应对挑战很好的选择。王宇说，进入二十一世纪，云存储作为一种新的存储架构，已逐步走入应用阶段，云存储不仅轻松突破了SAN的性能瓶颈，而且可以实现性能与容量的线性扩展，这对于拥有大量数据的安防监控用户来说是一个新选择。

以英特尔推出的Hadoop分布式文件系统（HDFS）为例，其提供了一个高度容错性和高吞吐量的海量数据存储解决方案。目前已经在各种大型在线服务和大型存储系统中得到广泛应用，已经成为海量数据存储的事实标准。

随着信息系统的快速发展，海量的信息需要可靠存储的同时，还能被大量的使用者快速地访问。传统的存储方案已经从构架上越来越难以适应近几年来的信息系统业务的飞速发展，成为了业务发展的瓶颈和障碍。HDFS通过一个高效的分布式算法，将数据的访问和存储分布在大量服务器之中，在可靠地多备份存储的同时还能将访问分布在集群中的各个服务器之上，是传统存储构架的一个颠覆性的发展。最重要的是，其可以满足以下特性：可自我修复的分布式文件存储系统，高可扩展性，无需停机动态扩容，高可靠性，数据自动检测和复制，高吞吐量访问，消除访问瓶颈，使用低成本存储和服务器构建。

以上是小编为大家分享的关于大数据爆发性增长 存储技术面临难题的相关内容，更多信息可以关注环球青藤分享更多干货

8. 云计算时代大数据遇到哪些困难

现阶断大数据的困难主要在如下几点：
1、信息壁垒降低了大数据产业专资源配置效率。大数据属产业发展必须实现数据信息的自由流动和共享，如果数据不开放、不共享，数据整合就不能实现，数据价值也会大大降低。
2、 政府部门是社会信息的主要控制者，其信息又分别被不同部门和区域控制，而不同部门和区域间的数据标准各异，信息资源也就难以实现共享。
3、数据安全管理薄弱增加了大数据产业的发展风险。
数据安全和隐私保护是大数据产业发展的世界性难题，这主要体现在三个方面：其一，数据的海量存储增加了数据安防的难度，可能造成大量数据损坏或丢失，造成难以想象的后果；其二，在大数据时代，数据的多元性和复杂性要求人们形成更强的安全意识，但现实中不论企业还是个人的安全意识还没有从传统的非信息时代转变过来，存在巨大潜在风险；其三，网络攻击带来了数据安全风险，随着大数据在政府、金融、公共事业等领域的广泛运用，数据泄露带来的损失远远超出行业范畴，而是全局性的国家安全问题。