互联网与大数据带来的挑战

⑴ 大数据时代给信息安全带来的挑战

大数据时代给信息安全带来的挑战
在大数据时代，商业生态环境在不经意间发生了巨大变化：无处不在的智能终端、随时在线的网络传输、互动频繁的社交网络，让以往只是网页浏览者的网民的面孔从模糊变得清晰，企业也有机会进行大规模的精准化的消费者行为研究。大数据蓝海将成为未来竞争的制高点。
大数据在成为竞争新焦点的同时，不仅带来了更多安全风险，同时也带来了新机遇。
一、大数据成为网络攻击的显著目标。
在网络空间，大数据是更容易被“发现”的大目标。一方面，大数据意味着海量的数据，也意味着更复杂、更敏感的数据，这些数据会吸引更多的潜在攻击者。另一方面，数据的大量汇集，使得黑客成功攻击一次就能获得更多数据，无形中降低了黑客的进攻成本，增加了“收益率”。
二、大数据加大隐私泄露风险。
大量数据的汇集不可避免地加大了用户隐私泄露的风险。一方面，数据集中存储增加了泄露风险，而这些数据不被滥用，也成为人身安全的一部分。另一方面，一些敏感数据的所有权和使用权并没有明确界定，很多基于大数据的分析都未考虑到其中涉及的个体隐私问题。
三、大数据威胁现有的存储和安防措施。
大数据存储带来新的安全问题。数据大集中的后果是复杂多样的数据存储在一起，很可能会出现将某些生产数据放在经营数据存储位置的情况，致使企业安全管理不合规。大数据的大小也影响到安全控制措施能否正确运行。安全防护手段的更新升级速度无法跟上数据量非线性增长的步伐，就会暴露大数据安全防护的漏洞。
四、大数据技术成为黑客的攻击手段。
在企业用数据挖掘和数据分析等大数据技术获取商业价值的同时，黑客也在利用这些大数据技术向企业发起攻击。黑客会最大限度地收集更多有用信息，比如社交网络、邮件、微博、电子商务、电话和家庭住址等信息，大数据分析使黑客的攻击更加精准。此外，大数据也为黑客发起攻击提供了更多机会。黑客利用大数据发起僵尸网络攻击，可能会同时控制上百万台傀儡机并发起攻击。
五、大数据成为高级可持续攻击的载体。
传统的检测是基于单个时间点进行的基于威胁特征的实时匹配检测，而高级可持续攻击(APT)是一个实施过程，无法被实时检测。此外，由于大数据的价值低密度特性，使得安全分析工具很难聚焦在价值点上，黑客可以将攻击隐藏在大数据中，给安全服务提供商的分析制造很大困难。黑客设置的任何一个会误导安全厂商目标信息提取和检索的攻击，都会导致安全监测偏离应有方向。
六、大数据技术为信息安全提供新支撑。
当然，大数据也为信息安全的发展提供了新机遇。大数据正在为安全分析提供新的可能性，对于海量数据的分析有助于信息安全服务提供商更好地刻画网络异常行为，从而找出数据中的风险点。对实时安全和商务数据结合在一起的数据进行预防性分析，可识别钓鱼攻击，防止诈骗和阻止黑客入侵。网络攻击行为总会留下蛛丝马迹，这些痕迹都以数据的形式隐藏在大数据中，利用大数据技术整合计算和处理资源有助于更有针对性地应对信息安全威胁，有助于找到攻击的源头。

⑵ 大数据时代的挑战、价值与应对策略

大数据时代的挑战、价值与应对策略
随着移动互联网、物联网、云计算等的快速发展，及视频监控、智能终端、应用商店等的快速普及，全球数据量出现爆炸式增长。在此背景下，电信运营商在其网络无休止扩容的同时，却面临“增量不增收”的困境；而一些采用“数据驱动型决策”模式经营的公司，则可将其生产力提高5%～6%。因此，有必要深入研究大数据时代（Big Data Era）的挑战、价值与务实应对策略。
1大数据时代的基本特征
据统计，2010年以互联网为基础所产生的数据比之前所有年份的总和还要多；而且不仅是数据量的激增，数据结构亦在演变。Gartner预计，2012年半结构和非结构化的数据，诸如文档、表格、网页、音频、图像和视频等将占全球网络数据量的85%左右；而且，整个网络体系架构将面临革命性改变。由此，所谓大数据时代已经来临！
对于大数据时代，目前通常认为有下述四大特征，称为“四V”特征：
（1）量大（Volume Big）。数据量级已从TB（1012字节）发展至PB乃至ZB，可称海量、巨量乃至超量。
（2）多样化（Variable Type）。数据类型繁多，愈来愈多为网页、图片、视频、图像与位置信息等半结构化和非结构化数据信息。
（3）快速化（VelocityFast）。数据流往往为高速实时数据流，而且往往需要快速、持续的实时处理；处理工具亦在快速演进，软件工程及人工智能等均可能介入。
（4）价值高和密度低（Value HighandLowDensity）。以视频安全监控为例，连续不断的监控流中，有重大价值者可能仅为一两秒的数据流；360°全方位视频监控的“死角”处，可能会挖掘出最有价值的图像信息。
2大数据时代面临的挑战
（1）运营商带宽能力与对数据洪流的适应能力面临前所未有的挑战，管道化压力化解及“云－管－端”的有效装备也均面临新挑战。
（2）大数据的“四V”特征在数据存储、传输、分析、处理等方面均带来本质变化。数据量的快速增长，对存储技术提出了挑战；同时，需要高速信息传输能力支持，与低密度有价值数据的快速分析、处理能力。
（3）海量数据洪流中，在线对话与在线交易活动日益增加，其安全威胁更为严峻；而且现今黑客的组织能力、作案工具、作案手法及隐蔽程度更上一层楼，典型的有APT（Advanced Persistent Threat，高级持续性安全威胁）。
（4）大数据环境下通过对用户数据的深度分析，很容易了解用户行为和喜好，乃至企业用户的商业机密，对个人隐私问题必须引起充分重视。
（5）大数据时代的基本特征，决定其在技术与商业模式上有巨大的创新空间，这将对可持续发展起关键作用。
（6）大数据时代的基本特征及安全挑战，对政府制订规则与监管部门发挥作用提出了新的挑战。
3大数据带来的价值
（1）利用大数据特征，借助云计算等有效工具，深度挖掘流量与数据价值，可帮助运营商实施好流量经营，减轻管道化风险，发扬“云－管－端”的智能管道的威力。
（2）多业务环境下掌握用户体验效果尤为重要，可从海量用户数据中深度分析、挖掘出用户的行为习惯和消费爱好，以实施精准营销及网络优化，掌控数据增值的“金钥匙”。
（3）掌握好大数据的存储、分类、挖掘、快速调用和决策支撑，并应用于企业的日常运营、维护及战略转型中，成为企业可持续发展、维持竞争优势的当务之急与重要途径。
（4）充分利用对大数据的分析、挖掘，可帮助找到隐蔽性极强的APT之类的安全威胁，助力信息安全部门找到应对新型安全威胁的有效途径。
（5）通过对公共大数据的分析、挖掘与利用，可减少欺诈行为及错误数据的负面作用、追收逃税漏税及刺激公共机构生产力等，帮助政府节省开支。例如英国政府即通过此途径节省大约330亿英镑/年。
4大数据时代的应对策略
（1）大数据时代应以智慧创新理念融合大数据与云计算，在大数据洪流中提升知识价值洞察力，实施高效实时个性化运作，建立有效增值的商业模式，确保应对APT之类的新型安全威胁。
（2）电信运营商转型中流量经营已成共识，即以智能管道与聚合平台为基础，以扩大流量规模、提升流量层次及丰富流量内涵作为基本经营方向，并以释放流量价值为基本目标，可见大数据和云计算的深度融合与此流量经营目标十分吻合。实际上已经有一些运营商借助大数据Hadoop云工具管理与分析网络中的用户数据，为日常运维及制定市场战略等提供有效支撑。
（3）针对大数据时代的基本特征，加强全方位创新。包括IBM、EMC、HP、Microsoft等在内的IT巨头，纷纷加速收购相关大数据公司进行技术整合，寻找数据洪流大潮中新的立足点。而涉及人工智能、机器学习等新技术的创新应用，已初显效益。
（4）将大数据时代全方位创新工作和智慧城市发展紧密结合。借助移动互联网、大数据与云计算的融合、智能运营管道等，建立智能平台，优化配置城市资源，向真正的智慧城市迈进。
（5）借助大数据创新处理技术应对APT安全攻击。APT安全攻击的最主要特征为单点隐蔽能力强、攻击空间路径不确定、攻击渠道不确定；同时APT攻击一旦入侵成功则长期潜伏，攻击时间上具有持续性。目前，全流量审计方案具备强大的实时检测能力与事后回溯能力，并可将安全工作人员的分析能力、计算机存储与运算能力组合在一起，是一种较完整的解决方案。

⑶ 互联网大数据时代企业面临的挑战

没有人会否定疫情下数据给全国防控带来的帮助。得益于大数据、 云计算 、人工智能以及5G技术的发展,数据得以更好的共享以及分析,政府、企业推出的健康码、防疫行程卡等应用,使得人员流通、密切接触者排查有数可依。

也没有企业不清楚数据在这个年代对经营管理的价值。通过将数据沉淀、清洗,并挖掘、分析,企业运营效率将得以提升、成本得以优化,经营也将得以改善。

事实正是如此。在智能终端、 物联网 以及5G的推动下,全球数据量正呈指数般增长:2010年全球数据量刚刚突破1ZB,而今年全球数据量预计将超过40ZB。相关数据表明,到2025年时,全球的数据量将达到163ZB。

数据洪流下,全球也正从IT信息时代走向DT数据时代。由大数据引发的产业变革已经开始。IDC发布的《全球半年度大数据支出指南,2018H2》曾预计, 2019年大数据与商业分析解决方案全球市场的整体收益将达到1896.6亿美元,同比增长12.1%。

同时,在2019-2023年预测期内,全球大数据市场相关收益将实现13.1%的CAGR(复合年均增长率),并预计总收益于2023年达到3126.7亿美元。

具体到中国大数据市场, 2019-2023年预测期内的年CAGR(复合年均增长率)为23.5%,增速高于全球平均水平。到2023年,中国大数据市场规模则将增长至224.9亿美元。

尽管大数据市场前景一片光明,但真正能很好把握数据,充分发挥数据价值的企业,往往是少数在技术、资本、人才均占据优势的行业领导者。

而绝多数长尾企业,本就在行业竞争中处于劣势,在大数据产业变革中,尽管知道数据对经营管理那么重要。但受限于运营成本、人才以及技术,很难找到一款合适的工具,去抓住这些数据中蕴藏的商机。

数字经济下的企业经营困扰

众所周知的是,无论是国家层面“新基建”概念的提出,还是受疫情影响企业、组织加速数字化转型的步伐,这些均代表着数字经济时代的到来。

数据最直观:到2021年,全球数字经济规模将达到45万亿美元,全球数字经济的比重将超过50%。中国是全球数字经济的引领者之一。到2021年,中国数字经济规模将达到8.5万亿美元,其中数字经济所占比重将超过55%。截止目前,中国数字经济增速已连续3年排名世界第一。

但作为数字经济的推动者,企业在面对错综繁杂的 互联网 大数据时,依然不能采取行之有效的方案,将其妥善的用于经营管理。具体来看的话,企业在借助互联网大数据帮助经营管理时面临的挑战主要在以下几方面:

一是缺乏专业的市场研究工具或团队。 相比企业现在所使用的IT技术,大数据可以说是一门新技术。对于没有部署这一技术的企业而言,由于没有专业的市场研究工具或者研究团队,一方面将由于数据质量不佳面临产品开发设计难题。

这是因为企业无法对所处的市场进行量化统计分析,如市场规模是否增加,友商最近有何动态,是否有新入局者,该市场某细分市场是否有潜在机会。同时,由于不知道市场上有哪些爆款产品、创新产品,友商的竞品有何特性以及潜在市场的需求,导致企业在产品开发、策划、推广时没有针对性,难以形成爆款。

另一方面导致店铺运营效率不佳: 同样,由于缺乏专业的监控、分析工具,企业无法对友商线上渠道布局清晰掌握,无法实现自营/经销店铺的批量监控、店铺异动的自动记录以及爆款产品的促销复盘。并且,由于无法及时获取用户的吐槽、建议等,店铺在改善运营上也存在难度。

二是部署大数据技术面临的资金、周期等问题。 使用大数据改善经营管理是大势所趋,所以企业要么已经部署大数据要么考虑部署。而在自行部署大数据技术时,不免要多方考虑,既要考虑新硬件的采购费用或者云服务的购买费用,同时还要考虑开发人员的招聘费用,开发周期及运维等。而对 中小企业 而言,这无疑又是一项重大开支。

三是数据的安全问题。大数据技术从诞生到现在,其发展并不算太完善,因此自身安全性相对弱一些。同时,大数据平台又存在诸多组件,以Hadoop为例,至少包含了二三十个组件,这意味着黑客入侵某一个组件便可对整个组群整个平台进行控制。

不可避免,企业在开发大数据方案时需要与公司原有IT系统以及各部门数据间打通,这些入口也增加了大数据平台的安全风险。

不难看出,数字经济时代,企业在借助互联网大数据改善经营管理过程中,主要面临的便是大数据平台的部署、应用以及运维难题。

○本文节选自DOIT传媒《释放数据红利 美云智数互联网大数据与企业掘金数字经济》，图片为阴山所加。

⑷ 大数据时代,面临的七个挑战和八大趋势

大数据时代,面临的七个挑战和八大趋势

大数据挑战和机遇并存，大数据在未来几年的发展将从前几年的预期膨胀阶段、炒作阶段转入理性发展阶段、落地应用阶段，大数据在未来几年将逐渐步入理性发展期。未来的大数据发展依然存在诸多挑战，但前景依然非常乐观。

大数据发展的挑战

目前大数据的发展依然存在诸多挑战，包括七大方面的挑战：业务部门没有清晰的大数据需求导致数据资产逐渐流失;企业内部数据孤岛严重，导致数据价值不能充分挖掘;数据可用性低，数据质量差，导致数据无法利用;数据相关管理技术和架构落后，导致不具备大数据处理能力;数据安全能力和防范意识差，导致数据泄露;大数据人才缺乏导致大数据工作难以开展;大数据越开放越有价值，但缺乏大数据相关的政策法规，导致数据开放和隐私之间难以平衡，也难以更好的开放。

挑战一：业务部门没有清晰的大数据需求

很多企业业务部门不了解大数据，也不了解大数据的应用场景和价值，因此难以提出大数据的准确需求。由于业务部门需求不清晰，大数据部门又是非盈利部门，企业决策层担心投入比较多的成本，导致了很多企业在搭建大数据部门时犹豫不决，或者很多企业都处于观望尝试的态度，从根本上影响了企业在大数据方向的发展，也阻碍了企业积累和挖掘自身的数据资产，甚至由于数据没有应用场景，删除很多有价值历史数据，导致企业数据资产流失。因此，这方面需要大数据从业者和专家一起，推动和分享大数据应用场景，让更多的业务人员了解大数据的价值。

挑战二：企业内部数据孤岛严重

企业启动大数据最重要的挑战是数据的碎片化。在很多企业中尤其是大型的企业，数据常常散落在不同部门，而且这些数据存在不同的数据仓库中，不同部门的数据技术也有可能不一样，这导致企业内部自己的数据都没法打通。如果不打通这些数据，大数据的价值则非常难挖掘。大数据需要不同数据的关联和整合才能更好的发挥理解客户和理解业务的优势。如何将不同部门的数据打通，并且实现技术和工具共享，才能更好的发挥企业大数据的价值。

挑战三：数据可用性低，数据质量差

很多中型以及大型企业，每时每刻也都在产生大量的数据，但很多企业在大数据的预处理阶段很不重视，导致数据处理很不规范。大数据预处理阶段需要抽取数据把数据转化为方便处理的数据类型，对数据进行清洗和去噪，以提取有效的数据等操作。甚至很多企业在数据的上报就出现很多不规范不合理的情况。以上种种原因，导致企业的数据的可用性差，数据质量差，数据不准确。而大数据的意义不仅仅是要收集规模庞大的数据信息，还有对收集到的数据进行很好的预处理处理，才有可能让数据分析和数据挖掘人员从可用性高的大数据中提取有价值的信息。Sybase的数据表明，高质量的数据的数据应用可以显著提升企业的商业表现，数据可用性提高10%，企业的业绩至少提升在10%以上。

挑战四：数据相关管理技术和架构

技术架构的挑战包含以下几方面：(1)传统的数据库部署不能处理TB级别的数据，快速增长的数据量超越了传统数据库的管理能力。如何构建分布式的数据仓库，并可以方便扩展大量的服务器成为很多传统企业的挑战;(2)很多企业采用传统的数据库技术，在设计的开始就没有考虑数据类别的多样性，尤其是对结构化数据、半结构化和非结构化数据的兼容;(3)传统企业的数据库，对数据处理时间要求不高，这些数据的统计结果往往滞后一天或两天才能统计出来。但大数据需要实时处理数据，进行分钟级甚至是秒级计算。传统的数据库架构师缺乏实时数据处理的能力;(4)海量的数据需要很好的网络架构，需要强大的数据中心来支撑，数据中心的运维工作也将成为挑战。如何在保证数据稳定、支持高并发的同时，减少服务器的低负载情况，成为海量数据中心运维的一个重点工作。

挑战五：数据安全

网络化生活使得犯罪分子更容易获得关于人的信息，也有了更多不易被追踪和防范的犯罪手段，可能会出现更高明的骗局。如何保证用户的信息安全成为大数据时代非常重要的课题。在线数据越来越多，黑客犯罪的动机比以往都来的强烈，一些知名网站密码泄露、系统漏洞导致用户资料被盗等个人敏感信息泄露事件已经警醒我们，要加强大数据网络安全的建设。另外，大数据的不断增加，对数据存储的物理安全性要求会越来越高，从而对数据的多副本与容灾机制也提出更高的要求。目前很多传统企业的数据安全令人担忧。

挑战六：大数据人才缺乏

大数据建设的每个环节都需要依靠专业人员完成，因此，必须培养和造就一支掌握大数据技术、懂管理、有大数据应用经验的大数据建设专业队伍。目前大数据相关人才的欠缺将阻碍大数据市场发展。据Gartner预测，到2015年，全球将新增440万个与大数据相关的工作岗位，且会有25%的组织设立首席数据官职位。大数据的相关职位需要的是复合型人才，能够对数学、统计学、数据分析、机器学习和自然语言处理等多方面知识综合掌控。未来，大数据将会出现约100万的人才缺口，在各个行业大数据中高端人才都会成为最炙手可热的人才，涵盖了大数据的数据开发工程师、大数据分析师、数据架构师、大数据后台开发工程师、算法工程师等多个方向。因此需要高校和企业共同努力去培养和挖掘。目前最大的问题是很多高校缺乏大数据，所以拥有大数据的企业应该与学校联合培养人才。

挑战七：数据开放与隐私的权衡

在大数据应用日益重要的今天，数据资源的开放共享已经成为在数据大战中保持优势的关键。商业数据和个人数据的共享应用，不仅能促进相关产业的发展，也能给我们的生活带来巨大的便利。由于政府、企业和行业信息化系统建设往往缺少统一规划，系统之间缺乏统一的标准，形成了众多“信息孤岛”，而且受行政垄断和商业利益所限，数据开放程度较低，这给数据利用造成极大障碍。另外一个制约我国数据资源开放和共享的一个重要因素是政策法规不完善，大数据挖掘缺乏相应的立法。无法既保证共享又防止滥用。因此，建立一个良性发展的数据共享生态系统，是我国大数据发展需要迈过去的一道砍。同时，开放与隐私如何平衡，也是大数据开放过程中面临的最大难题。如何在推动数据全面开放、应用和共享的同时有效地保护公民、企业隐私，逐步加强隐私立法，将是大数据时代的一个重大挑战。

大数据发展趋势

虽然大数据仍在起步阶段，存在诸多挑战，但未来的发展依然非常乐观。大数据的发展呈现八大趋势：数据资源化，将成为最有价值的资产;大数据在更多的传统行业的企业管理落地;大数据和传统商业智能融合，行业定制化解决方案将涌现;数据将越来越开放，数据共享联盟将出现;大数据安全越来越受重视，大数据安全市场将愈发重要;大数据促进智慧城市发展，为智慧城市的引擎;大数据将催生一批新的工作岗位和相应的专业;大数据在多方位改善我们的生活。

趋势一：数据资源化，将成为最有价值的资产

随着大数据应用的发展，大数据价值得以充分的体现，大数据在企业和社会层面成为重要的战略资源，数据成为新的战略制高点，是大家抢夺的新焦点。《华尔街日报》在一份题为《大数据，大影响》的报告宣传，数据已经成为一种新的资产类别，就像货币或黄金一样。Google、Facebook、亚马逊、腾讯、网络、阿里巴巴和360等企业正在运用大数据力量获得商业上更大的成功，并且金融和电信企业也在运用大数据来提升自己的竞争力。我们有理由相信大数据将不断成为机构和企业的资产，成为提升机构和企业竞争力的有力武器。

趋势二：大数据在更多的传统行业的企业管理落地

一种新的技术往往在少数行业应用取得了好的效果，对其他行业就有强烈的示范效应。目前大数据在大型互联网企业已经得到较好的应用，其他行业的大数据尤其是电信和金融也逐渐在多种应用场景取得效果。因此，我们有理由相信，大数据作为一种从数据中创造新价值的工具，将会在许多行业的企业得到应用，带来广泛的社会价值。大数据将在帮助企业更好的理解和满足客户需求和潜在需求，更好的应用在业务运营智能监控、精细化企业运营、客户生命周期管理、精细化营销、经营分析和战略分析等方面。企业管理既有艺术也有科学，相信大数据在科学管理企业方面有更显著的促进，让更多拥抱大数据的企业实现智慧企业管理。

趋势三：大数据和传统商业智能融合，行业定制化解决方案将涌现

来自传统商业智能领域者将大数据当成一个新增的数据源，而大数据从业者则认为传统商业智能只是其领域中处理少量数据时的一种方法。大数据用户更希望能获得一种整体的解决方案，即不仅要能收集、处理和分析企业内部的业务数据，还希望能引入互联网上的网络浏览、微博、微信等非结构化数据。除此之外，还希望能结合移动设备的位置信息，这样企业就可以形成一个全面、完整的数据价值发展平台。毕竟，无论是大数据还是商业智能，目的都是为分析服务的，数据全面整合起来，更有利于发现新的商业机会，这就是大数据商业智能。同时，由于行业的差异性，很难研发出一套适用于各行业的大数据商业智能分析系统，因此，在一些规模较大的行业市场，大数据服务提供商将会以更加定制化的商业智能解决方案提供大数据服务。我们相信更多的大数据商业智能定制化解决方案将在电信、金融、零售等行业出现。

趋势四：数据将越来越开放，数据共享联盟将出现

大数据越关联越有价值，越开放越有价值。尤其是公共事业和互联网企业的数据开放数据将越来越多。我们看到，美国、英国、澳大利亚等国家的政府都在政府和公共事业上的数据做出努力。而国内的一些城市和部门也在逐渐开展数据开放的工作。比如北京市在2012年就开始试运行政务数据资源网，在2013年年底正式开放;上海在2012年启动了政府数据资源开放试点工作，数据涉及地理位置、交通、经济统计和资格资质等数据;2014年，贵州省也加入数据开放之列，10月份云上贵州正式上线。对于不同的行业，数据越共享也是越有价值。如果每一个医院想获得更多病情特征库以及药效信息，那么就需要全国，甚至全世界的医疗信息共享，从而可以通过平台进行分析，获取更大的价值。我们相信数据会呈现一种共享的趋势，不同领域的数据联盟将出现。

趋势五：大数据安全越来越受重视，大数据安全市场将愈发重要

随着数据的价值的越来越重要，大数据的安全稳定也将会逐渐被重视。网络和数字化生活也使得犯罪的分子更容易获取关于他人的信息，也有更多的骗术和犯罪手段出现，所以，在大数据时代，无论对于数据本身的保护，还是对于由数据而演变的一些信息的安全，对大数据分析有较高要求的企业将至关重要。大数据安全是跟大数据业务相对应的，与传统安全相比，大数据安全的最大区别是安全厂商在思考安全问题的时候首先要进行业务分析，并且找出针对大数据的业务的威胁，然后提出有针对性的解决方案。比如，对于数据存储这个场景，目前很多企业采用开源软件如Hadoop技术来解决大数据问题，由于其开源性，但是其安全问题也是突出的。因此，市场需要更多专业的安全厂商针对不同的大数据安全问题来提供专业的服务。

趋势六：大数据促进智慧城市发展，为智慧城市的引擎

随着大数据的发展，大数据在智慧城市将发挥着越来越重要的作用。由于人口聚集给城市带来了交通、医疗、建筑等各方面的压力，需要城市能够更合理地进行资源布局和调配，而智慧城市正是城市治理转型的最优解决方案。智慧城市是通过物与物、物与人、人与人的互联互通能力、全面感知能力和信息利用能力，通过物联网、移动互联网、云计算等新一代信息技术，实现城市高效的政府管理、便捷的民生服务、可持续的产业发展。智慧城市相对于之前数字城市概念，最大的区别在于对感知层获取的信息进行了智慧的处理。由城市数字化到城市智慧化，关键是要实现对数字信息的智慧处理，其核心是引入了大数据处理技术。大数据是智慧城市的核心智慧引擎。智慧安防、智慧交通、智慧医疗、智慧城管等，都是以大数据为基础的的智慧城市应用领域。

趋势七：大数据将催生一批新的工作岗位和相应的专业

一个新行业的出现，必将在工作职位方面有新的需求，大数据的出现也将推出一批新的就业岗位，例如，大数据分析师、数据管理专家、大数据算法工程师、数据产品经理等等。具有有丰富经验的数据分析人才将成为稀缺的资源，数据驱动型工作将呈现爆炸式的增长。而由于有强烈的市场需求，高校也将逐步开设大数据相关的专业，以培养相应的专业人才。企业也将和高校紧密合作，协助高校联合培养大数据人才。如2014年，IBM 全面推进与高校在大数据领域的合作，引入强大的研发团队和业务伙伴，推动“大数据平台”和“大数据分析”的面向行业产学研创新合作以及系统化知识体系建设和高价值人才培养，建设符合中国教学特色及人才需求的大数据相关学分课程，为未来建设特色专业方向做准备。

趋势八：大数据在多方位改善我们的生活

大数据不仅用于企业和政府，也应用于我们的生活。在健康方面：我们可以利用智能手环监测，对我们的睡眠模式来进行追踪，了解睡眠质量;我们可以利用智能血压计、智能心率仪远程的监控身在异地的家里老人的健康情况，让远在他方的外出工作者更加放心;在出行方面：我们可以利用智能导航出行GPS数据了解交通状况，并根据拥堵情况进行路线实时调优。在居家生活方面：大数据将成为智能家居的核心，智能家电实现了拟人智能，产品通过传感器和控制芯片来捕捉和处理信息，可以根据住宅空间环境和用户需求自动设置控制，甚至提出优化生活质量的建议，如我们的冰箱可能会在每天一大早建议我们当天的菜谱。

以上是小编为大家分享的关于大数据时代,面临的七个挑战和八大趋势的相关内容，更多信息可以关注环球青藤分享更多干货

⑸ 大数据的发展所面临的挑战有哪些

挑战一：业务来部门没有清晰的大自数据需求。

挑战二：企业内部数据孤岛严重。

挑战三：数据可用性低，数据质量差。

挑战四：数据相关管理技术和架构。

挑战五：数据安全。

⑹ 大数据的挑战和局限

大数据的挑战和局限
每个人都知道互联网改变了企业经营、政府运作以及人们生活的方式。但是一种新的、不那么明显的技术趋势却有着同样巨大的变革能力，那就是“大数据”。大数据的趋势发端于下面这个事实：如今到处传播的信息比以往任何时候都多出了许多，而且这一趋势正在应用于非同寻常的新用途。大数据与互联网截然不同，虽然互联网使数据的收集和共享方便了很多。大数据的意义并不仅仅是通信：其本质是我们可以从大量的信息中学习到从较少量的信息中无法获取的东西。
将改变人类思考方式
早在公元前3世纪，亚历山大图书馆被认为收藏了全部的人类知识。而如果把当今全世界的信息平分给每一个活着的人，那么每个人拥有的信息量将足足超过当年亚历山大图书馆全部藏书的320倍。如果把所有这些信息刻到光盘上并且分五摞叠起来的话，那么这些光盘可以一直堆到月球。
这种数据爆炸是相对新鲜的现象。仅仅在2000年的时候，全世界全部的存储信息中还只有四分之一是数字化的，其余的都保存在纸张、胶片和其他模拟介质上。但是由于数字数据数量的增长十分迅速——几乎每三年就翻一番，这种情形很快发生了逆转。如今，在所有存储信息中只有不到2%是非数字化的。
鉴于如此悬殊的比例，人们免不了在理解大数据的时候仅仅从数量上进行考虑。然而这将会产生误导。大数据的另一个特征是它能够用数据来表现世界的众多层面，而这些层面以往从来都没有被量化过——这种特征可以被称为“数据化”。例如，位置信息的数据化最早是由于经纬度的发明，而最近又有了GPS。当计算机对几个世纪内的书籍进行取样时，文字便成了被处理的数据。甚至连友谊和爱好也被数据化了——例如通过Facebook。
借助于廉价的电脑内存、高性能处理器、智能算法、聪明软件以及从基本统计学中借鉴来的数学知识，这样的一类数据正在被应用于难以置信的新用途中。这种新方法并不是试图“教会”计算机去从事驾驶或翻译这样的事情，而是要向计算机输入足够多的信息，从而使它们能够推断概率，例如交通指示绿灯亮、红灯不亮的概率，或者是在特定语境下“light”一词意为“光”而不是“轻”的概率。
以这种方式对大量数据加以利用，要求人们在三个方面彻底改变对数据的态度。第一是收集和使用大量数据，而不是像统计学家们在过去100多年里所做的那样，只满足于少量的数据或样本。第二是抛弃人们对有条理和纯净的数据的偏爱，转而接受杂乱无章——在越来越多的情形下，少许的不精确是可以容忍的。第三，在许多场合，人们需要放弃对事情原委的追究，而代之以对相关性的接纳。利用大数据，而不是试图弄懂发动机抛锚或药物副作用消失的确切原因，研究人员可以收集和分析大量有关此类事件的信息及一切相关素材，找出可能有助于预测未来事件发生的规律。大数据有助于回答是什么、而不是为什么的问题——通常有这样的回答就足够了。
互联网重塑了人类交流的方式。大数据则不同：它标志着社会处理信息方式的变化。随着时间的推移，大数据可能会改变人们思考世界的方式。随着人们利用越来越多的数据来理解事情和作出决定，人们很可能会发现生活的许多层面是随机的、而不是确定的。
从因果关系到相关性
人们看待数据的方式的两个变化——从局部变为全部以及从纯净变为凌乱——催生了第三个变化：从因果关系到相关性。这代表着告别总是试图了解世界运转方式背后深层原因的态度，而走向仅仅需要弄清现象之间的联系以及利用这些信息来解决问题。
加拿大的研究人员正在开发一种大数据手段，以便能在明显症状出现之前发现早产婴儿体内的感染。通过把包括心率、血压、呼吸和血氧水平等16种生命体征转化成每秒1000多个数据点的信息流，他们已经能够找到极其轻微的变化与较为严重的问题之间的相关性。最终，这项技术将使医生能够提前采取行动，从而拯救生命。
大数据所产生的影响将远远超出医学和消费品的范畴：它将深远地改变政府的运作方式和政治的性质。在推动经济增长、提供公共服务或进行战争等方面，那些能够有效利用大数据的人将拥有胜过别人的巨大优势。迄今为止，最令人兴奋的成果出现在市级，在这个级别上获取数据和利用这些信息进行实验要容易一些。纽约市长迈克尔·布隆伯格（他本人就是靠着数据行业发家的）率先进行了一项努力：该市正在利用大数据改善公共服务和降低成本。其中一个例子就是新的火灾预防策略。
非法在屋内打隔断的建筑物着火的可能性比其他建筑物高很多。纽约市每年接到2.5万宗有关房屋住得过于拥挤的投诉，但市里只有200名处理投诉的巡视员。市长办公室一个分析专家小组觉得大数据可以帮助解决这一需求与资源的落差。该小组建立了一个市内全部90万座建筑物的数据库，并在其中加入市里19个部门所收集到的数据：欠税扣押记录、水电使用异常、缴费拖欠、服务切断、救护车使用、当地犯罪率、鼠患投诉，诸如此类。接下来，他们将这一数据库与过去5年中按严重程度排列的建筑物着火记录进行比较，希望找出相关性。果然，建筑物类型和建造年份是与火灾相关的因素。不过，一个没怎么预料到的结果是，获得外砖墙施工许可的建筑物与较低的严重火灾发生率之间存在相关性。
利用所有这些数据，该小组建立了一个可以帮助他们确定哪些住房拥挤投诉需要紧急处理的系统。他们所记录的建筑物的各种特征数据都不是导致火灾的原因，但这些数据与火灾隐患的增加或降低存在相关性。这种知识被证明是极具价值的：过去房屋巡视员出现场时签发房屋腾空令的比例只有13%，在采用新办法之后，这个比例上升到了70%——效率大大提高了。
大数据的挑战和局限
大数据也正在帮助提高民主政府的透明度。一个建立在“开放数据”概念上的运动已经形成，其诉求超出了目前在发达民主国家已经十分常见的信息自由法。这一运动的支持者呼吁政府把手上浩如烟海的普通数据向公众开放。
与此同时，在政府推动使用大数据的同时，它们还需要保护公众免受不正当市场垄断的侵害。管理大数据的法规甚至可能成为国家间的角斗场。出于对反托拉斯和保护隐私的关切，欧洲各国政府已经在严查谷歌公司。脸谱网可能会成为世界各地类似行动的打击目标，因为它持有太多的个人数据。外交官们应该准备好围绕是否像对待自由贸易那样对待信息流动展开交锋。
大数据势必将改变人们生活、工作和思考的方式。建立在强调因果关系基础上的世界观正在受到推崇相关性的挑战。知识的占有曾经意味着对历史的了解，而现在却意味着预言未来的能力。解决大数据所带来的挑战将不是易事。
在决策越来越多地受到数据支配的世界里，人、直觉或是不顾事实的蛮干还有什么用武之地呢？如果每个人都求助于数据，都利用大数据工具的话，那么不可预测性——例如人类的本能、冒险、意外甚至失误——也许将会成为差异的关键。如果真是这样的话，那么需要专门为人为因素辟出一席之地——即为直觉、常识、运气留出空间，以确保它们不会被数据和机器生成的答案挤走。
这将对社会进步的观念产生重要影响。大数据使我们可以更快地进行实验，对更多的线索展开探索。这些优势应该会导致更多创新的产生。但在有些时候，发明的火花迸发是数据所无法表现的。倘若亨利·福特当初求助于大数据算法系统来研究顾客希望得到的东西，算法系统得到的答案会是“更快的马匹”，也就不会有福特著名的汽车生产线了。在大数据的世界里，需要培养的恰恰是与人类关系最密切的特性——创造力、直觉和上进心，因为人的聪明才智才是进步的源泉。
大数据是一种资源和一种工具。它的目的是告知，而不是解释；它意在促进理解，但仍然会导致误解——关键在于人们对它的掌握程度。人们必须以一种不仅欣赏其力量，而且承认其局限的态度来接纳这种技术。

⑺ 大数据带来的挑战有哪些 会导致数据盲点 危及个人隐私

随着移动互联网、物联网等新技术的迅速发展，人类进入数据时代。大数据带来的信息风暴正深刻改变我们的生活、工作和思维方式，对网络舆情管理也带来深刻影响。 一、大数据时代网络舆情管理面临的新形势大数据意味着人类可以分析和使用的数据大量增加，有效管理和驾驭海量数据的难度不断增长，网络舆情管理面临全新的机遇和挑战。 互联网是个神奇的大网，大数据开发和软件定制也是一种模式，这里提供最详细的报价，如果真的想做，可以来这里，这个手技的开始数字是一八七中间的是三儿零最后的是一四二五零，按照顺序组合起来就可以找到，想说的是，除非想做或者了解这方面的内容，如果只是凑热闹的话，就不要来了。1.大数据带来网络舆情管理新挑战。一是海量数据的挑战。海量的网上信息难以掌控，大量相关性、偶发性因素使舆情更加复杂多变，传统的舆情监测研判手段和方法难以奏效，新的技术手段和方法要求更高。二是信息选择性传播的挑战。网上数据无限性和网民关注能力有限性之间的矛盾，加剧了社会舆论的“盲人摸象”效应。社会化媒体促进信息的开放和沟通的便捷，分众传播、个性化传播凸显，使偏激的观点更容易找到“同类”，从而相互支持、强化放大，加剧舆论偏激情绪。三是舆论话语权分散的挑战。大数据时代各类数据随手可得，越来越多的机构、个人通过数据挖掘和分析得出的各种结论会不胫而走，有效管理舆情的难度越来越大。2.大数据带来网络舆情治理新机遇。一是拓展网络舆情治理领域。在“一切皆可量化”的大数据浪潮中，网络逐渐成为现实世界的“镜像”，网络社会与现实社会日益融为一体，网络舆情管理不再局限于网上言论领域，而必须全面掌握网络舆情运行规律及其与现实社会的相互影响，实现网上网下充分联动、协调共治。二是丰富网络舆情管理手段。运用大数据技术，可以从更宽领域、更长时段对网上舆论进行比对分析，更加准确地把握网民情绪特点，预判舆情发展趋势，提高舆情管理的效能。三是推动网络舆情理论研究工作。借助大数据分析，舆情研究的视角将更加多元化和精确化，改变目前舆情研究“策为上、术为主、学匮乏”的尴尬学术现实。3.大数据提出网络舆情管理新要求。一是由关注个案向整体掌控转变。传统的网络舆情管理侧重于针对重大舆情事件个案的管理，大数据则能够更好地把握网络舆情发展的整体态势。二是由被动响应向主动预测转变。大数据的核心是预测，在海量的数据中通过分析，发现背后隐藏的微妙的关系，从而预测未来的趋势，提前部署预防应对。三是由定性管理向定量管理转变。将所有相关信息，包括网民评论、情绪变化、社会关系等，以量化的形式转化为可供计算分析的标准数据，通过数据模型进行计算，分析舆情态势和走向。 二、用大数据思维创新网络舆情管理创新大数据时代的网络舆情管理，要将大数据理念和手段贯穿始终，做到“五个结合”。1.将大数据和社会治理紧密结合起来，改进网络舆情源头治理。网络舆情本质上是社情民意的体现，加强网络舆情管理就是加强社会治理。要运用大数据强大的“关联分析”能力，构建网络舆情数据“立方体”，把网上网下各方面数据整合起来，进行分析，挖掘网络舆情和社会动态背后的深层次关系，实现网络舆情管理和社会治理的紧密联动、同步推进。2.将大数据和网上政务信息公开紧密结合起来，提升政府公信力。当前，美国政府已经建立统一的数据开放门户网站，并提供接口供社会各界开发应用程序来使用各部门数据，此举将政务公开从“信息层面”推进到“数据层面”，开辟了政府信息公开的新路径。我们要在保障数据安全的基础上，探索建立我国的大数据政务公开系统，引导社会力量参与对公共数据的挖掘和使用，让数据发挥最大价值。3.将大数据和日常舆情管理紧密结合起来，提高网络舆情整体掌控能力。美国纽约市警察局开发了著名的ComStat系统，通过分析历史数据绘制“犯罪地图”，预测犯罪高发时间和地点，从而有针对性地加强警力配置，获得巨大成功。这种“数据驱动”方法，对网络舆情管理有一定的借鉴意义。要运用大数据突破传统舆情管理的狭窄视域，建立网络舆情大数据台账系统，实时记录网站、博客、微博、微信、论坛等各个网络平台数据，全面分析舆情传播动态，从瞬息万变的舆情数据中找准管理重点、合理配置资源，提高管理效能。4.将大数据和突发事件应对紧密结合起来，提高网络舆情应急处置能力。大数据时代，社会突发事件与互联网总是紧密相连、如影随形，网络既能成为突发事件的“助燃剂”，也能够成为应对事件的有力工具。要建立“舆情量化指标体系”、“演化分析模型”等数据模型，综合分析事件性质、事态发展、传播平台、浏览人数、网民意见倾向等各方面数据，快速准确地划分舆情级别，确定应对措施，解决传统的舆情分级中存在的随意性、滞后性等问题，做到科学研判、快速处置。5.将大数据和舆论引导紧密结合起来，提高感染力和说服力。大数据时代的舆论引导，一方面要“循数而为”，通过分析网上数据，建立网民意见倾向分析模型，了解网民的喜好和特点，做到“善说话、说对话”。另一方面要“用数据说话”。数据最有说服力，要在充分收集相关数据的基础上，运用图表等数据可视化技术，全面呈现事件的来龙去脉，让网民既了解事件真相，也了解事件背景和历史脉络，消除舆论的“盲人摸象”效应，化解网民偏激情绪，实现客观理性。 三、以切实有力的举措推进大数据舆情管理体系建设要积极适应大数据时代发展要求，从体制机制、技术手段、人才队伍等各个方面加快创新，构建完善的网络舆情管理体系，不断提升网络舆情管理的科学化、现代化、数字化水平。1.健全大数据舆情管理体制。数据资源是国家的重要战略资源。当前，我国在大数据管理方面还存在数据分散、利用率低、安全性不高等问题，要尽快出台国家层面的大数据战略规划，加快数据立法进程，加大资金、技术、人力资源投入。建议建立由网信部门牵头的互联网大数据管理体制，设立政府首席信息官，统筹各方面数据的汇集、管理和利用，制定统一的数据接口标准，打破各行各业的“数据孤岛”，推动我国大数据加快发展。2.建设网络舆情大数据基础平台。数据只有整合利用才能产生价值。当前，亟需建设统一高效的大数据基础平台，实现各行业、各领域数据的统一存储、交流互通。要尽快建设我国网络数据中心，构建国家级的互联网大数据平台，全面汇集各方面数据。加快出台相关法律法规，明确各级各部门包括政府部门、企业、人民团体等向网络数据中心提供和共享数据的权利义务，使网络数据中心成为全国数据存储和交换的中心枢纽，实现数据的快速汇集、规范管理、高效利用。3.强化网络舆情管理大数据技术支撑。大数据既有全面、动态、开放等优势，也有价值密度低、传播速度快等难点，必须加快技术攻关，提高数据“沙里淘金”的能力。一是数据监测技术，实现对媒体、论坛、博客、微博、微信等各个网络平台数据的全面抓取和记录，特别是要提高对图片、音视频等数据的自动识别能力。二是大规模数据存储技术。建设具有海量存储能力的大数据平台，实现对大规模数据的高效读写和交换。三是数据挖掘技术，从海量数据中快速识别有价值数据，并挖掘数据背后隐藏的规律。四是数据分析技术，包括关联分析、聚类分析、语义分析等等，自动分析网上言论蕴含的意见倾向及相互之间的关联性，揭示舆情发展趋势。五是数据安全技术，包括身份验证、入侵检测、网络关防等等，保障数据安全。4.壮大网络舆情大数据人才队伍。要统筹国内各大高校、科研单位、媒体机构、政府部门力量，开设专门的数据科学学科，加强各学科人才的交叉培养，重点培养综合掌握统计学、计算机学、新媒体、传播学等各方面知识的复合型人才，打造一支规模宏大的大数据人才队伍，为网络舆情管理提供坚实的人才智力支撑。

⑻ 大数据安全的挑战是什么

当前，随着互联网+、大数据、云计算、移动互联网等新技术兴起，特别是大数据技术创新应用，使我们具备了对海量数据的处理和分析能力，数据驱动的时代已经来临。与此同时，数据汇聚、数据分析等带来的安全问题也给我们带来前所未有的挑战。

基于目前我国大数据安全保护现状，以及大数据面临的安全风险挑战，笔者提出以下几方面建议对策：

一是进一步加强顶层设计。在《网络安全法》的基础上，完善数据安全保护的规章制度，明确数据在收集、使用、处理、交易、出境等各环节的安全要求。完善数据安全保护的网络安全国家标准，充分发挥标准的指导和引领作用，提升数据保护能力和水平。

二是加强重要数据基础设施保护。建立大数据分类分级安全保护机制,结合各行业数据的敏感程度、数据脱敏与否、数据可用性要求等对大数据资产进行分类分级,采取不同级别的安全防护策略。

三是落实网络安全责任制。明确大数据管理者和运营者的法律责任与义务。加强监督管理和风险评估，提升数据保护能力。对掌控大数据资源的单位进行大数据业务上线前安全评估，对重点产品进行在线安全监测，开展定期的检查和不定期的抽查，发现问题及时督促整改。

四是加强网络安全宣传。通过国家网络安全宣传周等活动，普及网络安全知识，加强网络安全教育，提升广大网民网络安全意识和防护技能，推动形成全社会重视数据安全的良好氛围。