㈠ 大数据工程师如何实现技术成长
1.真实的大数据业务场景-在解决问题中成长
第一个需要知识业务场景,读再多的书,如果不能实际操练,东西都不会变成自己的。对于目前我们公司来讲,工程师最快速的成长,是能够接触真实的大数据业务场景,比如面临大量的数据,解决大量的问题,如果出现延迟的问题,该怎么去解决,这时候很多情况书上没有,需要自己去想,或者自己去翻源代码。我认为真实的业务场景是促进自己成长最真实的东西。
2.开放、平等、分享的企业文化-在工作中相互学习和挑战
公司要创造让开放平等交流的场景,有时候交流讨论是让自己把思路问题理清晰的一个途径,公司经常会有一些员工自己组织的分享,任何一个架构都会有一些架构评审,大家会比较开放的讨论问题,经常会有碰撞。我经常会说不要怕别人挑战你,挑战会肾上腺素分泌,这样大家会更佳聪明,这时候有时候想不到的方案就会想出来。所以我提倡大家技术上相互挑战。不要一个人局限在自己的空间里。
3.员工自己组织的职业委员会
另外公司也会尝试一些新的途径,任何一个公司都会有一些职级体系,我们最初的创业公司没有这些体系,随着后来规模越来越大,一种办法是像一些大公司学习,比如说阿里,腾讯,但是CEO觉得新的时代是一个社群的时代,所以在考虑有没有更好的办法能把这个事情做的更好。我相信用工程师委员会来做这个事情是比较少的,大部分的公司都不是这么做的,
4.新员工导师计划-让新人更容易融入公司
新员工导师计划,任何一个新员工进来都会有一个导师,会引导你如何更好的融入公司。
关于大数据工程师如何实现技术成长,青藤小编就和您分享到这里了。如果您对大数据工程有浓厚的兴趣,希望这篇文章可以为您提供帮助。如果您还想了解更多关于数据分析师、大数据工程师的技巧及素材等内容,可以点击本站的其他文章进行学习。
以上是小编为大家分享的关于大数据工程师如何实现技术成长?的相关内容,更多信息可以关注环球青藤分享更多干货
㈡ 大数据行业的发展受什么因素影响
一、环境
从大环境来说,我们从以前的互联网时代发展到了现在的大数据时代,是时代发展的必经之路。互联网的技术进步,必然会促成新的技术产生,再到成熟,而大数据就是这个新兴技术。大数据的技术正在不断前进发展着,我们现在已然是身处于大数据时代中,身边处处充满了大数据,待大数据技术的蓬勃生长,
二、政策
“大数据是信息化发展的新阶段”,并做出了“推动大数据技术产业创新发展、构建以数据为关键要素的数字经济、运用大数据提升国家治理现代化水平、运用大数据促进保障和改善民生、切实保障国家数据安全”的战略部署,为我国构筑大数据时代国家综合竞争新优势指明了方向!”这是有我们国家政策的支持、扶持。因为以前的互联网技术还不够成熟,大数据的发展也会相对的缓慢,而现在通过互联网的进步,也顺带帮助了大数据技术的成长。因此,大数据的发展潜力还在不断增长着。
㈢ 大数据 正经历成长的烦恼
大数据 正经历成长的烦恼
提起大数据,很多人都感觉略知一二;但大数据到底是什么,又很少有人能解释清楚。今年两会期间,包括小米科技创始人雷军、联想集团董事长杨元庆、科大讯飞董事长刘庆峰在内的多位代表、委员都提出了与大数据相关的建议和提案,他们一方面希望从国家层面推动大数据的发展,另一方面也对它在信息安全方面可能存在的隐患提出了警示。
大数据记录了所有一切
一份调查显示,2013年我国产生的数据总量超过0.8ZB,相当于2009年全球的数据总量;而到2020年,一个普通中国家庭每年产生的数据量,将相当于半个国家图书馆的信息储量。
中国电子学会秘书长徐晓兰委员指出,海量的信息储存和挖掘,既是大数据的价值所在,也是它有别于传统互联网、可能对信息安全带来的新隐患。
“大数据时代,记录了很多以往根本不可能或者不需要记录的数据,比如微博、朋友圈的内容,上网产生的cookie,家庭水电气使用的情况、汽车和大型设备上安装的传感器拿到的数据等。”社交数据分析公司独到科技的CEO张文浩说,“如果这些信息都是‘孤岛’,影响可能不大。但一旦相互关联,影响力会大得惊人。”
中科院信息工程所所长田静委员也表示,以往碎片化的数据只是盲人摸象,但现在这些碎片全都被存贮起来,通过相关性分析拼凑,“就知道象到底长什么样了”。
技术上的差距,也造成了大数据暂时的“不安全”。
“没有自己的分析能力,我们怎么能搞清楚哪些数据是需要保护的?”
对于田静的这个“问题”,国家信息化专家咨询委员会副主任、中国工程院院士邬贺铨提供的一组数据给出了答案——数据中,大约有一半是应该保护的,但我们现在真正保护的“只有一半的一半”,很多数据在有意或无意当中被获取,“如果这些数据整合起来,被某些别有用心的人利用,会对安全造成很大的影响”。
徐晓兰介绍,目前我国很多机构和企业使用大数据分析软件都是国外厂商生产的,特别是近几年视频等多媒体数据爆炸性增长,“这些数据都是异构化的,这部分软件是我们的短板”。
著名军事专家尹卓委员则指出,现在互联网所使用的服务器大都放在美国,“自己没有服务器怎么可能安全”?
另一方面,在田静看来,缺乏大数据环境下的安全理念也是重要原因之一。“过去认为无害的信息,在数据爆炸的今天,已经完全不一样了。观念不改,是没有秘密可保的。”
张文浩也认为,国人缺乏这方面的意识。“在美国,很多人都会要求不公开自己的隐私,或者主动把自己的数据提供给某些特定的机构使用;但在国内几乎没有听到过,大家也不知道什么类型的数据可能会有多大的风险。”
大数据或许也很“危险”
张文浩认为,很多人对于大数据的理解都只注意到数据的体量和统计,“其实,通过深度分析,从纷繁的数据中抽象出规则和原理,并实现对未来的前瞻性预测,才是大数据真正的价值和魅力所在”。
因为大数据,奥巴马在2012年成为过去70年来,第一位在失业率高达7.4%的情况下成功连任的美国总统;因为大数据,Target超市“预测”了18岁少女的怀孕……
任何一项新技术的背后,都可能悬挂着一把达摩克利斯之剑。大数据也是如此,在人们惊叹于它的“神力”之时,“威胁”也正悄悄逼近。
“前两年,国外一家情报搜集机构利用国内某机构人员公开发表的数据和资讯,进行深度挖掘分析,生成了有价值的情报。”徐晓兰告诉记者,后来经过详细调查,确认情报确实不是该人员提供,而生成情报的那些数据本身也是可公开的。“这在以往几乎是不可能的,也给我们敲响了警钟。”
尹卓以战时的交通流量信息举例说,如果不注重数据的安全使用,将可能对国家安全带来隐患。“科索沃战争中,南联盟的油料库虽然隐蔽得很好,但美国军方通过对卫星图中的交通流量进行分析,划定了大量油罐车经常出没的区域,在进行精确搜寻,从而一举炸毁。”
如果您认为这些“危险因素”离自己很远,那就大错特错。
“现在很多智能手机的应用都要求访问通讯录,”邬贺铨说,很多人觉得自己没有什么秘密,就同意了。“但实际上,这不仅会透露自己的大量信息,也会把很多人置于隐私暴露的危险之下 。”
张文浩也指出,现在很多年轻人都有用手机发微博或者“签到”的习惯,“这样其实会泄漏自己的很多信息。比如你白天经常签到的位置就很有可能是你的单位,傍晚以后签的多半是自己家”。
大数据正经历成长的烦恼
“要想征服数据,只有更好地利用它们。”张文浩说,数据是一种资源和财富,积累越多,产生的效力也会越大。
这个观点得到了邬贺铨的认同。他认为,越想规避大数据带来的安全风险,越需要搜集储存海量的数据,并进行深入的挖掘分析。“有统计显示,国内数据搜集量不及日本的60%和北美的7%,大量数据留这样白白流逝。”
“企业掌握的数据毕竟有限,而且是局部的。”网络公司董事长李彦宏委员提出了数据开放的概念,国家应该把那些不涉及安全的数据公开,让有能力的机构进行更好的分析利用。
国家基础地理信息中心原总工程师李莉委员指出,有的公共部门掌握了大量公共信息,这些数据是国家基础信息的重要组成部分。邬贺铨强调,这些数据“不愿与其他部门共享,导致了信息不完整或重复投资”。
共享数据在技术上是否存在很大的难度?在徐晓兰看来,现在需要大力发展的数据挖掘、分析方面的技术,但对于数据共享本身而言,技术不是最大的障碍,关键还是利益协调。她说几年前,国土部和银监会准备摸底国家土地信息,“一开始很多人提出各种各样的困难,几乎认为是不可能完成的任务。但后来引入问责等行政手段,得到地方配合,进行得就很顺利”。
张文浩认为,建立一个公开、透明、规范的数据市场,将会大大增强数据的利用率。但在这个过程中,需要仔细考量什么样的数据可以进入市场。
这就涉及到立法的问题。“界定‘隐私’和为数据进行安全分级,是制定法律法规时要优先考虑的方面。”他指出,“个性化服务和隐私之间是一个博弈。名字、电话、住址……不能什么都说是隐私,因此需要为数据安全分级。简单地说,通过数据分析的经验,我们会知道哪类信息具有更强的指向性和排他性。这类信息的安全级别就应该更高。”
以上是小编为大家分享的关于大数据 正经历成长的烦恼的相关内容,更多信息可以关注环球青藤分享更多干货
㈣ 大数据如何应对成长的“烦恼”
大数据如何应对成长的“烦恼”
今天,已经几乎没有人会再怀疑大数据的价值,人们更加关心的是如何真正将大数据推向应用,真正发挥其价值。但是,尽管业界不乏探索,但客观来看大数据的整体发展目前尚处于初级阶段。换句话说,对于大数据理念的认可并不代表就能利用好大数据。尤其是在中国,尽管大数据拥有良好的产业基础和发展前景,但数据资源的开放程度较低、数据资产的保护等现实问题都是当前面临的主要挑战。如何应对这些挑战,驱动大数据快速走向普遍应用?近日工信部电信研究院发布的《大数据白皮书》,针对上述问题给出了独到的解答。
有效的应用模式还未找到
当前,大数据还未形成普遍应用的局面。究其原因,在于大多数企业,特别是传统领域的企业,还未找到有效的应用模式。
理念的应用快于数据的应用
数据就是资产。这一轮大数据浪潮,使得大数据理念迅速普及。尽管很多数据尚没有找到合适的用途,但很多公司已经将其作为资产,对其数据进行规划、存储,或自行开发,或积极寻找买家,或寻找合作者。
电信运营商最有可能成为典型的数据资产运营者。电信运营商掌握丰富的用户身份数据、语音数据、视频数据、流量数据和位置数据,数据的海量性、多元性和实时性使其具有经营大数据的先天优势。目前主要的电信运营商都已积极探索开发其内部的大数据资源,但从目前的应用发展看,电信运营商的大数据仍主要用于支持内部的客户流失分析、营销分析和网络优化分析等,对外的应用模式尚未成型。
大数据应用呈散发状
目前,大数据应用并没有形成燎原之势,主要集中于互联网的市场营销场景。尽管金融、电信、零售、制造、医疗、交通、物流、IT 等行业对大数据应用表现出极大热情,但目前在媒体和各种论坛上所公开的大数据应用案例仍然非常零散,这表明大家虽然都很关注大数据,但推进实际的应用仍然存在一定的困难。唯一众多企业都推出或者采纳大数据应用的领域是基于互联网的市场营销,在这一领域应用了大数据的公司不仅包括大型的互联网公司、众多专业性的中小型互联网公司,线下企业也在与互联网公司合作,积极开发这一领域的价值。
从数据源看,大数据的应用还处于自给自足的“小农经济”时代,现有的应用仍然以机构内部数据为主。以机构内部数据为主的主要原因是数据的开放和交易尚未形成市场的主流形态。以国内主要的电子商务交易平台为例,尽管目前推出了很多大数据应用,但这些应用基本上都局限于内部。由于法律和数据交易机制的不健全,这些交易平台在对外开放和交易数据上仍然持谨慎态度。Gartner 的一项调查显示,即使在全球,以内部数据为主仍然是大数据应用的主要特征,各行业应用最多的仍然是企业内部的交易数据(应用比例普遍超过50%,多数行业应用比例超过80%)和日志数据。
从技术角度看,大数据仍以初级应用为主,多数应用仍然使用传统分析流程和工具,只是扩大了数据的来源、增加了数量。调研发现,与传统数据分析相比,新的大数据应用虽然开始使用非结构化数据,但在实际应用过程中,这些非结构化数据只是被压缩、清洗和结构化后,放入传统的ETL和分析流程中去。另一些大数据应用通过采用云存储和云处理技术,提高了数据处理效率,从而增加了数据处理的规模,但这些应用也仍然采用原有的ETL 和分析流程。缺乏应用模式上的创新,使得目前大数据应用仍停留在初级技术阶段。
从应用效果看,目前的大数据应用以延续改善现有业务和产品为主,突破性创新应用尚不多见。以最常见的互联网营销大数据应用为例,在大数据兴起之前,精准营销和个性化推荐一直是企业营销活动的追求方向,新兴数据源和大数据技术的兴起使得企业进一步改善其营销技能,使其精准营销能力进一步增强,但这只是对企业旧有营销能力的改善。目前大家议论比较多的突破性创新如网上小贷业务,这项业务完全改变了过去金融机构贷款的流程、信用评价和控制风险的方式,从而极大地降低了贷款的成本,扩大了贷款的范围。但目前这样的突破性创新并不多见。Gartner 的调查显示,企业投资大数据的主要目的在于改善客户服务、流程优化、精准营销和削减成本等,而新产品/新商业模式这种突破性创新的方向并不是企业的主要目的。
不一样的中国式烦恼
目前,大数据在全球的发展都还处于初期,技术、制度、观念等方面都需要改变。具体到中国而言,数据资源不丰富、技术差距大和法律法规不完善是当前大数据发展面临的独特问题。
数据源不够丰富,数据开放程度较低
丰富的高质量数据资源是大数据产业发展的前提。近几年在互联网产业及金融、电信信息化快速发展的带动下,我国数据资源总量有了快速增长,已达到全球的13%,但其他行业受信息化水平制约,数据储量仍不丰富。已有数据资源还存在标准化、准确性、完整性水平低,利用价值不高的情况。同时,我国政府、企业和行业在信息化系统建设中受到各种因素制约,形成了众多“信息孤岛”,数据开放程度严重滞后。建立良性发展的数据资源储备与共享体系,是我国大数据发展的首要问题。
技术水平不高,技术扩散不畅
我国大数据技术的发展模式也与全球类似,互联网企业具备快速将国际先进的开源大数据技术整合到自身系统中的能力,并构建了单集群上万节点的大型系统,但仍缺乏原创技术,对开源社区的贡献不足,进而对前沿技术路线的影响比较微弱。同时,由于本土开源社区等产业组织发育滞后,国内领先企业在大数据方面的技术创新也难以向社会扩散。
相关法律法规有待进一步完善
随着大数据挖掘分析将越来越精准、应用领域不断扩展,个人隐私保护和数据安全变得非常紧迫。在隐私保护方面,现有的法律体系面临着两个方面的挑战:一是法律保护的个人隐私,要体现为“个人可识别信息(PII)”,但随着技术的推进,以往并非PII 的数据也可能会成为PII,使得保护范围变得模糊。二是以往建立在“目的明确、事先同意、使用限制”等原则之上的个人信息保护制度,在大数据场景下变得越来越难以操作。而我国个人信息保护、数据跨境流动等方面的法律法规尚不健全,这成为制约大数据产业健康发展的重要原因之一。需要结合我国法治建设的实际情况,探索通过行业自律等方式弥补法律体系不完善的弊端。
多措并举走出发展误区
对于中国的大数据产业的发展而言,首先需要明确战略目标和战略重点,统筹谋划大数据应用、关键技术研发与产业培育、数据开放与数据保护、市场监管、法律法规等关键布局,引导国内各地大数据发展方向,避免一哄而上的盲目发展。
在大数据应用上,一是政务和公共服务领域的应用,应重点面向改善民生服务和城市治理等,积极推动环保、医疗、教育、交通等关键领域的大数据整合与集成应用,进一步提高政务和公共服务效率。二是市场化应用,应重点在跨行业的大数据应用方面出台推动政策,促进互联网、电信、金融等企业与其他行业开展大数据融合与应用创新,带动全社会大数据应用不断深化。
在技术创新上,一是要加强大数据技术研发方向的前瞻性和系统性,近期重点支持深度学习与人工智能、实时大数据处理、海量数据存储管理、交互式数据可视化和应用相关的分析技术。二是要聚集产学研用力量形成合力,力争在大数据平台级软件上实现突破,以此为核心发展开源生态。三是创新科研项目支持方式,将开源和开放标准作为考核指标,通过直接补助或后补助方式激励企业和科研机构参与开源技术发展,促进大数据技术扩散。
在政府数据开放上,建议推进政府和公用事业领域数据资源的普查工作,并按照相关法规制定政府和公共数据开放中的安全和隐私保护检查表,对可能涉及国家安全和公民隐私的风险点进行严格控制。在此基础上,按敏感性对政府和公共数据进行分类,确定开放优先级,制订分步骤的数据开放路线图。同时,政府也应积极规范和引导商业化的大数据交易活动,为数据资源的流通创造有利条件。
在个人信息保护上,国际上一些机构提出监管的重点应该“从数据收集环节,转移到数据使用环节”。我们要密切关注国际上立法理念的演变趋势,结合技术发展趋势和我国国情对相关制度进行前瞻性研究。同时,为了解决当前个人信息和数据保护的紧迫需求,可依托行业组织及时总结业界的最佳实践,逐步形成行业共识,在试点成熟后上升为标准或法律法规并推动实施,为大数据的健康发展保驾护航。
以上是小编为大家分享的关于大数据如何应对成长的“烦恼”的相关内容,更多信息可以关注环球青藤分享更多干货
㈤ 如何通过大数据帮助企业成长
大数据”,顾名思义,指数据总量巨大,类型多样且信息传播速度快的数据库体系。那么“大数据”到底有多大?IBM曾做过统计,世界上90%的可用数据,仅用过去两年时间便产生了。
数据之所以变得越发庞大,主要源自机器的介入。从智能手机和自动传感器到每一次鼠标点击和键盘输入,在这些简便无声的数据收集过程当中,每天会处理大约2.5EB的数据。
如何处理好这些数据,从中获得有意义的结论和帮助,已经成为许多公司尤其是科技领域的初创公司非常重视的事情。他们借此整合公司多样的数据子集来助其开发项目。因此,《Entrepreneur》杂志特别请到来自圣马特奥,开发大数据分析软件的公司Guavus的创始人兼执行总裁AnukoolLakhina与读者一起分享,如何有效利用大数据。
大数据最厉害之处在哪里?
当然是“得知当下状况”,也就是对即时数据的掌握。如果你的业务能够从数据收集中预见到发展前景,你通常能很快地将所获得信息及时分类并做出明智的决策,最终采取及时准确的行动。或者也可以说你研究数据后所看到的再也不是过去发生的事,而是此刻正在发生的事。这能让你准确把握市场动向,快速改进服务,降低成本,节约时间。在这个过程中,你的公司发展就会出现更多的机会。
如何得到这些数据?
首先,整理出已有的数据,再看你想要获得什么样的数据。这需要你动用几乎所有服务性软件(比如Salesforce一类的CRM系统)、Excel表格、合伙人相关信息、销售单据,以及其他任何可用来收集信息的设备与设备上的内容。
之后,将这些数据联系整合到一起。这样有利于做出更及时、更有说服力的决定。做这项工作最简单的方法是从一个具体问题开始。比如你想在每周二开展促销活动,设立这个目标后,你就要收集所有数据来策划这个项目。一旦你理清并且整合好这些数据——包括线上销售额、社交媒体上的宣传数量等,你的业务反应周期就能很快缩短。
具体举个实例?
比如一个独立咖啡店老板整合了各种资源和线下数据,包括用户的饮品习惯、地理定位、信用卡消费记录等。这些数据就能帮助咖啡厅提升自身的个性化定制市场,增加促销机会。如那些送小孩上学后经常来咖啡厅喝一杯的母亲,就可以在课外时间享受到免费获得一杯儿童装热巧克力的优惠。
处理大数据有哪些必备工具?
在很多情况下你和员工已经多多少少使用过大数据工具了,例如用户信用度统计、销售记录、网络分析以及CRM数据库。关键是如何能够在一个简单易懂的应用中将这些数据联系起来,让所有人都能够看懂和利用这些数据,改变曾经只有数据专家才能够看懂的局面。
㈥ 大数据发展必备三个条件
大数据发展必备三个条件
大数据概念的横空出世,有赖于短短几年出现的海量数据。据统计,互联网上的数据每两年翻一番,而目前世界上90%以上的数据都是最近几年才产生的。当然,海量数据仅仅是“大数据”概念的一部分,只有具备4个“V”的特征,大数据的定义才算完整,而价值恰恰是决定大数据未来走向的关键。
大数据发展必备三个条件
大数据的发展需要三个必要条件:数据源、数据交易、数据产生价值的过程。近年来,社交网络的兴起、物联网的发展和移动互联网的普及,诞生了大量有价值的数据源,奠定了大数据发展的基础。大数据时代到来的重要标志,则是大批专业级“数据买卖商”的出现,以及围绕数据交易形成的,贯穿于收集、整理、分析、应用整个流程的产业链条。大数据发展的核心,则是使用户从海量的非结构化数据和半结构化数据中获得了新的价值,数据价值是带动数据交易的原动力。
IBM、甲骨文、SAP近年纷纷斥巨资收购数据管理和分析公司,在这些互联网巨头的带动下,数据分析技术日渐成熟。2013年6月,爱德华·斯诺登将“棱镜计划”公之于众,“棱镜门”事件一方面说明大数据技术已经成熟;另一方面也佐证了现在阻碍大数据发展的不是技术,而是数据交易和数据价值。
大数据技术的发展促进了云计算的落地,云计算的部署完成又反过来加大了市场对数据创造价值的期待。大数据概念提出之后,市场终于看到了云计算的获利方向:各地的一级系统集成商与当地政府合作,建云数据中心;各大行业巨头在搭建各自行业的云平台;IT巨头想尽办法申请中国的公有云牌照。大数据促成了云计算从概念到落地。借助于智慧城市概念的普及,云计算基础设施已基本准备就绪,一方面完成了大数据应用的硬件基础;另一方面迫于回收云计算投资的压力,市场急需应用部署,大数据恰如雪中送炭,被市场寄予厚望。
现在,问题的核心指向了“数据如何创造价值?”
整合与开放是基石
大数据服务创业公司Connotate对800多名商业和IT主管进行了调查。结果显示,60%受调查者称:“目前就说这些大数据投资项目肯定能够带来良好回报尚为时过早。”之所以如此,是由于当前大数据缺乏必需的开放性:数据掌握在不同的部门和企业手中,而这些部门和企业并不愿意分享数据。大数据是通过研究数据的相关性来发现客观规律,这依赖于数据的真实性和广泛性,数据如何做到共享和开放,这是当前大数据发展的软肋和需要解决的大问题。
2012年美国大选,奥巴马因数据整合而受益。在奥巴马的竞选团队中有一个神秘的数据挖掘团队,他们通过对海量数据进行挖掘帮助奥巴马筹集到10亿美元资金;他们通过数据挖掘使竞选广告投放效率提升了14%;他们通过制作“摇摆州”选民的详细模型,每晚实施6.6万次模拟选举,推算奥巴马在“摇摆州”的胜率,并以此来指导资源分配。奥巴马竞选团队相比罗姆尼竞选团队最有优势的地方:对大数据的整合。奥巴马的数据挖掘团队也意识到这个全世界共同的问题:数据分散在过多的数据库中。因此,在前18个月,奥巴马竞选团队就创建了一个单一的庞大数据系统,可以将来自民意调查者、捐资者、现场工作人员、消费者数据库、社交媒体,以及“摇摆州”主要的民主党投票人的信息整合在一起,不仅能告诉竞选团队如何发现选民并获得他们的注意,还帮助数据处理团队预测哪些类型的人有可能被某种特定的事情所说服。正如竞选总指挥吉姆·梅西纳所说,在整个竞选活中,没有数据做支撑的假设很少存在。
2012年3月,美国奥巴马政府宣布投资2亿美元启动“大数据研究和发展计划”,将“大数据研究”上升为国家意志。一个国家拥有数据的规模和运用数据的能力将成为综合国力的重要组成部分。国内智慧城市建设目标之一就是实现数据的集中共享。
合作共赢的商业模式
随着云计算、大数据技术和相关商业环境的不断成熟,越来越多的“软件开发者”正在利用跨行业的大数据平台,打造创新价值的大数据应用,而且这一门槛正在不断降低。因为首先,数据拥有者能够以微乎其微的成本获取额外的收入,提高利润水平;其次,大数据设备厂商需要应用来吸引消费者购买设备,发展合作共赢的伙伴关系势必比单纯销售设备要有利可图,一些具有远见的厂商已经开始通过提供资金、技术支持、入股等方式来扶持这些“软件开发者”;第三,行业细分市场的数据分析应用需求在不断加大,对于整个大数据产业链来说,创新型的行业数据应用开发者必将是未来整个大数据产业链中最为活跃的部分。
未来,有三种企业将在”大数据产业链“中处于重要地位:掌握海量有效数据的企业,有着强大数据分析能力的企业,以及创新的“软件开发者”。社交网络、移动互联网、信息化企业、电信运营商都是海量数据的制造者,Facebook公司手中掌握着8.5亿用户,淘宝注册用户超过3.7亿,腾讯的微信用户突破3亿,这些庞大用户群所提供的数据,正在等待时机释放出巨大商业能量。可以预测,在不久的将来,Facebook、腾讯、电信运营商等海量数据持有者或者自我延伸成为数据分析提供商,或者与IBM、ZTE等企业密切对接成为上下游合作企业,大数据产业链将在某个爆发时点到来之际,以令人惊讶的速度成长壮大。
警惕大数据的危害
大数据时代,传统的随机抽样被“所有数据的汇拢”所取代,人们的思维决断模式,已可直接根据“是什么”来下结论,由于这样的结论剔除了个人情绪、心理动机、抽样精确性等因素的干扰,因此将更精确、更有预见性。不过,由于大数据过于依靠数据的汇集,一旦数据本身有问题,就很可能出现“灾难性大数据”,即因为数据本身的问题,而导致错误的预测和决策。
大数据的理论是“在稻草堆里找一根针”,而如果“所有稻草看上去都挺像那根针”呢?过多但无法辨析真伪和价值的信息和过少的信息一样,对于需要作出瞬间判断、一旦判断出错就很可能造成严重后果的情况而言,同样是一种危害。“大数据”理论是建立在“海量数据都是事实”的基础上,而如果数据提供者造假呢?这在大数据时代变得更有害,因为人们无法控制数据提供者和搜集者本人的偏见。拥有最完善数据库、最先接受“大数据”理念的华尔街投行和欧美大评级机构,却每每在重大问题上判断出错,这本身就揭示了“大数据”的局限性。
不仅如此,大数据时代造就了一个数据库无所不在的世界,数据监管部门面临前所未有的压力和责任:如何避免数据泄露对国家利益、公众利益、个人隐私造成伤害?如何避免信息不对等,对困难群体的利益构成伤害?在有效控制风险之前,也许还是让“大数据”继续待在笼子里更好一些。
大数据的经济价值已经被人们认可,大数据的技术也已经逐渐成熟,一旦完成数据的整合和监管,大数据爆发的时代即将到来。我们现在要做的,就是选好自己的方向,为迎接大数据的到来,提前做好准备。