Ⅰ 推动大数据高速发展和数据交易的时间
大数据概念最早的提出者现已不可考,但早在1980年,未来学家托夫勒在其所著的《第三次浪潮》中就提到“大数据”一词。
2001年麦塔集团分析员道格·莱尼指出数据增长的挑战和机遇有三个方向:量(Volume,数据大小)、速(Velocity,资料输入输出的速度)与多变(Variety,多样性),现在这被认为是大数据的三个特性。
2011年麦肯锡正式定义了大数据的概念。
2012年《纽约时报》的一篇专栏中写到,“大数据”时代已经降临,在商业、经济及其他领域中,决策将日益基于数据和分析而作出,而并非基于经验和直觉。大数据开始跟时代挂钩,在当时人们并不以为然,甚至许多人认为这不过是商学院或咨询公司哗众取宠罢了。现在“大数据时代”已经变成了人尽皆知的口头禅。
2012年维克托·迈尔·舍恩伯的《大数据时代》开始在国内风靡,推动了国内大数据的发展,许多人大数据的启蒙也是来源于这本书。
2010后云计算的成熟让大数据不再是纸上谈兵,大数据技术有了真正实现的可能性。
我从三个方面梳理了下大数据发展的时间线:政府推动、大数据技术、大数据价值。
政府推动:
2009——美国政府开放政府数据,这一行动使得从肯尼亚到英国范围内的各国政府相继效仿。
2010——德国联邦政府启动“数字德国2015”战略,将物联网引入制造业,打造智能工厂,工厂通过CPS(网络物理系统)实现在全球互联。
2011——工信部把信息处理技术作为四项关键技术创新工程之一,其中包括了海量数据存储、数据挖掘、图像视频智能分析等大数据重要组成部分。
2012——美国政府在白宫网站发布《大数据研究和发展倡议》,这一倡议标志着大数据已经成为重要的时代特征。之后美国政府宣布2亿美元投资大数据领域,大数据技术从商业行为上升到国家科技战略。
联合国在纽约发布大数据政务白皮书,总结了各国政府如何利用大数据更好地服务和保护人民。
2013——英国政府宣布注资6亿英镑发展8类高新技术,其中,1.89亿英镑用来发展大数据技术。
欧盟实施开放数据战略,旨在开放欧盟公共管理部门的所有信息。
2014——数据开放运动已覆盖全球44个国家。国务院通过《企业信息公示暂行条例(草案)》,要求在企业部门间建立互联共享信息平台,运用大数据等手段提升监管水平。
2015——五中全会的“十三五”规划中将大数据作为国家级战略。
Ⅱ 中国实施大数据战略有五大行动支点
中国实施大数据战略有五大行动支点
大数据引擎业已成为组织创新、产业升级、经济社会发展、国家治理能力现代化的核心驱动力。在借鉴欧美发达国家大数据战略实施的先进经验基础上,中国中国实施大数据战略有五大行动支点。
变革时代的大数据革命
自“智慧地球”概念于2008年11月提出以来,整个地球都沉浸在如何变得更加智慧这个庞大的课题里。联合国秘书长执行办公室于2009年正式启动了“全球脉动”倡议项目,旨在推动数字数据与快速数据收集和分析方式创新。联合国2012年5月对外发布了《大数据促发展:挑战与机遇》白皮书,探讨如何利用互联网数据推动全球发展。随着大数据发展战略得到全球各国的高度重视,世界主要国家的“智慧国家”建设发展战略和行动计划风起云涌。由于大数据是数字化生存时代的新型战略资源,对国家治理和社会发展作用巨大,各国科技界、产业界和政府部门极为关注,于是“智慧企业”“智慧校园”“智慧医院”“智慧政府”“智慧城市”被不同类型组织列为发展目标。
科学技术是第一生产力,产业的每一次革命性跃迁都离不开科技革命的推动,往往只有那些抓住技术革命的战略机遇并迅速作出适应性调整的国家或民族才能不断生存发展。毫无疑问,大数据是当前一个事关经济社会发展全局的战略性产业,已经成为全球高科技产业竞争的前沿领域,以美、日、欧为代表的全球发达国家已经展开以大数据为核心的新一轮信息战略以及新一轮的人才竞争、技术竞争、产业竞争、企业竞争和国家竞争。报告显示,2014年,全球大数据市场增长速度达53%,总体规模为285亿美元。到2017年,全球大数据市场收入将达500亿美元,这意味着从2011年起连续6年年复合增长率达38%。中国市场情报中心有关统计显示,2012年中国大数据市场规模为4.5亿元,同比增长40.6%,到2018年,中国大数据市场规模将达到463.4亿元。2012—2013年度,在欧美国家1217家营业额收入超过10亿美元的企业中,643家企业制定了大数据战略,其中7%的企业至少投入了5亿美元,15%的企业至少投入了1亿美元发展大数据。
显然,随着经济社会的发展,大数据带来的深刻影响和巨大价值逐渐被认识,它通过技术的创新与发展,以及数据的全面感知、收集、分析、共享,为我们提供了一种全新的看待世界的方法,大数据带来的信息风暴正在全方位地改变着我们的生活、工作和思维。
大数据战略实施的国际经验
欧美发达国家相继制定了大数据发展战略,并制订了具体的实施政策和行动计划,已经取得初步成效。总体而言,这些战略具有以下几个方面典型特征:
开放性。自2009年美国政府开放数据门户网站data.gov上线以来,各国政府掀起开放数据运动。通过开放政府数据,提高政府透明度,提升政府治理能力和效率,更好地满足公众需求,促进社会创新,带动经济增长。据统计,截至2014年1月12日,开放数据运动已覆盖全球44个国家(地区)。2013年6月,八国集团首脑在北爱尔兰峰会上签署《开放数据宪章》,各国表示愿意进一步向公众开放可机读的政府数据,并在2013年末制定相应的行动计划。英国承诺2015年前开放有关交通运输、天气和健康方面的核心公共数据库,并将投资1000万英镑建立世界上首个“开放数据研究所”。2013年11月,法国政府出台《八国集团开放数据宪章行动计划》,作出“朝着默认公开发布数据的目标前进”“建立一个开放平台以鼓励创新和提高透明度”等几项承诺。
智能性。2010年11月,德国联邦政府启动“数字德国2015”战略,推动互联网服务、云计算、物联网、3D技术以及电动汽车信息通信技术等信息通讯产业的发展,推动实施基于传统制造业智能化和数据化的“工业制造4.0战略”,将物联网引入制造业,打造智能工厂,工厂通过CPS(网络物理系统)实现在全球互联。2011年,韩国就提出“智慧首尔2015”计划,目标是到2015年成为世界上最方便使用智能技术的城市,建立与市民沟通的智能行政服务,建成适应未来生活的基础设施和成为有创造力的智慧经济都市。2013年6月,日本安倍内阁公布《面向2020年的ICT综合战略》,全面阐述2013-2020年期间以发展开放公共数据和大数据为核心的日本新IT国家战略,提出要把日本建设成为一个具有“世界最高水准的广泛运用信息产业技术的社会”的目标。
价值性。2012年4月,英国经济与商业研究中心的一份研究报告预计了2012-2017年大数据产生的经济利益:2011年英国私企和公共部门企业的数据资产价值为251亿英镑,2017年将达到407亿英镑。大数据增加的创新与就业机会,将贡献价值240亿英镑,同时为小企业创造预计价值为420亿英镑的发展前景。该报告还预测大数据将创造新业务市场,即创造58000个就业机会。大数据可以更有效地改进客户需求分析,预计此项优化将产生738亿英镑的效益。大数据可以优化产品存量和资源分配,大大降低成本,预计产生460亿英镑的效益。同时,政府部门通过大数据可对医疗保健系统进行防欺诈检测和分析,预计节省不必要的支出达20亿英镑。显然,如果有意识地在更大的合理范围内开放大数据,大数据将带来更多的价值增殖。
应用性。2012年9月,IBM公司启动在加拿大安大略省巴里市兴建智能数据中心,即IBM加拿大领导数据中心,旨在推进节能化数据中心管理方面的研究和为企业提供能使其连续性经营的服务以及灾备数据服务。为响应公民对数据的需求,加拿大逐步开放地理空间数据,并将大数据研究列为政府科研基金重点资助对象。2013年8月,英国政府发布的《英国农业技术战略》指出,英国今后对农业技术的投资将集中在大数据上,目标是将英国的农业科技商业化。
保障性。2012年5月,美国政府宣布投资2亿美元提高大数据技术(包括数据的储存、分析、收集),以加快科学研究、加强国家安全、改革教学和培训体系以及促进专业人才发展。2013年1月,英国商业、创新和技能部宣布注资6亿英镑发展8类高新技术,其中,1.89亿英镑用来发展大数据技术。“欧盟开放数据战略”将重点加强在数据处理技术、数据门户网站和科研数据基础设施三方面的投入,旨在欧洲企业与市民能自由获取欧盟公共管理部门的所有信息,建立一个汇集不同成员国以及欧洲机构数据的“泛欧门户”。
中国实施大数据战略的行动支点
为了应对大数据战略带来的机遇和挑战,借鉴欧美发达国家大数据战略实施的先进经验,我国需要在如下几个方面下功夫:
完善制度。完善知识产权保护体系,促进数据共享和整合,推动数据价值创造。加快制定相关标准和指南,制定大数据发展战略。出台法律,为涉及企业运营数据、客户信息、个人隐私和各种行为的详细记录数据提供法律保障。完善信息资源市场,界定信息产权,明确信息的所有权、使用权和收益权的规定,发挥市场在信息资源方面的优化配置作用。
构筑平台。成立大数据管理局,建立信息资源共享平台,开放政府信息资源。以部门业务信息为基础,从标准、流程、数据三个方面进行设计,建设“物理分散、逻辑集中”的公共数据中心,通过数据集中挖掘,提高数据利用率,提高各级政府行政管理效率和公共服务水平。
突破技术。在明确大数据关键技术的基础上,确定重点支持领域,加大研发支持力度,整合云计算、物联网等专项项目,支持大数据技术的开发、研究和应用示范,引导企业加大大数据研发力度,实现关键技术突破,特别需要优先支持大数据技术在舆情研判、疾病防治、灾害控制、交通安全、城市管理、公共服务、社会治理等民生领域的应用。在公共服务和公用事业管理中采购大数据技术,以政府采购引导国内大数据发展。
培养人才。加大高水平大数据人才的引进和培养力度,重点培育数据挖掘、机器学习等方面的专业人才。制定激励措施对企业管理者进行数据分析技术培训,提高大型企业管理人员的数据分析能力。同时,在大学相应阶段有针对性地增加相关大数据技术与分析课程,增加学生在感知技术、数据仓库、数据搜索、数据挖掘与可视化等领域的知识积累,扩大人才储备规模。
提供保障。设立大数据研发基金,加大大数据平台建设的投入力度,加强智慧企业、智慧医院、智慧政府、智慧城市建设。设立奖惩制度,强化大数据国家安全建设。建立预算制度,控制各部门经费流向,推动数据共享,防止“信息孤岛”现象的出现。
Ⅲ 什么是大数据,大数据时代有哪些趋势
行业主要上市公司:易华录(300212)、美亚柏科(300188)、海量数据(603138)、同有科技(300302)、海康威视(002415)、依米康(300249)、常山北明(000158)、思特奇(300608)、科创信息(300730)、神州泰岳(300002)、蓝色光标(300058)等
本文核心数据:大数据产业链、产业规模、应用市场结构、竞争格局、发展前景预测等
产业概况
1、定义:大数据产业覆盖范围广
根据中国信通院发布的《大数据白皮书》,大数据产业是以数据及数据所蕴含的信息价值为核心生产要素,通过数据技术、数据产品、数据服务等形式,使数据与信息价值在各行业经济活动中得到充分释放的赋能型产业。不同机构对大数据的定义也有所不同,具体如下:
2、产业链剖析:大数据产业链庞大
大数据产业链覆盖范围广,上游是基础支撑层,主要包括网络设备、计算机设备、存储设备等硬件供应,此外,相关云计算资源管理平台、大数据平台建设也属于产业链上游;
大数据产业中游立足海量数据资源,围绕各类应用和市场需求,提供辅助性的服务,包括数据交易、数据资产管理、数据采集、数据加工分析、数据安全,以及基于数据的IT运维等;
大数据产业下游则是大数据应用市场,随着我国大数据研究技术水平的不断提升,目前,我国大数据已广泛应用于政务、工业、金融、交通、电信和空间地理等行业。
大数据产业上游基础设施具体包括IT设备、电源设备、基础运营商及其他设备,相关代表企业华为、中兴通讯、艾默生、三大运营商等。
中游大数据领域可以细分为数据中心、大数据分析、大数据交易与大数据安全等子行业,相关代表企业包括宝信软件、数据港、久其软件、拓尔思、上海数据交易中心、贵阳大数据交易所与华云数据等。
在下游应用市场,我国大数据应用范围正在快速向各行各业延伸,除发展较早的政务大数据、交通大数据外,在工业、金融、健康医疗等众多领域大数据应用均初见成效。
产业发展历程:十年来大数据产业高速增长,信息智能化程度得到显著提升
我国大数据产业布局相对较早,2011年,工信部就把信息处理技术作为四项关键技术创新工程之一,为大数据产业发展奠定了一定的政策基础。自2014年起,“大数据”首次被写进我国政府工作报告,大数据产业上升至国家战略层面,此后,国家大数据综合试验区逐渐建立起来,相关政策与标准体系不断被完善,到2020年,我国大数据解决方案已经发展成熟,信息社会智能化程度得到显著提升。
产业政策背景:优化升级数字基础设施,鼓励大数据产业发展
2014年,大数据首次写入政府工作报告,大数据逐渐成为各级政府关注的热点,政府数据开放共享、数据流通与交易、利用大数据保障和改善民生等概念深入人心。此后国家相关部门出台了一系列政策,鼓励大数据产业发展。
当前,随着5G、云计算、人工智能等新一代信息技术快速发展,信息技术与传统产业加速融合,数字经济蓬勃发展,数据中心作为各个行业信息系统运行的物理载体,已成为经济社会运行不可或缺的关键基础设施,在数字经济发展中扮演至关重要的角色。数据中心作为大数据产业重要的基础设施,其快速发展极大程度地推动了大数据产业的进步。在2021年3月发布的“十四五”规划中,大数据标准体系的完善成为发展重点。
产业发展现状
1、行业整体情况:大数据产业规模维持高速增长 主要应用于金融和政府领域
——大数据产业规模:2021年超过800亿元
近年来我国大数据行业取得快速发展,赛迪CCID统计,我国大数据市场规模由2019年的619.7亿元增长至2021年的863.1亿元,复合年增长率达到18.0%,大数据市场规模包含了大数据相关硬件、软件、服务市场收入。
——大数据市场结构:产业整体以大数据服务为主,应用领域以金融和政府领域为主
从产业结构来看,目前,我国的大数据产业进入高质量发展阶段,大数据软件和大数据服务的需求开始不断提升,大数据硬件占比有所下降但仍占据主导地位,
CCID统计,2021年我国大数据市场结构中,大数据硬件、大数据软件和大数据服务的市场占比分别为40.5%、25.7%和33.8%。近几年大数据硬件的占比在逐渐下降,大数据软件和大数据服务的占比在逐步提高。未来我国大数据软件和服务市场相比硬件市场将呈现更好的发展态势。
从应用领域来看,大数据分析产品及服务已经从最早的为电信领域客户提供经营分析、为银行领域客户提供风控管理等辅助性经营决策,发展到目前的为金融、电信、政府、互联网、工业、健康医疗、电力等多个行业领域客户提供预测性分析、自主与持续性分析等,以实现企业决策与行动最优化。大数据分析产品及服务应用已经十分广泛,但由于各下游领域业务特点的不同,决定了其对大数据分析产品及服务的具体需求存在一定差异。
CCID统计,2021年我国大数据分析市场下游行业中,金融、政府、电信和互联网位居应用领域前四名,市场占比分别为19.1%、16.5%、15.2%和13.9%,合计超过60%;其他重点应用领域主要包括健康医疗、交通运输、工业、电力等。
2、细分市场一:金融大数据
——金融大数据需求:金融业务规模不断扩大,带动大数据需求提升
从金融领域需求来看,近年来,中国金融领域业务规模不断扩大,其中中国银行业金融机构不断积极拥抱金融科技,推动数字化转型,整体行业规模扩大;保险业和证券业的收入也随着市场经济的发展而提升。
近年来,随着新一代信息技术加速突破应用,以移动金融、互联网金融、智能金融等为代表的金融新业态、新应用、新模式正蓬勃兴起,我国金融业开始步入一个与信息社会和数字经济相对应的数字化新时代,金融数字化转型成为金融行业转型发展的焦点。2019年,人民银行印发《金融科技发展规划(2019-2021年)》,构建起金融科技“四梁八柱”的顶层设计,明确了金融科技发展方向和任务、路径和边界。2022年1月,人民银行再次发布《金融科技发展规划(2022-2025年)》明确提出,从战略、组织、管理、目标、路径以及考评等方面将金融数字化打造成金融机构的“第二发展曲线”。随着金融业务规模不断扩大,加之新一代信息技术的发展,大数据在金融领域的需求将不断提升。
——金融大数据应用场景
过去几年,金融大数据带来了重大的技术创新,为行业提供了便捷、个性化和安全的解决方案。目前,中国金融大数据典型的应用场景包括股票洞察、欺诈检测和预防、风险分析与金融服务领域。
3、细分市场二:政府大数据
——政府大数据需求:互联网政务服务用户规模不断提升
从政府领域需求来看,根据中国互联网络信息中心(CNNIC)发布的第49次《中国互联网络发展状况统计报告》数据显示,互联网政务服务发展展现出了巨大潜能。截至2021年12月,我国互联网政务服务用户规模达9.21亿,较2020年12月增长9.2%,占网民整体的89.2%。“十四五”规划纲要提出要“推进网络强国建设,加快建设数字经济、数字社会、数字政府,以数字化转型整体驱动生产方式、生活方式和治理方式变革”。2021年,我国各省市积极探索、持续推进互联网政务服务建设发展,努力提升公共服务、社会治理等数字化、智能化水平。截至2021年11月,全国已有20多个省(区、市)相继出台数字政府建设的有关规划,为我国互联网政务服务发展注入新的活力。
——政府大数据应用场景
中国政府大数据主要应用于信息共享、政务数据管理、城市网络管理与社会管理几大领域。加强电子政务建设,管理好政府的数据资产,完善政府决策流程,将是未来数年大数据在公共管理领域发展的重要方向。大数据将对政府部门的精细化管理和科学决策发挥重要作用,从而提高政府的服务水平。舆情监测、交通安防、医疗服务等将是公共管理领域重点应用领域。
4、细分市场三:互联网大数据
——互联网大数据需求:互联网行业规模不断提升
在人工智能、云计算、大数据等信息技术和资本力量的助推和国家各项政策的扶持下,2021年,互联网和相关服务业发展态势平稳向好。企业业务收入和营业利润保持较快增长;互联网平台服务和数据业务实现快速发展,信息服务收入较快增长;多省份保持增长态势。2021年我国规模以上互联网和相关服务企业完成业务收入15500亿元,同比增长21.2%。
2022年上半年,我国规模以上互联网和相关服务企业完成互联网业务收入7170亿元,同比增长0.1%。
注:2021年及以前年份,规模以上互联网和相关服务企业,指获得《增值电信业务经营许可证》在中国大陆境内经营全国或区域性增值电信业务、上年度互联网业务收入500万元及以上的企业。2022年,规模以上互联网和相关服务企业口径由互联网和相关服务收入500万元以上调整为2000万元及以上。
——互联网大数据应用场景
在互联网行业,除了社交、B2C业务之外,像在线音视频业务、广告监测、精准营销等等,也是未来潜在应用场景。
产业竞争格局
1、区域竞争:中国大数据企业主要分布在华南和华东沿海地区
根据企查猫数据,截止2022年9月23日,全国大数据产业中“存续”及“在业”的企业多集中分布在华南和华东沿海地区。其中,广东省的大数据企业最多。
2、企业竞争:技术领域创新和经验是关键,融合应用领域行业龙头更能获得青睐
根据大数据产业联盟调研和发布的2022大数据企业投资价值百强榜单来看,榜单共选取了10个细分领域,涉及大数据基础软件、数据治理与分析、数据安全、商业智能、营销大数据5个通用领域,以及政府大数据、金融大数据、工业大数据、健康医疗大数据、空间地理信息大数据5个融合应用领域。
大数据基础软件、数据治理与分析、数据安全、数据可视化等,是所有细分行业应用场景的基础支撑,体现了大数据技术价值和作用。在这些细分领域提供技术解决方案的企业中,技术创新能力较强、在各自的细分领域有较长时间技术积累的厂商是投资机构的关注重点。
政府大数据、金融大数据发展相对成熟,落地实践案例多和品牌知名度高的企业受市场关注程度较高。工业大数据、健康医疗大数据、空间地理信息大数据等市场仍处于待爆发阶段,在各自细分领域建立竞争优势的企业容易获得投资机构的青睐。
注:2022年大数据企业投资价值百强榜是从企业估值/市值、营收状况、创新投入、产品竞争力、细分市场潜力、领导层能力等多个维度进行综合评比,同时结合行业专家打分,评选出2022年度大数据领域最具投资价值的100家企业。
产业发展前景:大数据将继续保持高速增长
大数据作为新一代信息技术的重要标志,对生产制造、流通、分配、消费活动以及经济运行机制、社会生活方式和国家治理能力均产生重要影响。伴随国家快速推动数字经济、数字中国、智慧城市等发展建设,未来大数据行业对经济社会的数字化创新驱动、融合带动作用将进一步增强,应用范围将得到进一步拓宽,大数据市场也将保持持续快速的增长态势。预计2027年我国大数据市场规模将达到2930.9亿元,未来六年复合年增长率为22.6%。
更多本行业研究分析详见前瞻产业研究院《中国大数据产业发展前景与投资战略规划分析报告》。
Ⅳ 大数据 掌握话语权要关注基础技术
大数据:掌握话语权要关注基础技术
《2015年中国大数据交易白皮书》显示,预计到2020年,中国大数据产业市场规模将是2014年规模的10倍,由2014年的767亿元扩大至8228.81亿元。全球大数据市场高速增长,已经成为全球IT领域中的增长亮点。在中国尽管大数据仍处于起步阶段,但各地发展大数据的积极性较高,行业应用推广迅速。在这个热情高涨的大数据市场,中国要想进一步释放大数据的价值,掌控大数据的技术话语权,必须关注大数据的基础技术。
眼下,虽然中国对大数据的热情很高,但我们必须看到目前中国在大数据关键技术上的布局其实是有所欠缺的。目前世界各国都在抢先布局大数据的关键技术、基础技术,因为从目前的技术架构和技术基础来看,用现成的技术来解决大数据的问题还面临诸多的挑战。不久前,IBM中国研究院院长沈晓卫接受《中国电子报》记者采访时坦言,我们要想真正从数据中获得洞察、获得价值,需要更高效、更智能的数据处理和分析平台,以及相应的工具。其一,传统的IT技术,需要有更大的突破。比如物联网处理系统需要一秒钟处理上百万信息,比如对非结构化的数据进行存储和处理,需要新的技术。其二,需要引入物理模型来模拟物理世界。比如对天气的理解,比如对疾病的风险控制的理解,比如对智能工厂的理解,都需要构建大量的物理模型,并挑出更合适的模型,对物理世界作出更好的模拟和理解。其三,需要更强大的认知计算,要求认知计算有更强大的自然语言的能力、更强的机器学习能力等。
基于对市场需求和技术趋势的判断,事实上国外IT巨头在大数据的关键技术上投入了大量人力、物力和财力来进行关于大数据关键技术的研发。我们大家都知道现在谈及大数据的利用,一定都会提及开源的Hadoop技术,事实上对于大数据的利用仅仅依靠Hadoop是不够的。我们朝向产业互联网推进时面临非常多的挑战,我们的计算架构、计算模式也面临很大挑战。比如传统的计算机分析和数据整理方式,首先是收集数据,然后储存在数据库程序中,然后在收到请求后搜索这些数据。这是一个高效的处理方式,但却是一个紧绷的结构,而且通常会造成时间的浪费。而在流计算当中,高级软件的运算法则在接收流数据时就开始对其进行分析。流计算在实时数据分析领域具有巨大的应用空间,包括天气、江河、电力、股票交易等等。但目前,中国的IT产业在流计算方面并没有太多的话语权。面对大数据的挑战,有非常多类似流计算的新技术,关键技术都需要中国IT企业做更多的布局,只有这样,我们的大数据发展,大数据利用才不会变成“无根”的产业。
事实上不仅仅是在平台和工具等基础技术维度,中国要想在大数据领域拥有更大的话语权,更好地释放数据的价值,还必须在数据模型的维度、在数据科学家等维度进行大量的投入。目前全球前1500强的企业都有自己的数据科学家。据国外职业人士社交网站LinkedIn公布的2014年最受雇主喜欢、最炙手可热的25项技能,统计分析和数据挖掘技能位列榜首。研究机构Gartner预测,2015年,全球将新增440万个与大数据相关的工作岗位,25%的组织将设立首席数据官职位。
不久前,阿里云宣布启动阿里云大学合作计划AUCP,联合国内8所高校开设云计算与数据科学专业方向,目标是到大学里培养大数据的科学家。应该说阿里巴巴是国内企业中“大数据意识”觉醒比较早的企业。对于大数据这样的应用学科的人才培养,需要充分借助企业的资源。在国外企业中,IBM对于全球大数据的人才培养投入了巨大资源,已与全球1000多所大学一同合作,构建一个输送数据科学家的“通道”。
推进大数据应用需要大量的数据科学家,需要教育体系更重视大数据的人才培养,需要更多的领先企业参与进来,仅仅有阿里巴巴或者是IBM是远远不够的。
以上是小编为大家分享的关于大数据 掌握话语权要关注基础技术的相关内容,更多信息可以关注环球青藤分享更多干货
Ⅳ 大数据的产生与发展现状研究
摘 要:大数据的产生给未来信息技术带来新的机遇与挑战。大数据对数据处理的有效性、实时性提出了更高要求,需要根据大数据的特点对当前数据处理技术实施变革,从而形成更有益于大数据采集、存储、处理、管理、分析、共享的新兴技术。本文从大数据的产生与发展、特征、主要应用以及大数据所带来的挑战等方面进行阐述与分析。
关键词 :大数据 物联网 信息处理 海量计算
一、大数据的产生与发展现状
随着物联网、云计算等信息技术的飞速发展,大数据技术(Big Data)也越发进入人们的视线。大数据是用传统方法或工具很难处理或分析的数据信息。目前,人们对大数据的理解还不够全面和深入,关于大数据的含义也没有一个统一的定义。亚马逊大数据科学家John Rauser认为:大数据是超过任何一台计算机处理能力的庞大数据量。Informatica 的中国区首席顾问但彬指出:大数据是海量数据与复杂类型的数据的结合。而维基网络则把大数据定义成诸多大而复杂的、难以用当前数据库处理的数据集合。
大数据研究受到国内外学术界和工业界的广泛关注,已成为当今信息时代全世界讨论的热点。2008年,Nature杂志就推出大数据专刊,计算社区联盟也在同一年发表了报告《Big data computing; Creating revolutionary breakthroughs in commerce, science and society》,报告阐述了解决大数据问题所需的关键技术以及所面临的挑战。美国奥x政府于2012年3月在白宫网站发布了《大数据研究和发展倡议》,提出了通过收集、处理海量、复杂的数据信息,从而提升能力,加快科学和工程领域的创新步伐,转变学习教育模式,强化美国本土的安全”。2011年1月,微软公司同惠普公司合作开发了一系列能够提升生产力,同时提高决策速度的设备。此外,欧盟委员会也提出驾驳大数据浪潮的战略思路,日本发布的《面向 2020 的 ICT综合战略》也提出需要构造大量丰富的数据基础。
近年来,我国也积极开展对大数据的研究。2011年10月,工信部确认京沪深杭等 5 城市为“云计算中心”试点城市。2012年6月,中国计算机学会青年计算机科技论坛也举办了“大数据时代,智谋未来”学术报告研讨会。大数据及其科学研究方法涉及应用领域很广,并将与国计民生密切相关的科学决策、金融工程以及知识经济领域紧紧接合。
二、大数据的特点
目前,企业界和学术界都一致认为,大数据具有4个“V”特征,即:容量(Volume)、种类(Variety)、速度(Velocity)和至关重要的`价值(Value)。
(1) 容量(Volume)巨大。海量的数据集从TB 级别提升到PB 级别。
(2) 种类(Variety)繁多。大数据数据源有多种,数据格式和种类不同于以前所规定的结构化数据范畴。
(3)价值(Value)密度低。如视频的例子,在不间断连续监控的过程中,可能有意义的数据仅有一两秒。
(4)速度(Velocity)快。包含大量实时、在线数据处理分析的需求1秒钟定律。
三、大数据应用的领域
大数据产业的发展将推动全球经济由粗放型向集约型转变,这将对提升企业整体竞争力和政府监管能力具有意义深远的影响。
商业作为大数据的重要应用领域。沃尔玛公司通过对消费者购物行为等一系列非结构化数据的分析,了解不同顾客的购物习惯,公司从所销售的数据进行分析,从而选出适合在一起搭配出售的商品;淘宝也针对买家开设了大数据平台,为客户量身打造了一整套完善的网购体验产品。
大数据在金融业也起到了至关重要的作用。美国Equifax公司利用大数据技术,通过对其的数据库中与财务有关的记录海量信息进行索引处理和交叉分享,从而得到客户的个人信用等级,以推断出客户的支付需求与能力。
随着大数据在医疗与生命科学研究过程中的广泛应用和不断扩展。2010年,中国公布的《十二五规划》指出:要重点建设国家级、省级和地市级三级医疗卫生信息平台,建设电子病历和电子档案两个最为基础的数据库。各级医院也将在医疗信息仓库、数据中心等领域加大投入,医疗数据信息的存储将愈加被关注,医疗信息中心的关注焦点也将由传统的计算领域转为存储领域。
除此之外,大数据在制造业领域也有着广阔的应用。制造业企业积累了广泛的数据信息,在开展对业务数据进行技术管理的同时,企业需要通过大数据处理技术来帮助决策者从数据库储存的海量信息中找到有价值的信息,并且对其进行分析处理,从而增强决策的正确性、规避风险。
四、大数据所面临的挑战
大数据技术使人们能够更好地利用之前不能使用的各个数据类型,找出被忽略的信息,促进企业组织更加高效、智能。但随着对大数据研究的不断深入,人们也更加意识到当大数据技术向人们敞开“方便之门”的同时,也带来了众多的挑战:
(1)大数据需要更为专业化的管理技术人才。
(2) 大数据的合理利用需要解决容量大、类别多和时效性高的数据处理问题。
(3)大数据的利用对信息安全提出了更高要求。
(4)大数据的集成与管理问题。
这些挑战已成为关系到未来大数据发展的重要因素,同时也成为未来引领大数据发展的推动力。
五、结束语
大数据已经逐步渗透到人们工作生活的诸多领域中,对于大数据的研究也在不断的深化。本文针对大数据的产生与发展、特征、主要应用以及大数据所带来的挑战等方面进行阐述与分析。大数据的发展还处于初级阶段,还有更为广阔的空间需要人们不断开拓,如何合理地利用大数据、更加高效地处理大数据来为人们服务仍需要广大研究者不断地研究和探索。
参考文献:
[1]刘智慧,张泉灵.大数据技术研究综述[J].浙江大学学报,2014,46(6):957- 972.
[2]严霄凤,张德馨.大数据研究[J].计算机技术与发展,2013,23(4):168-172.
[3]刘俊.基于大数据流的Multi-Agent系统模型研究[J].计算机技术与发展, 2007,17(5):166-169.
Ⅵ 调研显示中国大数据应用与全球仍有差距
调研显示中国大数据应用与全球仍有差距
BM发布了全新《分析:速度的优势》白皮书,该白皮书基于IBM对60全球多个国家中超过1000位业务和IT高管的深度调研,对当前大数据[注]在中国及全球企业应用的现状进行了全面分析。该白皮书指出目前影响快速发展的数字市场的四个重大变化趋势,并基于企业的数据分析能力将他们分为领跑者、慢跑者、参与者和旁观者四个组别。同时,白皮书就企业在分析生命周期的三个关键阶段提出了快速将数据转变为洞察并驱动行动的建议,帮助企业在竞争中保持领先优势。作为全球发展最快的大数据市场,在此次调研中,虽然超过四分之三的大中华区企业在一年内实现了大数据的投资回报,显示了高于全球的投资信心,但是更多的中国企业更注重利用大数据分析来赢得新客户而不是创造更好的客户体验,同时,中国企业普遍在利用大数据推动数字和流程整合转型方面落后于全球整体水平。
IBM 大中华区全球企业咨询服务部高级合伙人兼副总裁Steven Davidson 表示:“随着大数据应用的不断深入,新的发展与变化已经产生。通过此次《分析:速度的优势》白皮书的发布,我们可以看到,速度优势对企业在竞争取胜至关重要。一部分企业正通过速度驱动的数据和分析实现差异化发展,对业务绩效和竞争地位产生了显著的影响。这一趋势对于全球企业高管,尤其是那些致力于利用创新技术推动自身发展的中国企业的领导尤为重要。IBM一直致力于与中国企业紧密合作,分享自身丰富的大数据分析洞察与资源,共同携手推动业务的创新与增长。”
四大变化引领全球大数据应用发展
作为IBM第六次全球数据分析调研,此次调研对象包括60多个国家中超过1,000位业务和IT高管,其中也包括大中华区企业。IBM 2014年全球分析调研揭示了影响快速发展的数字市场的四个重大变化:
变化1:绝大多数企业目前在一年内实现了大数据投资的回报。
变化2:以客户为中心仍是分析活动的主要目的,但企业越来越多地将注意力集中于利用大数据应对运营挑战。
变化3:通过将数字化能力集成到业务流程中实现企业转型。
变化4:大数据的价值推动力从数量转变为速度。
领跑者数据分析驱动实践,速度成关键
该白皮书指出要跟上当前的发展速度,企业需要全面地采用分析技术。基于企业现阶段分析能力,白皮书将企业分为四个组别:领跑者、慢跑者、参与者和旁观者。占10%的领跑者最有能力满足速度需求,并创造了巨大的商业价值。超过一半的领跑者都表示分析对业务表现和收入产生了显著影响并且使他们获得了显著的竞争优势。但大中华区在分析对业务、收入和竞争力方面产生影响的表现仍与全球领跑者存在着较大差距。为了创造业务价值,中国企业需要仿效领跑者,并且加快速度管理数据和分析,并依据数据洞察采取行动。
通过大数据分析构建速度驱动型企业
此次研究还表明,将原始数据的数量和多样性转变为洞察驱动的行动的速度是企业从数据和分析中创造价值的关键。支持这一速度的力量是使用大数据技术。在企业内加快分析速度不能一蹴而就,企业必须在分析生命周期的每个关键阶段保持领先:获取、分析和行动。
在获取阶段,快速获取和整合数据的能力对于创造速度优势非常关键。企业在寻找和管理数据时必须能够保证数据使用方式和时间的灵活性和敏捷性。企业需要推出支持数据多样化的解决方案,让数据为企业提供动力。
在分析阶段,追求行动速度的企业需要集中精力分析数据,并确定最有可能对业务产生积极影响的洞察。
在行动阶段,企业提高当前所需的快速行动能力的最后一步是真正地采取行动,并且快速处理数据。企业需要通过数字与流程的整合提升端到端的速度,使分析数据可供员工和高管使用,从而做到洞察交付和洞察需求相互匹配。
IBM推动中国企业大数据应用的快速发展
作为全球大数据技术与应用的领导者之一,IBM一直努力与广大中国企业、组织保持紧密的合作关系,并通过自身丰富的全球实践帮助众多企业成功应用大数据分析技术,实现了业务的创新与发展。
在汽车工业领域,IBM帮助上汽集团成功打造中国汽车市场首个O2O[注]电子商务平台——车享网。该平台将基于线上客户数据,有效判断客户潜在需求(+微信关注网络世界),提高运营分析效率,为客户提供及时的、个性化的服务与信息。通过全面的客户洞察做到精细化营销,车享网平台将大幅提升会员管理水平。通过数据分析提升汽车消费者全生命周期服务能力,真正做到高品质的客户体验。
在金融领域,去年,IBM帮助中国银行天津分行打造智能化网点,通过整合中国银行的后台数据分析平台,利用大数据分析技术,分析用户的业务偏好,为验证销售具体产品市场策略的有效性能提供重要的数据依据。
在快消领域,IBM与蒙牛集团于去年底达成战略合作。借助IBM强大的社交大数据分析与商务智能等解决方案,蒙牛将构建有效的大数据分析能力,发现新的客户洞察,并以此作为企业决策与业务流程优化的依据。
在零售领域,今年初IBM在帮助国内休闲食品领先企业良品铺子打造全渠道信息化应用平台的过程中,通过大数据分析,帮助企业将顾客有效地分群,从而实现精准营销和差异化服务。
在新互联网时代下,随着大数据、云计算[注]、社交及移动趋势的快速崛起,IBM正在构建自身全新的服务能力。在大数据应用领域,IBM一直引领着创新和发展,并不断融合自身在各行业与全球化发展中的经验,不断帮助中国客户紧抓新时代下的发展机遇,以稳健的步伐成长为全球企业的领导者。
以上是小编为大家分享的关于调研显示中国大数据应用与全球仍有差距的相关内容,更多信息可以关注环球青藤分享更多干货
Ⅶ 大数据时代发展历程是什么
可按照时间点划分大数据的发展历程。
Ⅷ 美国大数据第三轮行动中解决什么问题
美国大数据第三轮行动中解决大数据发展问题。2012年白宫科技政策办公室发布《大数据研究发展倡议》,以提升从海量和复杂数据中获取知识、挖掘价值的能力,进而推动科学与工程领域创新步伐加速。第二步调整政策框架与法律规章,积极应对大数据发展带来的隐私保护等问题。2014年美国发布《大数据:把握机遇,守护价值》白皮书,再次重申要把握大数据可为经济社会发展带来创新动力的重大机遇,同时也要高度警惕大数据应用所带来的隐私、公平等问题,以积极、务实的态度深刻剖析可能面临的治理挑战。
Ⅸ 大数据的预测功能是增值服务的核心
大数据的预测功能是增值服务的核心
从走在大数据发展前沿的互联网新兴行业,到与人类生活息息相关的医疗保健、电力、通信等传统行业,大数据浪潮无时无刻不在改变着人们的生产和生活方式。大数据时代的到来,给国内外各行各业带来诸多的变革动力和巨大价值。
最新发布的报告称,全球大数据市场规模将在未来五年内迎来高达26%的年复合增长率——从今年的148.7亿美元增长到2018年的463.4亿美元。全球各大公司、企业和研究机构对大数据商业模式进行了广泛地探索和尝试,虽然仍旧有许多模式尚不明朗,但是也逐渐形成了一些成熟的商业模式。
两种存储模式为主
互联网上的每一个网页、每一张图片、每一封邮件,通信行业每一条短消息、每一通电话,电力行业每一户用电数据等等,这些足迹都以“数据”的形式被记录下来,并以几何量级的速度增长。这就是大数据时代带给我们最直观的冲击。
正因为数据量之大,数据多为非结构化,现有的诸多存储介质和系统极大地限制着大数据的挖掘和发展。为更好地解决大数据存储问题,国内外各大企业和研究机构做了许许多多的尝试和努力,并不断摸索其商业化前景,目前形成了如下两种比较成熟的商业模式:
可扩展的存储解决方案。该存储解决方案可帮助政府、企业对存储的内容进行分类和确定优先级,高效安全地存储到适当存储介质中。而以存储区域网络(SAN)、统一存储、文件整合/网络连接存储(NAS)的传统存储解决方案,无法提供和扩展处理大数据所需要的灵活性。而以Intel、Oracle、华为、中兴等为代表的新一代存储解决方案提供商提供的适用于大、中小企业级的全系存储解决方案,通过标准化IT基础架构、自动化流程和高扩展性,来满足大数据多种应用需求。
云存储。云存储是一个以数据存储和管理为核心的云计算系统,其结构模型一般由存储层、基础管理、应用接口和访问层四层组成。通过易于使用的API,方便用户将各种数据放到云存储里面,然后像使用水电一样按用量进行收费。用户不用关心数据的存储介质、网络状况以及安全性的管理,只需按需向提供方购买空间。
源数据价值水涨船高
在红红火火的大数据时代,随着数据的累积,数据本身的价值也在不断升值,这种情况很好地反应了事物由量变到质变的规律。例如有一种罕见的疾病,得病率为十万分之一,如果从小样本数据来看非常罕见,但是扩大到全世界70亿人,那么数量就非常庞大。以前技术落后,不能将该病情数字化集中研究,所以很难攻克。但是,我们现在把各种各样的数据案例搜集起来统一分析,我们很快就能攻克很多以前想象不到的科学难题。类似的例子,不胜枚举。
正是由于可以通过大数据挖掘到很多看不见的价值,源数据本身的价值也水涨船高。一些掌握海量有效数据的公司和企业找到了一条行之有效的商业路径:对源数据直接或者经过简单封装销售。在互联网领域,以Facebook、twitter、微博为代表的社交网站拥有大量的用户和用户关系数据,这些网站正尝试以各种方式对该源数据进行商业化销售,Google、Yahoo!、网络[微博]等搜索公司拥有大量的搜索轨迹数据以及网页数据,他们可以通过简单API提供给第三方并从中盈利;在传统行业中,中国联通[微博](3.44, 0.03, 0.88%)、中国电信[微博]等运营商拥有大量的底层用户资料,可以通过简单地去隐私化,然后进行销售盈利。
各大公司或者企业通过提供海量数据服务来支撑公司发展,同时以免费的服务补偿用户,这种成熟的商业模式经受住了时间的考验。但是对于任何用户数据的买卖,还需处理好用户隐私信息,通过去隐私化方式,来保护好用户隐私。
预测是增值服务的核心
在大数据基础上进行深度挖掘,所衍生出来的增值服务,是大数据领域最具想象空间的商业模式。大数据增值服务的核心是什么?预测!大数据引发了商业分析模式转变,从过去的样本模式到现在的全数据模式,从过去的小概率到现在的大概率,从而能够得到比以前更准确的预测。目前形成了如下几种比较成熟的商业模式。
个性化的精准营销。一提起“垃圾短信”,大家都很厌烦,这是因为本来在营销方看来是有价值的、“对”的信息,发到了“错”的用户手里。通过对用户的大量的行为数据进行详细分析,深度挖掘之后,能够实现给“对”的用户发送“对”的信息。比如大型商场可以对会员的购买记录进行深度分析,发掘用户和品牌之间的关联。然后,当某个品牌的忠实用户收到该品牌打折促销的短信之后,一定不是厌烦,而是欣喜。如优捷信达、中科嘉速等拥有强大数据处理技术的公司在数据挖掘、精准广告分析等方面拥有丰富的经验。
企业经营的决策指导。针对大量的用户数据,运用成熟的数据挖掘技术,分析得到企业运营的各种趋势,从而给企业的决策提供强有力的指导。例如,汽车销售公司,可以通过对网络上用户的大量评论进行分析,得到用户最关心和最不满意的功能,然后对自己的下一代产品进行有针对性的改进,以提升消费者的满意度。
总体来说,从宏观层面来看,大数据是我们未来社会的新能源;从企业微观层面来看,大数据分析和运用能力正成为企业的核心竞争力。深入研究和积极探索大数据的商业模式,对企业的未来发展有至关重要的意义。