导航:首页 > 网络数据 > 航运大数据革命一触即发

航运大数据革命一触即发

发布时间:2022-12-25 00:13:27

『壹』 大数据时代的航运创新

大数据时代的航运创新

当下的航运窘境,或许可在大数据、互联网技术、可再生能源和3D打印等领域的发展浪潮中,从运营模式、战略发展和技术标准等方面进行改革创新

当前,航运业正处于重新洗牌、再次组合的过程,航运市场面临运力严重过剩、价格持续低迷的困境,传统的手段与方法已无力帮助航运企业摆脱困局。如何才能使航运企业从现阶段的窘况中脱离出来,已经成为航运界共同的难题。

与此同时,大数据、互联网技术、可再生能源和3D打印等领域的新发展对航运业的运营模式、战略发展和技术标准都将带来深远影响。

大数据的驱动力

毫无疑问,当下世界是一个被数据包围的世界。航运经营自然也会产生很多数据,所有的数据都是相关的,如何处理、利用这些数据成为挑战。

DNV GL执行副总裁、海事咨询总监Albrecht Grell表示:“我们要问的一个问题就是航运数据从哪里来,怎样对这些数据进行认知,看到数据背后真正的含义。”一艘营运中的船舶,24小时内通常会生成高达20GB的数据信息,这些信息内容繁多,涉及天气、发动机、航行位置、速度到燃油消耗等,数据量大、散乱、周期短。确保数据的获得是进行精确分析的第一步,将这些数据进行整合是第二步,这些数据与外部数据如AIS、天气等的结合分析,就可能得出有意义的结论。

DNV GL副总裁、DNV GL大中国区主席、DNV GL 海事公司大中国区总经理Torgeir Sterri表示,数字化是航运发展的驱动力之一,这个驱动力本身就是一项技术。大数据驱动的数字化将使遥感器可实时接受各式各样的结构化和非结构化的数据,且这些数据的来源确定性越来越强。他进一步指出,更智能的数字网络,除了促进科技的应用,在航运业,可以模拟所有船舶周期的现状。DNV GL利用大数据,开发船队绩效监测系统,在增进营运透明度的同时提高了营运效率。

英国劳氏船级社北亚地区船舶业务总裁Jim Smith表示,英国劳氏船级社将把大数据和有效数据应用于未来业务和技术的战略计划中。“1760年开始,我们的工作中就充满了数据,包括入级的每艘船舶的全寿命周期内的所有相关信息。若能获得一艘船舶的核心数据,通过集中分析设计、表现、天气、路线、货物和法规数据相关信息,则可以寻找到最佳航线,便于船舶更高效经济地行驶到指定港口。智能船舶将从根本上改变海运业的业务模式。”

究竟什么是智能船舶呢?中国船级社副总工兼规范与技术中心总经理陈实表示,智能船舶体现在六个方面:一是智能航行。主要是自动航行优化,通过对海况、物流等相关参数的优化,在满足航运周期和安全的情况下,使航运成本降到最低。目前这一技术已较成熟,进一步发展会形成自主航行。二是智能船体。主要指对船体进行全生命周期的管理,包括建立船体数据库,以及结构强度和性能的数据库,为船舶的维修提供决策,如通过数据库预先制定维修计划。应急服务可以提供辅助决策,确保安全。三是智能机舱。基于设备和系统监测为机舱提供辅助决策,高级发展阶段是对机舱设备提供视情维修,大幅度节省维修成本和周期。四是智能能效管理。通过能耗检测、分析与报告,为能效优化辅助决策。五是智能货物控制。从最佳配载以及基于对货物的监测来辅助决策,确保货物安全。六是智能系统集成。通过对大数据的分析和处理,形成集中控制,一个平台一个网络来集中控制。

日本船级社会长兼总裁 Noboru Ueda也分享了大数据在行业里的应用。他表示,由Napa和日本船级社2012年完成的Napa—GREEN监控系统已经在很多船舶上应用,可以提高燃料效率,计算出最佳吃水与船速,从而提高船舶运营效率,有效分析船舶运行情况,精确率达99.6%。“使用珍贵的数据,是我们在大数据时代迈出令人兴奋的一步。”

SAP大中华区售前总经理李旭东则认为,数字化是一个渐进的过程,从信息系统建设角度讲,不是简单替换,也不是一味追求数量多而不适的功能。在解决现有问题的同时,要考虑明天可能面临的挑战,并找到应对之策。“我们的责任是解决信息的互联互通,帮助船东更好地实现与货主、收货人等利益相关方的互联互通。我们重新定义了在互联互通的情况下,一个数字化企业支撑其成功运行的信息系统理想模式。与以往相比,产业相关方的合作、联系要比以往更密切,对信息系统的要求也与以前不同,需要合适的系统帮助企业实现这种不同。”

对接与融合“互联网+”

航运业已经无法回避即将到来的智能化工业革命浪潮,也无法断开与信息网络的深层次对接与合作。工业4.0给市场带来了高效的生产效率,也给各行各业带来了发展机遇。它既涉及传统的互联网,还涉及正在发展的物联网,这是一次基于虚实融合的工业革命。这对航运业朝着全面智能加快转型升级起到了助推作用,通过对云计算、大数据的运用,提升航运服务、管理、节能、运营的效率和能级。

如何借助工业4.0之东风,实现航运业自身发展的蜕变,中外运航运董事长李甄认为主要有四个方面。

一是服务定制。工业4.0带来的智能化水平可帮助航运企业实现定制化服务。通过引入应用电子标签功能的信息化系统,一方面,电子标签记录着航运企业实时更新的每艘船舶的运行状态、航线位置等点状定制信息;另一方面,客户可以在定位识别系统的帮助下,根据自身的服务需求自动识别读取电子标签所携带的相关信息,向航运企业提出定制化服务的请求,航运企业在收到请求后自动协调安排相关运输任务。

二是智能管理。利用云计算、大数据等智能化手段,集成信息挖掘、远程监控、实时预警及预测分析,推进智能化管理,提高设备运行效率。例如:通过智能机器人,实时评估船舶设备的运行状态,最大可能地预知设备故障与操作失误,加强管控预控措施,全面实现船舶管理的智能化。同时,机器人的逐步推广也可以应用到一些基本船员的工作上,在提高效率的基础上,使管理的精细化水平得到进一步加强。此外,通过智能化与系统化的管理,既为航运企业积累先进的管理经验,又提高管理人员的综合业务技能,为后续的深化发展夯实基础。

三是节能环保。节能减排是顺应当今世界发展潮流的战略举措,已成为世界人民的共识。随着工业4.0引发的技术革命,在航运业逐步推广与应用环保节能新兴技术,通过船岸之间现代化网络,实时调整船舶设备工况、自动优化吃水、采用经济航速,使之有效降低船舶营运成本、最大程度地减少排放。目前,世界大型航运企业大多对新造船舶进行了LNG准备装置,有的已经投入实际使用,相信不久的将来,新能源及新能源使用装置将会得到广泛的推广和运用。

四是优化运营。在实际营运过程中,航线设计和运营组织的合理与否直接影响着航运企业的经济效益。通过建立智能系统,根据船舶航线途径的航道水深、洋流海况以及天气特点等外部环境信息,自动进行提炼对比、分析判断,设计出最合理、经济的航行路径,确定最理想的积配载方案,制定出效益最佳的运营组织计划。由于工业技术的突飞猛进以及北极冰层的逐步消退,北极航线已成为可能,加上北极航线所具备的独特地缘条件与战略意义,北极航线已成为各国航运企业争相开发的焦点,这也为我们进一步优化运营拓展了空间。

除了航运业,对于航运服务业而言,同样离不开“互联网+”。广州仲裁委员会主任、中国仲裁法学会副会长陈忠谦表示,仲裁及时加上互联网的元素,也就是线上和线下裁案。在线上这个仲裁平台里,通过线上交资料、数据认证进行办案,如仲裁管理、案件管理、电子档案形成、网络视频庭审系统,确保数据的安全性;研究与法院以及航运部门、航运企业的网络对接,在网上备案和受理、答辩,组成仲裁厅、开庭、作出裁决等,在线上解决解纷。

中国船级社总裁孙立成表示,可再生能源对传统化石能源的替代,3D打印引致的规模经济效应减弱和满足客户需求的本地化生产趋势加强,致使部分产业门类将由全球分工变为区域分工,由全球生产变为本地生产,沿海运输替代部分远洋运输,海运运距缩短,以及新一代信息技术与船舶制造的深度融合都将引发影响深远的产业变革,形成新的生产方式、产业形态、商业模式和经济增长点。

航运业创新路径

处于瞬息万变的数字时代,航运业该如何创新发展?交通运输部水运科学研究院副院长贾大山认为,当前海运市场进入了新一轮的漫长调整,诸多政策提供了强有力的战略支持。“要注重调整船队功能结构,分类制定经济政策。如国家安全船队、经济安全船队、商业运输船队,以不同的定位来制定相应的政策。”

从企业层面而言,贾大山认为要优化海运资本结构,推进混合所有制改革。“中国航运业有国有和民营资本两类运营平台,功能性角度主要通过国有资本运营平台完成,商业性船队则可通过国有和民营资本运营平台共同完成。”

从产业链融合角度出发,贾大山认为要构筑海运产业链,推进协同发展。加强与金融企业的沟通,加强融资能力,加强造船、海运和货主企业的合作。

从融资角度而言,贾大山认为,对于海运相关的融资政策、企业海运所得税的问题,还需进一步探索解决,与国际接轨,让中国海运企业与国际海运企业在同一市场进行公平竞争。

上海海事大学校长黄有方认为,航运企业要进行“航运+供应链”的战略思考。“实施‘航运+物流’战略,仅做航运不够,要知道做全程物流。‘航运业+贸易’战略,要更好地关注航运业与贸易的战略结合。‘航运+金融’战略,航运业要有话语权,并维系好供应链关系,金融能力很重要,‘航运+信息’战略也是如此。总之,期望航运企业高度重视与物流、贸易、金融、信息的结合,充分认识到研究供应链就是研究信息流、物流、商品流和现金流,‘航运+供应链’战略的转型和创新是未来航运取胜之道。”

中远集团总经理李云鹏表示,当前,世界经济步入深度调整期,出现了很多不同以往的新特点:区域经济不平衡加剧、国际资本流动性加快、金融市场动荡加强、大宗商品价格深度回落、新兴经济体持续减速等。这些来自宏观经济方面的压力会立竿见影地体现在航运业上,导致运力过剩、运价低迷、无序竞争、惨淡经营等。“低位运行的状态将会持续相当长的时间。所以航运企业想实现突破性发展,将面临革命性的变革。”

航运企业内生型增长将成为必然。李云鹏认为,航运企业未来的成长空间,更多要依靠自身能力和资源的提升利用,要实现增长动力由外到内的转变,通过调整业务结构、客户结构、组织架构、运营机制,不断增强对外部市场需求的适应能力和对外界不利环境的免疫力。未来航运企业的发展,要通过培育“内生型”增长动力,提高自身经营能力、管理水平、服务质量、运营效率和成本优势来实现。具体实现路径,一是要有流程再造能力,即改变航运经营传统流程,提高重新设计、组合内部资源的能力,优化航线设计、服务流程;二是提高市场布局能力,特别是体现经营能力的业务网络布局与区域经济的匹配度,在当前区域经济不平衡的环境下更是如此,这实际是对航运企业捕捉市场机遇能力的要求,要由以往“依赖”市场转向“驾驭”市场;三是有产业链延伸能力,实现与航运相关产业的有效嫁接,通过产业上中下游的有机关联,对冲航运业的既定风险。

产业集群之间的竞争将成为主流。李云鹏认为,仅仅靠航运企业内部资源的优化配置,已越来越难满足客户的需求,包括船东、船货之间的合作形式都可能远远不够。未来航运市场上船东、船货之间的竞争模式,将被集群对集群的竞争模式所取代,因此如何构建产业集群将成为航运企业资源配置的重大战略目标。产业集群在规模、层次、组合方面可能呈现出多样性,一旦形成,将成为航运企业价值创造的主体模式。从构建路径来看,要以现有的船货合作、联盟联营为出发点,以新技术为推手,吸引行业领先的利益相关方,形成航运及相关产业的集群。如船东、货主、物流、贸易、金融、IT、电商平台等企业,可能共同构成一个产业集群,共享资源、共创价值、绑定利益,形成完整的航运产业生态圈。当市场上出现多个这样的产业集群之时,市场竞争的格局就会发生革命性变革。

全程解决方案将成为利器。李云鹏认为,企业的成长过程,也就是为客户创造价值的过程,为客户提供海运服务,是航运企业传统的价值创造方式。但客户的最终需求不仅仅存在于海运环节,而是涉及陆上运输、港口、仓储、信息、安全等各个方面,客户的最终需求是“打通最后一公里”、“门到门”、“安全保质”的全程解决方案。跨境物流的兴起与“在线需求”的爆发正在重新定义很多传统行业,在跨界整合正令传统行业界限愈发模糊的趋势下,今后,提供“全程解决方案”的能力必将成为航运企业赖以生存的核心竞争力。真正的“全程解决方案”需要两个因素:一是对客户的态度;二是提供服务的能力。

以上是小编为大家分享的关于大数据时代的航运创新的相关内容,更多信息可以关注环球青藤分享更多干货

『贰』 什么是大数据。。大数据是什么

大数据,IT行业术语,是指无法在一定时间范围内用常规软件工具进行捕捉、管理内和处理的数据集合,容是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。

在维克托·迈尔-舍恩伯格及肯尼斯·库克耶编写的《大数据时代》中大数据指不用随机分析法(抽样调查)这样捷径,而采用所有数据进行分析处理。

大数据的5V特点(IBM提出):Volume(大量)、Velocity(高速)、Variety(多样)、Value(低价值密度)、Veracity(真实性)。



(2)航运大数据革命一触即发扩展阅读:
大数据包括结构化、半结构化和非结构化数据,非结构化数据越来越成为数据的主要部分。

据IDC的调查报告显示:企业中80%的数据都是非结构化数据,这些数据每年都按指数增长60%。

大数据就是互联网发展到现今阶段的一种表象或特征而已,没有必要神话它或对它保持敬畏之心,在以云计算为代表的技术创新大幕的衬托下,这些原本看起来很难收集和使用的数据开始容易被利用起来了。

『叁』 大数据未来发展趋势怎么样

大数据也有线上线下之分了,线上大数据公司像大家都知道的科大讯飞、极光大版数据、talkingdata、dataeye、trustdata等等,已经权发展的比较完善了,我更看好未来10年线下大数据的发展,像18年成立的WakeData惟客数据、众盟等等,截止目前还没有一家独角兽级别的线下大数据企业。

『肆』 互联网巨头掘金大数据 大数据市场一触即发

互联网巨头掘金大数据 大数据市场一触即发

互联网遍布人们生活的当下,每人每天都会在网络中产生大量数据,这正成为众多互联网企业眼中新的掘金之地。

10月15日,在西安互联网+大数据峰会上,记者了解到,包括中国电信、网络、滴滴在内的众互联网巨头已从日渐成熟的大数据市场中看到蓬勃商机,并开始加速布局。

掘金大数据

网络是最早进行大数据商业化和产品化尝试的互联网企业,据网络大数据部高级产品设计师辛广蓉介绍,其大数据部成立近两年时间里,人员已增长近一倍,目前近400人,开发的标准大数据产品有十个左右,其三级开放平台包括网络大脑、数据工厂和开放云,其计划中的战略是将大数据应用推广至3600个垂直行业。

“业务量很大,每天收到的大数据相关邮件超过100封,现在我们几千个重点客户都在使用大数据但代理商那边还没有开始,所以未来增长空间很大。”

据了解,目前大数据生态圈已格局初具,主要由基础设备提供商、数据能力与产品提供商、业务应用与融合服务提供商构成,中国电信也在近期启动了大数据项目的试点,据中国电信陕西信产公司渠道及销售拓展部主任何子明介绍,中国电信目前已经形成了风险防控、精准营销、咨询报告、区域洞察四个系列13个种类的大数据产品。

“大数据资源的积累各有侧重,各大企业也自有定位,比如阿里侧重电商、腾讯是社交、网络是主动探索,而电信是拥有全程系统的端到端大数据”,何子明称,中国电信陕西信产公司是电信集团首批大数据试点机构和核心企业,全程参与了全部大数据产品的规划和设计。

像滴滴公司这样的大数据资源巨头虽然尚未进行对外的商业化,但也箭在弦上。据滴滴出行北方区总经理常湘介绍,滴滴内部的各项服务和业务都得益于其拥有的世界领先大数据平台驱动。“滴滴、快递合并前的市场大战中,如果说滴滴能有一些优势的话主要就体现在智能化大数据平台上,这个平台让滴滴用户一旦用了快滴马上会捕捉到并启动返券、线下沙龙等措施一个月内把用户拉回来”,常湘称。

企业互联网化浪潮

“互联网是管道,大数据是流淌在里面的价值流,云计算是对其进行处理的方法,三者的结合就是互联网的未来,而对于企业来说,其最大的未来是进行互联网化,我们过去5年就服务了近22万家企业说明现在这个观点认可已经很广泛,接下来几年抓不住这个浪潮的企业日后就很难追赶和跟随,甚至可能被边缘化。”西安互动未来信息技术有限公司CEO王维搏对此分析道。

作为资深互联网应用与融合服务提供商,王维搏认为大数据正快速形成一个越来越庞大的生态系统,近年来互联网巨头们纷纷押注大数据和云计算,试图挖掘政府、金融、电商等行业的相关需求,现在,这一努力已经在包括大量传统行业在内的更广领域全面展开。

目前,大数据的商业价值已经在企业中获得了广泛的认可。数据显示,去年我国大数据市场约6亿元人民币,增长率近50%,未来随着越来越多的大数据分析平台和工具的广泛应用,其潜在商业价值将会被进一步释放并获得企业认可。

但企业重构互联网基因也是一个专业而复杂的过程,需要进行重新定位,互联网化价值链重塑、互联网全平台建设和全网整合等。“未来5年是新秩序的建成期,这期间如果说有最大的风口我认为就是传统产业、传统企业的互联网化,但对于许多企业来说,现在剩下的窗口时间已经不多了。”

以上是小编为大家分享的关于互联网巨头掘金大数据 大数据市场一触即发的相关内容,更多信息可以关注环球青藤分享更多干货

『伍』 英国开启大数据时代

英国开启大数据时代

在英国,大数据早已不仅仅是一个停留在科学论坛上被热议的新名词,越来越多的政府投入、已经运营的高校大数据研究中心、不断涌现的商业运作成果,明确地展现出英国正在开启一个新的大数据科技时代。

政府将大数据作为“新经济增长点”

近年来,英国经济持续低迷,疲软的经济状况使得政府部门的财政支出捉襟见肘。就在这样严峻的财政背景下,英国政府更加渴望通过扶持新兴高科技技术发展,来增强国家在国际竞争中的科技硬实力,创造新的科技领先领域和经济增长点,从而带动整个经济发展。

大数据概念的提出正好符合英国政府现阶段的国家战略规划,给了英国一个带动新一代科技革命的抓手。英国大学与科学国务大臣的戴维·威利茨认为,政府加大对大数据技术的前期投资,将有助于保证大数据在科研领域的发展,构建数据分析系统和人才梯队,由此吸引民间资本的投资跟进,推进其在商业、农业等领域的积极应用,从而占据大数据时代的有利位置。

英国政府的大数据战略不仅仅是口号,更落实在行动上。2013年,英国政府投资1.89亿英镑发展大数据技术。今年,英国政府又拿出7300万英镑投入大数据技术的开发。包括:在55个政府数据分析项目中展开大数据技术的应用;以高等学府为依托投资兴办大数据研究中心;积极带动牛津大学、伦敦大学等著名高校开设以大数据为核心业务的专业等。

与此同时,英国政府建立了有“英国数据银行”之称的data.gov.uk网站,通过这个公开平台发布政府的公开政务信息。这个平台的创建给公众提供了一个方便进行检索、调用、验证政府数据信息的官方出口。同时英国人还可以在这个平台上对政府的财政政策、开支方案提出意见建议。英国甚至渴望通过完全公布政府数据,去进一步支持和开发大数据技术在科技、商业、农业等领域的发展,扶持相关企业进行创新和研发,找出新的经济增长点来刺激本国经济的发展。

英国政府近年来通过大数据技术,在公开平台上发布各层级数据资源,并通过高效率地使用这些数据提高政府部门的工作效率,刺激其他机构在数据获取和使用上的积极性,直接或间接为英国增加了近490亿至660亿英镑的收入。英国政府预测,到2017年,大数据技术可以为英国提供5.8万个新的工作岗位,并直接或间接带来2160亿英镑的经济增长。大数据的出现极大地促进了政府与相关公共机构工作方式的转变,推动了大数据相关产业链的研究和发展。在商业上有更多的可以借助其技术进行开发的新的产品类型与市场形式,进一步开放了企业的创新能力和竞争力。

大数据应用改变传统商业模式

大数据能够用来创造价值是因为,在当今社会中,依靠相关政经数据分析所得出的报告越来越多地成为高层管理者进行决策的重要参考。看似比“经验主义”更加科学客观的各类经济报表和技术报告,已经成为各类研究机构向决策者提供建议的重要手段,而大数据技术正好迎合了这样的需求。

在英国的零售业,这一转变表现得尤为突出。英国著名的大型连锁超市Texco在其营销系统内通过顾客的购物内容、刷卡金额等消费明细数据和利用调查问卷、客服回访等售后服务行为对每一位顾客的相关购物信息进行数据采集和整理加工。然后借助计算机和相关数学模型,对所获得的海量数据进行分析,推测顾客的消费习惯和潜在需求等内容。这样经营者就可以通过这些数据分析可能的商业卖点,针对不同顾客进行不同的推荐服务,并有的放矢开展营销活动。这样的数据应用模式已经在众多电子商务公司得到广泛应用。

英国航空为了增加营业收入,渴望通过利用乘客的消费数据来合理调配航班的运营配置,以此节约成本并探求新的消费潜力。英国航空通过与世界上知名酒店公司合作,获取相关数据库内存储的海量会员信息数据,来向乘客推荐相应的差旅住宿服务,使其感受到更好的服务质量,提高其在会员心中的品牌形象。英国航空公司积极与数据公司合作,将大数据技术应用在商业领域,预测潜在的人流物流信息,以此将数据分析结果转化成实实在在的商业利润。这样的成功案例对改变物流和运输领域的服务方式和经营思路有着指导性意义。

英国渴望成为大数据时代的引领者

作为工业革命的发源地,英国的科技创新能力和科学研究团队仍然在世界上首屈一指,它有着世界上最优秀的高等学府,其计算机处理能力研究、人工智能自动化、计算机软硬件开发等高科技领域专业的科研实力和成果都名列前茅。良好的科研基础和技术储备加上率先开启的大数据国家战略让英国人确实有理由相信,在新的科技革命中他们仍可占有一席之地。

2012年5月世界上首个非营利性的开放式数据研究所ODI(The Open Data Institute)在英国成立。它利用互联网技术将全世界人们提供的数据汇总到一个平台上,利用云存储等新兴技术手段达到海量存储的目的。这一平台对于融合来自不同国家、不同行业、不同类型的人们感兴趣的所有数据具有很大的帮助。同时,ODI的研究范围非常广泛,它不仅仅接收和存储数据,更重要的是面对大数据的应用展开研究。

大数据革命已经触及英国的各行各业,政府公开财政数据,研究机构纷纷成立,商业运作逐步展开,英国人已经开始拥抱大数据技术。“大数据时代将开启下一次工业革命”,英国政府内阁办公厅大臣弗朗西斯·莫德说,“两百年前的工业革命用前所未有的方式开创了历史,现在我们用大数据的形式来进行生产和提供服务同样是在创造历史”。经过了近年来的没落,当年的日不落帝国渴望在大数据时代建立他们曾经的辉煌。

以上是小编为大家分享的关于英国开启大数据时代的相关内容,更多信息可以关注环球青藤分享更多干货

『陆』 深度分析大数据的革命前景

深度分析大数据的革命前景

“大数据”是当前的时髦术语,是技术界用来解决世界上最难处理的问题的全能办法。这个术语一般用来描述对海量信息进行分析,从而发现规律、收集有价值的见解和预言复杂问题答案的技巧与科学。它也许听起来有些乏味,但是从制止恐怖分子,到消除贫困,到拯救地球,对于大数据的鼓吹者来说,没有什么问题是解决不了的。

维克托?梅耶—舍恩伯格和肯尼思?丘基尔在有着朴素书名的《大数据:一次将改变我们生活、工作和思考方式的革命》一书中欢呼道:“对社会的好处将是无穷无尽的,因为大数据在一定程度上将解决迫在眉睫的全球问题,如处理气候变化、根除疾病以及促进善政和经济发展等。”

只要有足够多的数据可以处理———不管是你的iPhone上的数据、杂货店购物状况、在线约会网站个人简介或者是整个国家的匿名健康记录,利用对这些原始数据进行解码的计算能力,人们可以获得数不胜数的有价值的见解。甚至连奥巴马政府也已经赶上了这股潮流,并在5月9日向企业家、研究人员和公众“破天荒”发布了大量“以前难以获取或难以管理的数据”。

然而,大数据真的完全像人们吹嘘的那样吗?我们能相信众多的1和0将能揭示人类行为的隐秘世界吗?以下是作者对所谓大数据理论的思索。

1.“有了足够的数据,数字就可以自己说话”

没门儿。大数据的鼓吹者希望我们相信,在一行行的代码和庞大数据库的背后存在着有关人类行为模式的客观、普遍的有价值的见解,不管是消费者的支出规律、犯罪或恐怖主义行动、健康习惯,还是雇员的生产效率。但是许多大数据的传道者不愿正视其不足。

数字无法自己说话,而数据集———不管它们具有什么样的规模———仍然是人类设计的产物。大数据的工具———例如ApacheHadoop软件框架———并不能使我们摆脱曲解、隔阂和错误的成见。

当大数据试图反映我们所生活的社会化世界时,这些因素变得尤其重要,而我们却常常会傻乎乎地认为这些结果总是要比人为的意见来得客观些。偏见和盲区存在于大数据中,就像它们存在于个人的感觉和经验中一样。不过存在一种值得怀疑的信条,即认为数据总是越大越好,而相关性也等同于因果关系。

例如,社交媒体是大数据分析的一个普遍的信息源,那里无疑有许多信息可以挖掘。我们被告知,推特网的数据显示人们在离家越远的时候越快乐,而且在周四晚上最为沮丧。但是存在许多理由对这些数据的含义提出质疑。首先,我们从皮尤研究中心获悉,美国上网的成年人中只有16%使用推特网,因而他们绝对不是一个具有代表性的样本———与整体人口相比,他们中年轻人和城市人的比例偏多。

此外,我们知道许多推特账号是被称作“机器人”程序的自动程序、虚假账号或是“半机器人”系统(即得到机器人程序辅助的人为控制账号)。最近的估计显示,可能存在多达2000万个虚假账号。因此就算我们要想踏入有关如何评估推特网用户情绪的方法论雷场之前,让我们先问一下这些情绪究竟是来自真人,还是来自自动化算法系统。

2.“大数据将使我们的城市变得更加智能和高效”

在一定程度上是的。大数据可以提供帮助改善我们城市的宝贵见识,但是它对我们的帮助仅此而已。因为数据在生成或采集的过程并不都是平等的,大数据集存在“信号问题”———即某些民众和社区被忽略或未得到充分代表,这被称为数据黑暗地带或阴影区域。因此大数据在城市规划中的应用在很大程度上取决于市政官员对数据及其局限性的了解。

例如,波士顿的StreetBump应用程序是一个比较聪明的以低成本收集信息的途径。该程序从开车经过路面坑洼处的驾驶员的智能手机上收集数据。更多类似的应用正在出现。但是如果城市开始依靠仅来自智能手机用户的信息,那么这些市民只是一个自我选择样本———它必然导致拥有较少智能手机用户的社区的数据缺失,这样的社区人群通常包括了年老和不那么富有的市民。

尽管波士顿的新城市机械办公室作出了多项努力来弥补这些潜在的数据缺陷,但不那么负责的公共官员可能会遗漏这些补救措施,最终会得到不均衡的数据,从而进一步加剧已有的社会不公。人们只要回顾一下曾经过高估计了年度流感发病率的2012年“谷歌流感趋势”,就可以认识到依赖有缺陷的大数据可能给公共服务及公共政策造成的影响。

在网上公开政府部门数据的“开放政府”计划———如Data.gov网站及“白宫开放政府计划”———也存在同样的情况。更多的数据未必会改善政府的任何功能,包括透明度和问责,除非存在可以使公众和公共机构保持接触的机制,更不用说促进政府解释数据并以足够的资源作出反应的能力。所有这些都非易事。事实上,我们身边还没有很多技能高超的数据科学家。各大学目前正在争相定义这一领域、制订教程和满足市场需求。

3.“大数据对不同的社会群体不会厚此薄彼”

几乎不是这样。对大数据所号称的客观性的另一个期待是对于少数群体的歧视将会减少,因为原始数据总是不含社会偏见的,这使得分析可以在整体水平上进行,从而避免基于群体的歧视。然而,由于大数据能够作出有关群体不同行为方式的论断,它们的使用通常恰恰就是为了实现一个目的———即把不同的个体归入不同的群体中。例如,最近有一篇论文指科学家听任自己的种族偏见影响有关基因组的大数据研究。

大数据有可能被用来搞价格歧视,从而引发严重的民权担忧。这种做法在历史上曾被称为“划红线”。最近,剑桥大学对脸谱网5.8万个“喜欢”标注进行的大数据研究被用来预测用户极其敏感的个人信息,如性取向、种族、宗教和政治观点、性格特征、智力水平、快乐与否、成瘾药物使用、父母婚姻状况、年龄及性别等。

记者汤姆?福尔姆斯基这样评价该项研究:“此类容易获得的高度敏感信息可能会被雇主、房东、政府部门、教育机构及私营组织用来对个人实施歧视和惩罚。而人们没有任何抗争的手段。”

最后考虑一下在执法方面的影响。从华盛顿到特拉华州的纽卡斯尔县,警方正在求助于大数据的“预测性警事”模型,希望能够为悬案的侦破提供线索,甚至可以帮助预防未来的犯罪。不过,让警方把工作专注于大数据所发现的特定“热点”,存在着强化警方对声誉不佳的社会群体的怀疑以及使差别化执法成为制度的危险。

正如某位警察局局长撰文指出的,尽管预测性警事登记系统不考虑种族和性别等因素,但是如果没有对差别化影响的考虑,使用这种系统的实际结果可能“会导致警方与社区关系恶化,让公众产生司法程序缺失的感觉,引发种族歧视指控,并使警方的合法性受到威胁”。

4.“大数据是匿名的,因此它不会侵犯我们的隐私”

大错特错。尽管许多大数据的提供者尽力消除以人类为对象的数据集中的个体身份,但身份重新被确认的风险仍然很大。蜂窝电话数据看起来也许相当匿名,但是最近对欧洲150万手机用户的数据集进行的研究表明,只需要4项参照因素就足以挨个确认其中95%的人员的身份。

研究人员指出,人们在城市中走过的路径存在唯一性,而鉴于利用大量公共数据集可以推断很多信息,这使个人隐私成为“日益严重的担忧”。

但是大数据的隐私问题远远超出了常规的身份确认风险的范畴。目前被出售给分析公司的医疗数据有可能被用来追查到你的身份。关于个性化医疗有很多谈论,人们的希望是将来可以针对个人研制药物和其他疗法,就好像这些药物和疗法是利用患者自己的DNA制作出来的。

就提高医学的功效而言,这是个美妙的前景,但这本质上依赖于分子和基因水平上的个人身份确认,这种信息一旦被不当使用或泄露就会带来很大的风险。尽管像RunKeeper和Nike+等个人健康数据收集应用得到了迅速发展,但在实践中用大数据改善医疗服务仍然还只是一种愿望,而不是现实。

高度个人化的大数据集将成为黑客或泄露者觊觎的主要目标。维基揭秘网一直处在近年几起最严重的大数据泄密事件的中心。正如我们从英国离岸金融业大规模数据泄露事件中看到的,与其他所有人一样,世界上最富有的1%人口的个人信息也极易遭到公开。

5.“大数据是科学的未来”

部分正确,但它还需要一些成长。大数据为科学提供了新的途径。我们只需看一下希格斯玻色子的发现,它是历史上最大规模网格计算项目的产物。在该项目中,欧洲核子研究中心利用Hadoop分布式文件系统对所有数据进行管理。但是除非我们认识到并着手解决大数据在反映人类生活方面的某些内在不足,否则我们可能会依据错误的成见作出重大的公共政策和商业决定。

为了解决这个问题,数据科学家正在开始与社会科学家协作。随着时间的推移,这将意味着找到把大数据策略和小数据研究相结合的新途径。这将远远超越广告业或市场营销业采用的做法,如中心小组或A/B测试(即向用户展示两个版本的设计或结果,以确定哪一个版本的效果更好)。

确切地说,新的混合式方法将会询问人们做某些事情的原因,而不只是统计某件事情发生的频率。这意味着在信息检索和机器学习之外,还将利用社会学分析和关于人种学的深刻认识。

技术企业很早就意识到社会科学家可以帮助它们更加深刻地认识人们与其产品发生关系的方式和原因,如施乐公司研究中心就曾聘请了具有开拓精神的人类学家露西?萨奇曼。下一阶段将是进一步丰富计算机科学家、统计学家及众多门类的社会科学家之间的协作———不仅是为了检验各自的研究成果,而且还要以更加严格的态度提出截然不同的各类问题。

考虑到每天有大量关于我们的信息———包括脸谱网点击情况、全球定位系统(GPS)数据、医疗处方和Netflix预订列表———被收集起来,我们迟早要决定把这样的信息托付给什么人,以及用它们来实现什么样的目的。

我们无法回避这样的事实,即数据绝不是中立的,它很难保持匿名。但是我们可以利用跨越不同领域的专业知识,从而更好地辨别偏见、缺陷和成见。

以上是小编为大家分享的关于深度分析大数据的革命前景的相关内容,更多信息可以关注环球青藤分享更多干货

阅读全文

与航运大数据革命一触即发相关的资料

热点内容
ps入门必备文件 浏览:348
以前的相亲网站怎么没有了 浏览:15
苹果6耳机听歌有滋滋声 浏览:768
怎么彻底删除linux文件 浏览:379
编程中字体的颜色是什么意思 浏览:534
网站关键词多少个字符 浏览:917
汇川am系列用什么编程 浏览:41
笔记本win10我的电脑在哪里打开摄像头 浏览:827
医院单位基本工资去哪个app查询 浏览:18
css源码应该用什么文件 浏览:915
编程ts是什么意思呢 浏览:509
c盘cad占用空间的文件 浏览:89
不锈钢大小头模具如何编程 浏览:972
什么格式的配置文件比较主流 浏览:984
增加目录word 浏览:5
提取不相邻两列数据如何做图表 浏览:45
r9s支持的网络制式 浏览:633
什么是提交事务的编程 浏览:237
win10打字卡住 浏览:774
linux普通用户关机 浏览:114

友情链接