阿里巴巴大数据的数据产品

⑴ 阿里巴巴运用大数据包括哪些

1. 大数据计算服务（MaxCompute，原ODPS）

2. Data IDE（原BASE）

3. 数据集成（原CDP云道）

4. 大数据基础服务包括 Maxcompute 分析型数据库等
   

5. 大数据分析于展现包括 Date V Quick BI 画像分析等
   

6. 大数据应用 包括 推荐引擎 企业图谱

⑵ 阿里研究院的数据产品

aSPI-core（alibaba Shopping Price Index-core 阿里巴巴网购核心商品价格指数）是固定篮子价格指数，其测度思路是选择一个具有代表性的产品篮子，考察在不同的时点和不同的价格结构下，购买该产品篮子的费用变化程度以代表价格水平的变化，即大多数国家编制CPI价格指数使用的理论框架。aSPI-core通过创新筛选算法圈定阿里零售平台上近100000种核心商品作为固定“篮子”，每月追踪该特定篮子内商品和服务所需价格变化，以体现网购市场价格相对于宏观经济的敏感性。
aSPI-core由十大分类指数构成，分别是食品、烟酒及用品、衣着、家庭设备及维修服务、医疗保健和个人用品、交通和通信、娱乐教育文化用品及服务、居住、办公用品及服务和爱好收藏投资十个大类。 以生活费用理论为基础的阿里巴巴全网网购价格指数 （aSPI，即alibaba Shopping Price Index），在理论上能克服固定篮子指数面临的这一缺陷。该价格指数衡量的是消费者获得效用不变条件下，产品相对价格变动引发消费数量上的替代效应，所带来的最小支出水平的变动。阿里巴巴全网网购价格指数（aSPI）正是建立在叶子类目每月加权成交均价基础上，采用链式指数算法，用以反映全网总体网购支出价格水平的变化。
aSPI与aSPI-core十大分类指数构成一致，具体分类占比按月变动，权重变化比aSPI-core更具有实时性。两者相辅相成，互为印证。 这是一款面向公众媒体，结合开放的国家统计数据、区域经济数据、电子商务行业数据以及阿里集团数据，围绕地图视角呈现的可视化在线交互产品。已上线的数据地图beta版本涵盖七大类数据，20余个指标，其中单指标彩色中国、交互趋势图等功能设计为广大业内人士和数据爱好者创造了极具趣味的探索环境，产品提供数据下载和分享，可在线对感兴趣的话题进行讨论。

⑶ 一文认识并读懂大数据

一文认识并读懂大数据

在写这篇文章之前，我发现身边很多IT人对于这些热门的新技术、新趋势往往趋之若鹜却又很难说的透彻，如果你问他大数据和你有什么关系？估计很少能 说出一二三来。究其原因，一是因为大家对新技术有着相同的原始渴求，至少知其然在聊天时不会显得很“土鳖”；二是在工作和生活环境中真正能参与实践大数据 的案例实在太少了，所以大家没有必要花时间去知其所以然。

我希望有些不一样，所以对该如何去认识大数据进行了一番思索，包括查阅了资料，翻阅了最新的专业书籍，但我并不想把那些零散的资料碎片或不同理解论述简单规整并堆积起来形成毫无价值的转述或评论，我很真诚的希望进入事物探寻本质。

如果你说大数据就是数据大，或者侃侃而谈4个V，也许很有深度的谈到BI或预测的价值，又或者拿Google和Amazon举例，技术流可能会聊起 Hadoop和Cloud Computing，不管对错，只是无法勾勒对大数据的整体认识，不说是片面，但至少有些管窥蠡测、隔衣瘙痒了。……也许，“解构”是最好的方法。

首先，我认为大数据就是互联网发展到现今阶段的一种表象或特征而已，没有必要神话它或对它保持敬畏之心，在以云计算为代表的技术创新大幕的衬托下，这些原本很难收集和使用的数据开始容易被利用起来了，通过各行各业的不断创新，大数据会逐步为人类创造更多的价值。

其次，想要系统的认知大数据，必须要全面而细致的分解它，我着手从三个层面来展开：

第一层面是理论，理论是认知的必经途径，也是被广泛认同和传播的基线。我会从大数据的特征定义理解行业对大数据 的整体描绘和定性；从对大数据价值的探讨来深入解析大数据的珍贵所在；从对大数据的现在和未来去洞悉大数据的发展趋势；从大数据隐私这个特别而重要的视角 审视人和数据之间的长久博弈。

第二层面是技术，技术是大数据价值体现的手段和前进的基石。我将分别从云计算、分布式处理技术、存储技术和感知技术的发展来说明大数据从采集、处理、存储到形成结果的整个过程。

第三层面是实践，实践是大数据的最终价值体现。我将分别从互联网的大数据，政府的大数据，企业的大数据和个人的大数据四个方面来描绘大数据已经展现的美好景象及即将实现的蓝图。

最早提出大数据时代到来的是麦肯锡：“数据，已经渗透到当今每一个行业和业务职能领域，成为重要的生产因素。人们对于海量数据的挖掘和运用，预示着新一波生产率增长和消费者盈余浪潮的到来。”

业界（IBM 最早定义）将大数据的特征归纳为4个“V”（量Volume，多样Variety，价值Value，速Velocity），或者说特点有四个层面：第一， 数据体量巨大。大数据的起始计量单位至少是P（1000个T）、E（100万个T）或Z（10亿个T）；第二，数据类型繁多。比如，网络日志、视频、图 片、地理位置信息等等。第三，价值密度低，商业价值高。第四，处理速度快。最后这一点也是和传统的数据挖掘技术有着本质的不同。

其实这些V并不能真正说清楚大数据的所有特征，下面这张图对大数据的一些相关特性做出了有效的说明。

古语云：三分技术，七分数据，得数据者得天下。先不论谁说的，但是这 句话的正确性已经不用去论证了。维克托·迈尔-舍恩伯格在《大数据时代》一书中举了百般例证，都是为了说明一个道理：在大数据时代已经到来的时候要用大数 据思维去发掘大数据的潜在价值。书中，作者提及最多的是Google如何利用人们的搜索记录挖掘数据二次利用价值，比如预测某地流感爆发的趋 势；Amazon如何利用用户的购买和浏览历史数据进行有针对性的书籍购买推荐，以此有效提升销售量；Farecast如何利用过去十年所有的航线机票价 格打折数据，来预测用户购买机票的时机是否合适。

那么，什么是大数据思维？维克托·迈尔-舍恩伯格认为，1-需要全部数据样本而不是抽样；2-关注效率而不是精确度；3-关注相关性而不是因果关系。

阿里巴巴的王坚对于大数据也有一些独特的见解，比如，

“今天的数据不是大，真正有意思的是数据变得在线了，这个恰恰是互联网的特点。”

“非互联网时期的产品，功能一定是它的价值，今天互联网的产品，数据一定是它的价值。”

“你千万不要想着拿数据去改进一个业务，这不是大数据。你一定是去做了一件以前做不了的事情。”

特别是最后一点，我是非常认同的，大数据的真正价值在于创造，在于填补无数个还未实现过的空白。

有人把数据比喻为蕴藏能量的煤矿。煤炭按照性质有焦煤、无烟煤、肥煤、贫煤等分类，而露天煤矿、深山煤矿的挖掘成本又不一样。与此类似，大数据并不在“大”，而在于“有用”。价值含量、挖掘成本比数量更为重要。

大数据是什么？投资者眼里是金光闪闪的两个字：资产。比如，Facebook上市时，评估机构评定的有效资产中大部分都是其社交网站上的数据。

如果把大数据比作一种产业，那么这种产业实现盈利的关键，在于提高对数据的“加工能力”，通过“加工”实现数据的“增值”。

Target 超市以20多种怀孕期间孕妇可能会购买的商品为基础，将所有用户的购买记录作为数据来源，通过构建模型分析购买者的行为相关性，能准确的推断出孕妇的具体临盆时间，这样Target的销售部门就可以有针对的在每个怀孕顾客的不同阶段寄送相应的产品优惠卷。

Target的例子是一个很典型的案例，这样印证了维克托·迈尔-舍恩伯格提过的一个很有指导意义的观点：通过找出一个关联物并监控它，就可以预测 未来。Target通过监测购买者购买商品的时间和品种来准确预测顾客的孕期，这就是对数据的二次利用的典型案例。如果，我们通过采集驾驶员手机的GPS 数据，就可以分析出当前哪些道路正在堵车，并可以及时发布道路交通提醒；通过采集汽车的GPS位置数据，就可以分析城市的哪些区域停车较多，这也代表该区 域有着较为活跃的人群，这些分析数据适合卖给广告投放商。

不管大数据的核心价值是不是预测，但是基于大数据形成决策的模式已经为不少的企业带来了盈利和声誉。

从大数据的价值链条来分析，存在三种模式：

1- 手握大数据，但是没有利用好；比较典型的是金融机构，电信行业，政府机构等。

2- 没有数据，但是知道如何帮助有数据的人利用它；比较典型的是IT咨询和服务企业，比如，埃森哲，IBM，Oracle等。

3- 既有数据，又有大数据思维；比较典型的是Google，Amazon，Mastercard等。

未来在大数据领域最具有价值的是两种事物：1-拥有大数据思维的人，这种人可以将大数据的潜在价值转化为实际利益；2-还未有被大数据触及过的业务领域。这些是还未被挖掘的油井，金矿，是所谓的蓝海。

Wal-Mart作为零售行业的巨头，他们的分析人员会对每个阶段的销售记录进行了全面的分析，有一次他们无意中发现虽不相关但很有价值的数据，在 美国的飓风来临季节，超市的蛋挞和抵御飓风物品竟然销量都有大幅增加，于是他们做了一个明智决策，就是将蛋挞的销售位置移到了飓风物品销售区域旁边，看起 来是为了方便用户挑选，但是没有想到蛋挞的销量因此又提高了很多。

还有一个有趣的例子，1948年辽沈战役期间，司令员林彪要求每天要进行例常的“每日军情汇报”，由值班参谋读出下属各个纵队、师、团用电台报告的 当日战况和缴获情况。那几乎是重复着千篇一律枯燥无味的数据：每支部队歼敌多少、俘虏多少;缴获的火炮、车辆多少，枪支、物资多少……有一天，参谋照例汇 报当日的战况，林彪突然打断他：“刚才念的在胡家窝棚那个战斗的缴获，你们听到了吗?”大家都很茫然，因为如此战斗每天都有几十起，不都是差不多一模一样 的枯燥数字吗?林彪扫视一周，见无人回答，便接连问了三句：“为什么那里缴获的短枪与长枪的比例比其它战斗略高?”“为什么那里缴获和击毁的小车与大车的 比例比其它战斗略高?”“为什么在那里俘虏和击毙的军官与士兵的比例比其它战斗略高?”林彪司令员大步走向挂满军用地图的墙壁，指着地图上的那个点说： “我猜想，不，我断定!敌人的指挥所就在这里!”果然，部队很快就抓住了敌方的指挥官廖耀湘，并取得这场重要战役的胜利。

这些例子真实的反映在各行各业，探求数据价值取决于把握数据的人，关键是人的数据思维；与其说是大数据创造了价值，不如说是大数据思维触发了新的价值增长。

以上是小编为大家分享的关于一文认识并读懂大数据的相关内容，更多信息可以关注环球青藤分享更多干货

⑷ 阿里云的主要产品

阿里云的产品致力于提升运维效率，降低IT成本，令使用者更专注于核心业务发展。
云服务器ECS
一种简单高效，处理能力可弹性伸缩的计算服务。助您快速构建更稳定、安全的应用。提升运维效率，降低IT成本，使您更专注于核心业务创新。

云引擎ACE
一种弹性、分布式的应用托管环境，支持Java、PHP、Python、Node.js等多种语言环境。帮助开发者快速开发和部署服务端应用程序，并简化系统维护工作。搭载了丰富的分布式扩展服务，为应用程序提供强大助力。
弹性伸缩
根据用户的业务需求和策略，自动调整其弹性计算资源的管理服务。其能够在业务增长时自动增加ECS实例，并在业务下降时自动减少ECS实例。
一种即开即用、稳定可靠、可弹性伸缩的在线数据库服务。基于飞天分布式系统和高性能存储，RDS支持MySQL、SQL Server、PostgreSQL和PPAS（高度兼容Oracle)引擎，并且提供了容灾、备份、恢复、监控、迁移等方面的全套解决方案。
开放结构化数据服务OTS
构建在阿里云飞天分布式系统之上的 NoSQL数据库服务，提供海量结构化数据的存储和实时访问。OTS 以实例和表的形式组织数据，通过数据分片和负载均衡技术，实现规模上的无缝扩展。应用通过调用 OTS API / SDK 或者操作管理控制台来使用 OTS 服务。
开放缓存服务OCS
在线缓存服务，为热点数据的访问提供高速响应。
键值存储KVStore for Redis
兼容开源Redis协议的Key-Value类型在线存储服务。KVStore支持字符串、链表、集合、有序集合、哈希表等多种数据类型，及事务（Transactions）、消息订阅与发布（Pub/Sub）等高级功能。通过内存+硬盘的存储方式，KVStore在提供高速数据读写能力的同时满足数据持久化需求。
数据传输
支持以数据库为核心的结构化存储产品之间的数据传输。 它是一种集数据迁移、数据订阅及数据实时同步于一体的数据传输服务。 数据传输的底层数据流基础设施为阿里双11异地双活基础架构， 为数千下游应用提供实时数据流，已在线上稳定运行3年之久。
对象存储OSS
阿里云对外提供的海量、安全和高可靠的云存储服务。RESTFul API的平台无关性，容量和处理能力的弹性扩展，按实际容量付费真正使您专注于核心业务。
归档存储
作为阿里云数据存储产品体系的重要组成部分，致力于提供低成本、高可靠的数据归档服务，适合于海量数据的长期归档、备份。
消息服务
一种高效、可靠、安全、便捷、可弹性扩展的分布式消息与通知服务。消息服务能够帮助应用开发者在他们应用的分布式组件上自由的传递数据，构建松耦合系统。
CDN
内容分发网络将源站内容分发至全国所有的节点，缩短用户查看对象的延迟，提高用户访问网站的响应速度与网站的可用性，解决网络带宽小、用户访问量大、网点分布不均等问题。 负载均衡
对多台云服务器进行流量分发的负载均衡服务。负载均衡可以通过流量分发扩展应用系统对外的服务能力，通过消除单点故障提升应用系统的可用性。
专有网络VPC
帮助基于阿里云构建出一个隔离的网络环境。可以完全掌控自己的虚拟网络，包括选择自有 IP 地址范围、划分网段、配置路由表和网关等。也可以通过专线/VPN等连接方式将VPC与传统数据中心组成一个按需定制的网络环境，实现应用的平滑迁移上云。

开放数据处理服务ODPS
由阿里云自主研发，提供针对TB/PB级数据、实时性要求不高的分布式处理能力，应用于数据分析、挖掘、商业智能等领域。阿里巴巴的离线数据业务都运行在ODPS上。
采云间DPC
基于开放数据处理服务（ODPS）的DW/BI的工具解决方案。DPC提供全链路的易于上手的数据处理工具，包括ODPS IDE、任务调度、数据分析、报表制作和元数据管理等，可以大大降低用户在数据仓库和商业智能上的实施成本，加快实施进度。天弘基金、高德地图的数据团队基于DPC完成他们的大数据处理需求。
批量计算
一种适用于大规模并行批处理作业的分布式云服务。批量计算可支持海量作业并发规模，系统自动完成资源管理，作业调度和数据加载，并按实际使用量计费。批量计算广泛应用于电影动画渲染，生物数据分析，多媒体转码，金融保险分析等领域。
数据集成
阿里集团对外提供的稳定高效、弹性伸缩的数据同步平台，为阿里云大数据计算引擎(包括ODPS、分析型数据库、OSPS)提供离线(批量)、实时(流式)的数据进出通道。
DDoS防护服务
针对阿里云服务器在遭受大流量的DDoS攻击后导致服务不可用的情况下，推出的付费增值服务，用户可以通过配置高防IP，将攻击流量引流到高防IP，确保源站的稳定可靠。免费为阿里云上客户提供最高5G的DDoS防护能力。
安骑士
阿里云推出的一款免费云服务器安全管理软件，主要提供木马文件查杀、防密码暴力破解、高危漏洞修复等安全防护功能。
阿里绿网
基于深度学习技术及阿里巴巴多年的海量数据支撑， 提供多样化的内容识别服务，能有效帮助用户降低违规风险。
安全网络
一款集安全、加速和个性化负载均衡为一体的网络接入产品。用户通过接入安全网络，可以缓解业务被各种网络攻击造成的影响，提供就近访问的动态加速功能。
DDoS高防IP
针对互联网服务器（包括非阿里云主机）在遭受大流量的DDoS攻击后导致服务不可用的情况下，推出的付费增值服务，用户可以通过配置高防IP，将攻击流量引流到高防IP，确保源站的稳定可靠。
网络安全专家服务
在云盾DDoS高防IP服务的基础上，推出的安全代维托管服务。该服务由阿里云云盾的DDoS专家团队，为企业客户提供私家定制的DDoS防护策略优化、重大活动保障、人工值守等服务，让企业客户在日益严重的DDoS攻击下高枕无忧。
服务器安全托管
为云服务器提供定制化的安全防护策略、木马文件检测和高危漏洞检测与修复工作。当发生安全事件时，阿里云安全团队提供安全事件分析、响应，并进行系统防护策略的优化。
渗透测试服务
针对用户的网站或业务系统，通过模拟黑客攻击的方式，进行专业性的入侵尝试，评估出重大安全漏洞或隐患的增值服务。
态势感知
专为企业安全运维团队打造，结合云主机和全网的威胁情报，利用机器学习，进行安全大数据分析的威胁检测平台。可让客户全面、快速、准确地感知过去、现在、未来的安全威胁。
云监控
一个开放性的监控平台，可实时监控您的站点和服务器，并提供多种告警方式（短信，旺旺，邮件）以保证及时预警，为您的站点和服务器的正常运行保驾护航。
访问控制
一个稳定可靠的集中式访问控制服务。您可以通过访问控制将阿里云资源的访问及管理权限分配给您的企业成员或合作伙伴。 日志服务
针对日志收集、存储、查询和分析的服务。日志服务可收集云服务和应用程序生成的日志数据并编制索引，提供实时查询海量日志的能力。
开放搜索
解决用户结构化数据搜索需求的托管服务，支持数据结构、搜索排序、数据处理自由定制。 开放搜索为您的网站或应用程序提供简单、低成本、稳定、高效的搜索解决方案。
媒体转码
为多媒体数据提供的转码计算服务。它以经济、弹性和高可扩展的音视频转换方法，将多媒体数据转码成适合在PC、TV以及移动终端上播放的格式。
性能测试
全球领先的SaaS性能测试平台，具有强大的分布式压测能力，可模拟海量用户真实的业务场景，让应用性能问题无所遁形。性能测试包含两个版本，Lite版适合于业务场景简单的系统，免费使用；企业版适合于承受大规模压力的系统，同时每月提供免费额度，可以满足大部分企业客户。
移动数据分析
一款移动App数据统计分析产品，提供通用的多维度用户行为分析，支持日志自主分析，助力移动开发者实现基于大数据技术的精细化运营、提升产品质量和体验、增强用户黏性。 阿里云旗下万网域名，连续19年蝉联域名市场NO.1，近1000万个域名在万网注册！除域名外，提供云服务器、云虚拟主机、企业邮箱、建站市场、云解析等服务。2015年7月，阿里云官网与万网网站合二为一，万网旗下的域名、云虚拟主机、企业邮箱和建站市场等业务深度整合到阿里云官网，用户可以网站上完成网络创业的第一步。

⑸ 转载：阿里巴巴为什么选择Apache Flink

本文主要整理自阿里巴巴计算平台事业部资深技术专家莫问在云栖大会的演讲。

合抱之木，生于毫末

随着人工智能时代的降临，数据量的爆发，在典型的大数据的业务场景下数据业务最通用的做法是：选用批处理的技术处理全量数据，采用流式计算处理实时增量数据。在绝大多数的业务场景之下，用户的业务逻辑在批处理和流处理之中往往是相同的。但是，用户用于批处理和流处理的两套计算引擎是不同的。

因此，用户通常需要写两套代码。毫无疑问，这带来了一些额外的负担和成本。阿里巴巴的商品数据处理就经常需要面对增量和全量两套不同的业务流程问题，所以阿里就在想，我们能不能有一套统一的大数据引擎技术，用户只需要根据自己的业务逻辑开发一套代码。这样在各种不同的场景下，不管是全量数据还是增量数据，亦或者实时处理，一套方案即可全部支持， 这就是阿里选择Flink的背景和初衷 。

目前开源大数据计算引擎有很多选择，流计算如Storm,Samza,Flink,Kafka Stream等，批处理如Spark,Hive,Pig,Flink等。而同时支持流处理和批处理的计算引擎，只有两种选择：一个是Apache Spark，一个是Apache Flink。

从技术，生态等各方面的综合考虑。首先，Spark的技术理念是基于批来模拟流的计算。而Flink则完全相反，它采用的是基于流计算来模拟批计算。

从技术发展方向看，用批来模拟流有一圆轮定的技术局限性，并且这个局限性可能很难突破。而Flink基于流来模拟批，在技术上有更好的扩展性。从长远来看，阿里决定用Flink做一个统一的、通用的大数据引擎作为未来的选型。

Flink是一个低延迟、高吞吐、统一的大数据计算引擎。在阿里巴巴的生产环境中，Flink的计算平台可以实现毫秒级的延迟情况下，每秒钟处理上亿次的消息或者事件。同时Flink提供了一个Exactly-once的一致性语义。保证了数据的正确性。这样就使得Flink大数据引擎可以提供金融级的数据处理能力橘仿信。

Flink在阿里的现状

基于Apache Flink在阿里巴巴搭建的平台于2016年正式上线，并从阿里巴巴的搜索和推荐这两大场景开始实现。目前阿里巴巴所有的业务，包括阿里巴巴所有子公司都采用了基于Flink搭建的实时计算平台。同时Flink计算平台运行在开源的Hadoop集群之上。采用Hadoop的YARN做为资源管理调度，以 HDFS作为数据存储。因此，Flink可以和开源大数据软件Hadoop无缝对接。

目前，这套基于Flink搭建的实时计算平台不仅服务于阿里巴巴集团内部，而且通过阿里云的云产品API向整个开发者生态提供基于Flink的云产品支持。

Flink在阿里巴巴的大规模应用，表现如何？

规模： 一个系统是否成熟，规模是重要指标，Flink最初上线阿里巴巴只有数百台服务器，目前规模已达上万台，此等规模在全球范围内也是屈指可数；

状态数据： 基于Flink，内部积累起来的状态数据已经是PB级别规模；

Events： 如今每天在Flink的计算平台上，处理的数据已经超过万亿条；

PS： 在峰值期间可以承担每秒超过4.72亿次的访问，最典型的应用场景是阿里巴巴双11大屏；

Flink的发展之路

接下来从开源技术的角度，来谈一谈Apache Flink是如何诞生的，它是如何成长的大帆？以及在成长的这个关键的时间点阿里是如何进入的？并对它做出了那些贡献和支持？

Flink诞生于欧洲的一个大数据研究项目StratoSphere。该项目是柏林工业大学的一个研究性项目。早期，Flink是做Batch计算的，但是在2014年，StratoSphere里面的核心成员孵化出Flink，同年将Flink捐赠Apache，并在后来成为Apache的顶级大数据项目，同时Flink计算的主流方向被定位为Streaming，即用流式计算来做所有大数据的计算，这就是Flink技术诞生的背景。

2014年Flink作为主攻流计算的大数据引擎开始在开源大数据行业内崭露头角。区别于Storm,Spark Streaming以及其他流式计算引擎的是：它不仅是一个高吞吐、低延迟的计算引擎，同时还提供很多高级的功能。比如它提供了有状态的计算，支持状态管理，支持强一致性的数据语义以及支持Event Time,WaterMark对消息乱序的处理。

Flink核心概念以及基本理念

Flink最区别于其他流计算引擎的，其实就是状态管理。

什么是状态？例如开发一套流计算的系统或者任务做数据处理，可能经常要对数据进行统计，如Sum,Count,Min,Max,这些值是需要存储的。因为要不断更新，这些值或者变量就可以理解为一种状态。如果数据源是在读取Kafka,RocketMQ，可能要记录读取到什么位置，并记录Offset，这些Offset变量都是要计算的状态。

Flink提供了内置的状态管理，可以把这些状态存储在Flink内部，而不需要把它存储在外部系统。这样做的好处是第一降低了计算引擎对外部系统的依赖以及部署，使运维更加简单；第二，对性能带来了极大的提升：如果通过外部去访问，如Redis,HBase它一定是通过网络及RPC。如果通过Flink内部去访问，它只通过自身的进程去访问这些变量。同时Flink会定期将这些状态做Checkpoint持久化，把Checkpoint存储到一个分布式的持久化系统中，比如HDFS。这样的话，当Flink的任务出现任何故障时，它都会从最近的一次Checkpoint将整个流的状态进行恢复，然后继续运行它的流处理。对用户没有任何数据上的影响。

Flink是如何做到在Checkpoint恢复过程中没有任何数据的丢失和数据的冗余？来保证精准计算的？

这其中原因是Flink利用了一套非常经典的Chandy-Lamport算法，它的核心思想是把这个流计算看成一个流式的拓扑，定期从这个拓扑的头部Source点开始插入特殊的Barries，从上游开始不断的向下游广播这个Barries。每一个节点收到所有的Barries,会将State做一次Snapshot，当每个节点都做完Snapshot之后，整个拓扑就算完整的做完了一次Checkpoint。接下来不管出现任何故障，都会从最近的Checkpoint进行恢复。

Flink利用这套经典的算法，保证了强一致性的语义。这也是Flink与其他无状态流计算引擎的核心区别。

下面介绍Flink是如何解决乱序问题的。比如星球大战的播放顺序，如果按照上映的时间观看，可能会发现故事在跳跃。

在流计算中，与这个例子是非常类似的。所有消息到来的时间，和它真正发生在源头，在线系统Log当中的时间是不一致的。在流处理当中，希望是按消息真正发生在源头的顺序进行处理，不希望是真正到达程序里的时间来处理。Flink提供了Event Time和WaterMark的一些先进技术来解决乱序的问题。使得用户可以有序的处理这个消息。这是Flink一个很重要的特点。

接下来要介绍的是Flink启动时的核心理念和核心概念，这是Flink发展的第一个阶段；第二个阶段时间是2015年和2017年，这个阶段也是Flink发展以及阿里巴巴介入的时间。故事源于2015年年中，我们在搜索事业部的一次调研。当时阿里有自己的批处理技术和流计算技术，有自研的，也有开源的。但是，为了思考下一代大数据引擎的方向以及未来趋势，我们做了很多新技术的调研。

结合大量调研结果，我们最后得出的结论是：解决通用大数据计算需求，批流融合的计算引擎，才是大数据技术的发展方向，并且最终我们选择了Flink。

但2015年的Flink还不够成熟，不管是规模还是稳定性尚未经历实践。最后我们决定在阿里内部建立一个Flink分支，对Flink做大量的修改和完善，让其适应阿里巴巴这种超大规模的业务场景。在这个过程当中，我们团队不仅对Flink在性能和稳定性上做出了很多改进和优化，同时在核心架构和功能上也进行了大量创新和改进，并将其贡献给社区，例如：Flink新的分布式架构，增量Checkpoint机制,基于Credit-based的网络流控机制和Streaming SQL等。

阿里巴巴对Flink社区的贡献

我们举两个设计案例，第一个是阿里巴巴重构了Flink的分布式架构，将Flink的Job调度和资源管理做了一个清晰的分层和解耦。这样做的首要好处是Flink可以原生的跑在各种不同的开源资源管理器上。经过这套分布式架构的改进，Flink可以原生地跑在Hadoop Yarn和Kubernetes这两个最常见的资源管理系统之上。同时将Flink的任务调度从集中式调度改为了分布式调度，这样Flink就可以支持更大规模的集群，以及得到更好的资源隔离。

另一个是实现了增量的Checkpoint机制，因为Flink提供了有状态的计算和定期的Checkpoint机制，如果内部的数据越来越多，不停地做Checkpoint,Checkpoint会越来越大，最后可能导致做不出来。提供了增量的Checkpoint后，Flink会自动地发现哪些数据是增量变化，哪些数据是被修改了。同时只将这些修改的数据进行持久化。这样Checkpoint不会随着时间的运行而越来越难做，整个系统的性能会非常地平稳，这也是我们贡献给社区的一个很重大的特性。

经过2015年到2017年对Flink Streaming的能力完善，Flink社区也逐渐成熟起来。Flink也成为在Streaming领域最主流的计算引擎。因为Flink最早期想做一个流批统一的大数据引擎，2018年已经启动这项工作，为了实现这个目标，阿里巴巴提出了新的统一API架构，统一SQL解决方案，同时流计算的各种功能得到完善后，我们认为批计算也需要各种各样的完善。无论在任务调度层，还是在数据Shuffle层，在容错性，易用性上，都需要完善很多工作。

篇幅原因，下面主要和大家分享两点：

● 统一 API Stack

● 统一 SQL方案

先来看下目前Flink API Stack的一个现状，调研过Flink或者使用过Flink的开发者应该知道。Flink有2套基础的API，一套是DataStream，一套是DataSet。DataStream API是针对流式处理的用户提供，DataSet API是针对批处理用户提供，但是这两套API的执行路径是完全不一样的，甚至需要生成不同的Task去执行。所以这跟得到统一的API是有冲突的，而且这个也是不完善的，不是最终的解法。在Runtime之上首先是要有一个批流统一融合的基础API层，我们希望可以统一API层。

因此，我们在新架构中将采用一个DAG（有限无环图）API，作为一个批流统一的API层。对于这个有限无环图，批计算和流计算不需要泾渭分明的表达出来。只需要让开发者在不同的节点，不同的边上定义不同的属性，来规划数据是流属性还是批属性。整个拓扑是可以融合批流统一的语义表达，整个计算无需区分是流计算还是批计算，只需要表达自己的需求。有了这套API后，Flink的API Stack将得到统一。

除了统一的基础API层和统一的API Stack外，同样在上层统一SQL的解决方案。流和批的SQL，可以认为流计算有数据源，批计算也有数据源，我们可以将这两种源都模拟成数据表。可以认为流数据的数据源是一张不断更新的数据表，对于批处理的数据源可以认为是一张相对静止的表，没有更新的数据表。整个数据处理可以当做SQL的一个Query，最终产生的结果也可以模拟成一个结果表。

对于流计算而言，它的结果表是一张不断更新的结果表。对于批处理而言，它的结果表是相当于一次更新完成的结果表。从整个SOL语义上表达，流和批是可以统一的。此外，不管是流式SQL，还是批处理SQL，都可以用同一个Query来表达复用。这样以来流批都可以用同一个Query优化或者解析。甚至很多流和批的算子都是可以复用的。

Flink的未来方向

首先，阿里巴巴还是要立足于Flink的本质，去做一个全能的统一大数据计算引擎。将它在生态和场景上进行落地。目前Flink已经是一个主流的流计算引擎，很多互联网公司已经达成了共识：Flink是大数据的未来，是最好的流计算引擎。下一步很重要的工作是让Flink在批计算上有所突破。在更多的场景下落地，成为一种主流的批计算引擎。然后进一步在流和批之间进行无缝的切换，流和批的界限越来越模糊。用Flink,在一个计算中，既可以有流计算，又可以有批计算。

第二个方向就是Flink的生态上有更多语言的支持，不仅仅是Java，Scala语言，甚至是机器学习下用的Python，Go语言。未来我们希望能用更多丰富的语言来开发Flink计算的任务，来描述计算逻辑，并和更多的生态进行对接。

最后不得不说AI，因为现在很多大数据计算的需求和数据量都是在支持很火爆的AI场景，所以在Flink流批生态完善的基础上，将继续往上走，完善上层Flink的Machine Learning算法库，同时Flink往上层也会向成熟的机器学习，深度学习去集成。比如可以做Tensorflow On Flink, 让大数据的ETL数据处理和机器学习的Feature计算和特征计算，训练的计算等进行集成，让开发者能够同时享受到多种生态给大家带来的好处。

⑹ 阿里巴巴拥有的是什么数据

阿里巴巴拥有的是交易数据和信用数据。大数轮链据的来源有交易数据、人为数据禅渗、贺桐脊机器和传感器数据，其中阿里巴巴拥有的是交易数据和信用数据，这两种数据更容易变现，挖掘出商业价值。除此之外阿里巴巴还通过投资等方式掌握了部分社交数据、移动数据。如微博和高德。

⑺ 企业为什么要做数据中台

数据中台在国内最成功的搭建就是阿里巴巴的"小前台、大中台"战略，而其数据中台架构为阿里业务带来的效果也是显而易见的。

不光阿里的业务竞争对手腾讯、网易认可并推出自己的构想，很多上市公司都提出了数据中台的建设构想，依靠数据重塑业务链条。

与大型头部互联网公司的投资盛况相对的，市场也出现了不少唱衰的声音，存在"烂尾"、"无效"等问题。

"你说我们要不要做个数据中台？"

总是会有这样的提问出现，而发问的往往都是手握大型项目的高管们。可实际上，能提出这个问题的，又多数是看着别人做了中台，自己也想要跟风做一个，赶上趋势，结果却是"上中台，人下台"。

阿里巴巴董事长兼CEO张勇在湖畔大学分享时也说：如果一个企业奔着中台做中台，就是死。

那么，企业到底需不需要建设数据中台？要建什么样的？要怎么建？

数据中台能解决的问题

要想知道数据中台到底该不该推进，首先要知道数据中台到底能够解决什么问题。

• 数据的收集和管理

实现对数据的收集、整理、归纳，对多样的数据源进行合并和完善。

• 数据的提炼和分析

通过对数据加工处理，保证业务部门在需要特定数据的时候，直接提供相对应数据信息。

• 数据的利用和升值

实现数据的二次开发利用，转化为对企业业务发展有益的有效信息，提高数据的利用率。

其实可以很明显的看出，数据中台在帮助企业转型升级上，效果是显著的。

那与数据中台类似的数据湖也好，数据平台也好，在过去都没有像数据中台这么热门，业务部门又为什么这么热衷于数据中台？

还是从数据中台所能解决的问题上能够看出来，让数据更灵活更快速地服务于各项业务，是数据中台的建设宗旨。

能结合具体业务场景的数据中台，才是适合企业的

• 整合数据，业务数据化

强调业务数据的沉淀和收集，将业务相关环节实现以数据的形式存储，这也是业务数据化最起码、最直接的表现。

搭建"数据中台"后的企业实现与业务数据的强结合，既避免了重复无效操作，也提升了工作效率和数据共享能力，保证了数据的一致性。



结语

想要实现数据中台与企业具体业务场景的结合，就意味着不能依靠通用的搭建模板，定制化成了企业中台战略的一个重要议题。

中台服务公司的销售为了拿下客户，多半会夸大效果，什么都承诺，什么东西都有，一套中台模板"包治百病"。

数据中台的建设与数字化转型一样，其实也是一个螺旋上升的过程，不需要"稳定不变"，而往往需要不断根据业务具体情况，进行系统化的定制，并且依据世事变化的需求而完善。

可以说，任何一家承诺可以提供现成的数据中台，直接投入应用的服务商都是"大忽悠"。

企业"费尽心思"搭建的数据中台，必须要符合本身的业务取向和运作走向，百数打通企业个性化定制的数据中台之路。

据了解，截至2020年10月，已经涉及100多个行业的上10万家企业使用了其提供的定制化数据中台及其衍生服务。

更有价值的中台是符合具体业务的数据中台，而不是通用型的数据中台，而业务型数据中台的搭建，定制化没准真是一把钥匙。

⑻ 阿里云的MaxCompute数加（原ODPS）用的怎样

我觉得他们在开发这个的时候，可能考虑了很多中国的传统元素，所以在设计方面比较的符合中国的国情，不管是用户的体验方式还是怎样，都特别的能够拉好感。

但是从程序员的角度来说，我觉得它们的功能和模型做的也还是一般，虽然说在系统方面兼容性更好，但是缺点也还是蛮多的。

层次

之所以这样说，是因为他整个层次是非常丰富的，他很好的做了分层，也就是说，给不同的软件提供了不同的接入口，最底层是Linux+PC Server，上层软件是飞天，飞天是阿里云09年开始开发的一款分布式系统软件，主要提供分布式存储和分布式计算的调度、编程框架。开发语言是C++, 2013年该系统在生产环境支持调度5000台机器的集群。

• 总结
  

总的来说，他们开发的初衷是好的，但是出来的效果并不尽如人意，后续可能还要再看。

⑼ 阿里数据库运用范围

阿里数据库运用范围：大数据计算服务（MaxCompute，原ODPS），Data IDE（原BASE），数据集成（原CDP云道），大数据基础服务包括 Maxcompute 分析型数据库等。

无需用户自己考虑高可用、备份恢复等问题，而且阿里针对开源的数据库做了部分优化。另外提供一些诸如监控、告警、备份、恢复、调优的手段。就是减轻用户在业务无关方面的花销，花小钱省下力气聚焦在自己的业务上。

阿里数据库特性：

实例创建快速选择好需要的套餐后，RDS控制台会根据选择的套餐优化配置参数，短短几分钟一个可以使用的数据库实例就创建好了。

支持只读实例RDS只读实例面向对数据库有大量读请求而非大量写请求的读写场景，通过为标准实例创建多个RDS只读实例，赋予标准实例弹性的读能力扩展，从而增加用户的吞吐量。

故障自动切换主库发生不可预知的故障（如：硬件故障）时，RDS将自动切换该实例下的主库实例，恢复时间一般<5min。