Ⅰ 7.阿里大数据——大数据建模
数据模型就是数据组织和存储方法，它强调从业务、数据存取和使用角度合理存储数据。
适合业务和基础数据存储环境的模型，大数据能获得以下好处：
大数据系统需要数据模型方法来帮助更好的组织和存储数据，以便在性能、成本、效率和质量之间取得最佳平衡。
不管是Hadoop、Spark还是阿里巴巴集团的MaxCompute系统，仍然在大规模使用SQL进行数据的加工和处理，仍然在用Table存储数据，仍然在使用关系理论描述数据之间的关系，只是在大数据领域，基于其数据存取的特点在关系数据模型的范式上有了不同的选择而已。
从全企业的高度设计一个3NF模型，用实体关系（Entity Relationship，ER）模型描述企业业务，在范式理论上符合3NF。数据仓库中的3NF与OLTP中不同过，有以下特点：
ER模型建设数据仓库的出发点是整合数据，为数据分析决策服务。建模步骤分为三个阶段：
维度建模从分析决策的需求出发构建模型，为分析需求服务，因此它重点关注用户如何更快速地完成需求分析，同时具有较好的大规模复杂查询的响应性能。其典型代表事星形模型，以及在一些特殊场景下使用的雪花模型。其设计步骤如下：
它是ER模型的衍生，其设计的出发点也是为了实现数据的整合，但不能直接用于数据分析决策。它强调建立一个可审计的基础数据层，也就是强调数据的历史性、可追溯性和原子性，而不要求对数据进行过度的一致性处理和整合。该模型由一下几部分组成：
Anchor对Data Vault模型做了进一步规范化处理，设计的初衷是一个高度可扩展的模型，其核心思想是所有的扩展只是添加而不是修改，因此将模型规范到6NF，基本变成了k-v结构化模型。组成如下：
经历了多个阶段：
Ⅱ 2022年淘宝售假排查时间怎么算
每年过年前的这段时间，都是淘宝网售假排查高峰期。
阿里的算法和排查逻辑并不是固定的，不要用固定的思维想去做避免。
排查售假基于阿里的大数据，如果说你的售假不撤销或者不处理，但是你的店铺还是在继续的卖类似的产品，那么主动防控的机制就会一直监视店铺，导致后续接二连三的排查你的链接售假，直到你的店铺关闭或者你不在卖类似的产品为止。
Ⅲ 阿里巴巴大数据将严重威胁国家安全吗
阿里巴巴大数据对个人隐私的威胁的确存在，但并不是没有解决的办法，即便担忧对国家安全产生威胁，也不必动辄高呼“国有化”。
阿里巴巴并不能掌握“各种战略资源的流转”，阿里的大数据本身就包含各种商品流转的数据，通过各种商品的流转很容易分析出国家各种资源的流转，由此绘制出中国各种战略资源的流转及节点图。显然，无论战时还是平时，这样一份战略资源的流转及节点图都可用作瓦解国家安全的导航图。
首先，虽然阿里巴巴在中国电商中占据主导地位，但据国家统计局和商务部数据显示，阿里巴巴还远未达到掌握绝大多数商品流转数据的程度。
更重要的是，阿里巴巴即便掌握商品流转的数据，距离分析出各种资源的流转也很远，更不要说在目前的占有规模下分析出“各种战略资源的流转”。
事实上，在今年稍早些时候，在药品领域，阿里巴巴曾面临过更具体的指责。南方周末报道称，按照国家食药总局的监管要求，中国各类药品从生产、流通、经营和消费等所有节点的全部信息，将会储存在“阿里云”上。当时就有人认为，阿里健康将就此“运用大数据的研究方法，分析药品电子监管码所蕴含的信息，能够绘制出国内的疾病发生的时间、地域、周期，进而掌握国人的健康情况；甚至还能通过药品流转，绘制出中国各种战略资源节点图。”
仅凭阿里巴巴掌握了很多电子商务数据，就认为这些数据有可能被制作成“瓦解国家安全的导航图”，是耸人听闻的说法。
大数据的能力不应该被过度夸大，声称“大数据威胁国家安全”的这篇文章，还一个说法是，“阿里巴巴的大数据和云计算简直就是有史以来最为强大的情报搜集和分析系统——通过其大数据和云计算，中国人的一举一动及行为偏好都可以尽在其掌握之中。”这种说法完全是过分虚夸了大数据的能力。
Ⅳ 阿里大数据营销存在哪些问题
问题有如下几点：
1、数据存在失真情况。数据的失真主要体现在两个方面：一方面，消费者在注册时可能会输入虚假的个人信息或者是一人使用多个账户、使用他人账户等，其在网络操作过程中产生的数据信息本身就不真实，另一方面，由于网络技术的发展和消费者的个性化需求促使阿里巴巴每隔一段时间就要进行网站维护与更新，在这个过程中，会有不少用户因为不熟悉新的界面而进行错误的操作，这些错误的操作信息也被阿里巴巴记录，造成数据库中真假信息混杂，严重影响了大数据的质量。
2、消费者的个人权益难以保障。直至目前，阿里巴巴仍没有提出有效预防用户信息泄露的方法或是用户信息泄露之后的维护方法。
3、大数据营销效果易出现两极化。用户在使用淘宝的过程中会将自己的手机号码、邮箱等联系方式提供给阿里巴巴，为了扩大经营，阿里巴巴会进一步分析数据库中的客户需求，针对不同的客户，通过短信、邮件等形式向客户推销产品，这在某些方面增加了客户，然而大多情况下这些信息会被消费者无视，更有甚者，会引起消费者的反感，因此，大数据营销的效果如何，仍存在极大的不确定性，效果难以预料。
Ⅳ 从IT到DT 阿里大数据背后的商业秘密
从IT到DT：阿里大数据背后的商业秘密
空气污染究竟在多大程度上影响了人们的网购行为？有多少比重的线上消费属于新增消费？为什么中国的“电商百佳县”中浙江有41个而广东只有4个？
这些电商的秘密就隐藏在阿里巴巴商业生态的“大数据”中。
“未来制造业的最大能源不是石油，而是数据。”阿里巴巴董事局主席马云如此形容“数据”的重要意义。
在他看来，阿里巴巴本质上是一家数据公司，做淘宝的目的是为了获得零售的数据和制造业的数据；做蚂蚁金服的目的是建立信用体系；做物流不是为了送包裹，而是这些数据合在一起，“电脑会比你更了解你”。与此同时，产业的发展也正在从IT时代走向以大数据技术为代表的DT时代。
而在阿里巴巴内部，由电子商务、互联网金融、电商物流、云计算与大数据等构成的阿里巴巴互联网商业生态圈，也正是阿里研究院所扎根的“土壤”。
具体而言，阿里巴巴平台的所有海量数据来自于数百万充满活力的小微企业、个人创业者以及数亿消费者，阿里研究院通过对他们的商务活动和消费行为等进行研究分析，从某种程度上可以反映出一个地方乃至宏观经济的结构和发展趋势。
而随着阿里巴巴生态体系的不断拓展和延伸，阿里巴巴的数据资源一定程度上将能够有效补充传统经济指标在衡量经济冷暖方面存在的滞后性，帮助政府更全面、及时、准确地掌握微观经济的运行情况。
从IT到DT
不同于一些企业以技术研究为导向的研究院，阿里研究院副院长宋斐告诉《第一财经日报》记者，阿里研究院定位于面向研究者和智库机构，主要的研究方向包括未来研究（如信息经济）、微观层面上的模式创新研究（如C2B模式、云端制组织模式）、中观层面上的产业互联网化研究（如电商物流、互联网金融、农村电商等）、宏观层面上新经济与传统经济的互动研究（如互联网与就业、消费、进出口等）、互联网治理研究（如网规、电商立法）等。
具体到数据领域，就是在阿里巴巴互联网商业生态基础上，从企业数据、就业数据、消费数据、商品数据和区域数据等入手，通过大数据挖掘和建模，开发若干数据产品与服务。
例如，将互联网数据与宏观经济统计标准对接的互联网经济数据统计标准，包括了中国城市分级标准；网络消费结构分类标准；网上商品与服务分类标准等。
而按经济主题划分的经济信息统计数据库则包括商品信息统计数据库；网购用户消费信息统计数据库；小企业与就业统计数据库；区域经济统计数据库。
还有反映电商经济发展的“晴雨表”——阿里巴巴互联网经济系列指数。其中包括反映网民消费意愿的阿里巴巴消费者信心指数aCCI、反映网购商品价格走势的阿里巴巴全网网购价格指数aSPI和固定篮子的网购核心价格指数aSPI-core、反映网店经营状态的阿里巴巴小企业活跃度指数aBAI、反映区域电子商务发展水平的阿里巴巴电子商务发展指数aEDI等等。其中，现有aSPI按月呈报给国家统计局。
而面向地方政府决策与分析部门的数据产品“阿里经济云图”，则将分阶段地推出地方经济总览、全景分析、监测预警以及知识服务等功能。宋斐告诉记者，其数据可覆盖全国各省、市、区县各级行政单位，地方政府用户经过授权后，可以通过阿里经济云图看到当地在阿里巴巴平台上产生的电子商务交易规模、结构特征及发展趋势。
“借助数据可视化和多维分析功能，用户可以对当地优势产业进行挖掘、对消费趋势与结构变动进行监测、与周边地区进行对比等等。”宋斐表示，该产品未来还可以提供API服务模式，以整合更多的宏观经济数据和社会公开数据，为当地经济全貌进行画像，给大数据时代的政府决策体系带来新的视角和工具。
数据会“说话”
对于如何利用“大数据”，马云在公司内部演讲中曾提到：“未来几年内，要把一切业务数据化，一切数据业务化。”
其中，后半句话可以理解为，让阿里巴巴各项业务所产生、积累的大数据来丰富阿里的生态，同时让生态蕴含的数据产生新的价值，再反哺生态，这是一个相辅相成的循环逻辑。
宋斐对记者举例称，蚂蚁金服旗下的芝麻信用已获得人民银行个人征信牌照批准筹备，未来将通过分析大量的网络交易及行为数据，如用户信用历史、行为偏好、履约能力、身份特质、人脉等信息，对用户进行信用评估，这些信用评估可以帮助互联网金融企业对用户的还款意愿及还款能力做出结论，继而为用户提供快速授信及现金分期服务。本质上来说，“芝麻信用”是一套征信系统，该系统收集来自政府、金融系统的数据，还会充分分析用户在淘宝、支付宝等平台的行为记录。
再如，对于如火如荼的农村电商领域，阿里研究院从2010年就已开始对“沙集模式”个案进行研究，后续一系列基于数据和案例调研所驱动的农村电商研究成果，对于地方政府科学决策，推动当地农村电子商务发展、创造就业和发展地方经济起到了助力作用。到2014年底，全国已经涌现了212个淘宝村，而阿里巴巴也在这一年启动千县万村计划,将在三至五年内投资100亿元,在农村建立起电子商务服务体系。
除了通过数据分析去助力业务外，宋斐告诉记者，有时候大数据报告可能会与传统的印象结论差异很大。
以区域电子商务为例，在阿里研究院发布的2014年中国电商百强县排行榜中，浙江有41个县入围，福建有16个，而广东只有4个，这个结果与传统的印象相差比较大。而事实上，这是因为浙江和广东两省电商发展在地理分布、产业结构等方面的明显不同而带来的。
再如，外界常常认为网络零售替代了线下零售，但事实上，麦肯锡《中国网络零售革命：线上购物助推经济增长》的研究报告，通过借鉴阿里研究中心（阿里研究院前身）和淘宝网UED用户研究团队的大量报告与数据，最后发现：“约60%的线上消费确实取代了线下零售；但剩余的40%则是如果没有网络零售就不会产生的新增消费。”
“这一研究成果，有助于社会各界准确认识网络零售与线下零售的关系，共同探索和建设良好的商业发展环境。”
Ⅵ BAT三巨头开始挖掘大数据
BAT三巨头开始挖掘大数据
阿里巴巴CTO即阿里云负责人王坚博士说过一句话：云计算和大数据，你们都理解错了。
实际上，对于大数据究竟是什么业界并无共识。大数据并不是什么新鲜事物。信息革命带来的除了信息的更高效地生产、流通和消费外，还带来数据的爆炸式增长。“引爆点”到来之后，人们发现原有的零散的对数据的利用造成了巨大的浪费。移动互联网浪潮下，数据产生速度前所未有地加快。人类达成共识开始系统性地对数据进行挖掘。这是大数据的初心。数据积累的同时，数据挖掘需要的计算理论、实时的数据收集和流通通道、数据挖掘过程需要使用的软硬件环境都在成熟。
概念、模式、理论很重要，但在最具实干精神的互联网领域，行动才是最好的答案。国内互联网三巨头BAT坐拥数据金矿，已陆续踏上了大数据掘金之路。
BAT都是大矿主，但矿山性质不同
数据如同蕴藏能量的煤矿。煤炭按照性质有焦煤、无烟煤、肥煤、贫煤等分类，而露天煤矿、深山煤矿的挖掘成本又不一样。与此类似，大数据并不在“大”，而在于“有用”。价值含量、挖掘成本比数量更为重要。
网络拥有两种类型的大数据：用户搜索表征的需求数据;爬虫和阿拉丁获取的公共web数据。
阿里巴巴拥有交易数据和信用数据。这两种数据更容易变现，挖掘出商业价值。除此之外阿里巴巴还通过投资等方式掌握了部分社交数据、移动数据。如微博和高德。
腾讯拥有用户关系数据和基于此产生的社交数据。这些数据可以分析人们的生活和行为,从里面挖掘出政治、社会、文化、商业、健康等领域的信息，甚至预测未来。
下面，就将三家公司的情况一一扫描与分析。
一、网络：含着数据出生且拥有挖掘技术，研究和实用结合
搜索巨头网络围绕数据而生。它对网页数据的爬取、网页内容的组织和解析，通过语义分析对搜索需求的精准理解进而从海量数据中找准结果，以及精准的搜索引擎关键字广告，实质上就是一个数据的获取、组织、分析和挖掘的过程。
除了网页外，网络还通过阿拉丁计划吸收第三方数据，通过业务手段与药监局等部门合作拿到封闭的数据。但是，尽管网络拥有核心技术和数据矿山，却还没有发挥出最大潜力。网络指数、网络统计等产品算是对数据挖掘的一些初级应用，与Google相比，网络在社交数据、实时数据的收集和由数据流通到数据挖掘转换上有很大潜力，还有很多事情要做。
2月底在北京出差时，写了一篇《搜索引擎的大数据时代》发在虎嗅。创造了零回复的记录。尽管如此，仍然没有打消我对搜索引擎在大数据时代深层次变革的思考。 搜索引擎在大数据时代面临的挑战有：更多的暗网数据;更多的WEB化但是没有结构化的数据;更多的WEB化、结构化但是封闭的数据。这几个挑战使得数据正在远离传统搜索引擎。不过，搜索引擎在大数据上毕竟具备技术沉淀以及优势。
接下来，网络会向企业提供更多的数据和数据服务。前期网络与宝洁、平安等公司合作，为其提供消费者行为分析和挖掘服务，通过数据结论指导企业推出产品，是一种典型的基于大数据的C2B模式。与此类似的还有Netflix的《纸牌屋》美剧，该剧的男主角凯文·史派西和导演大卫·芬奇都是通过对网络数据挖掘之后，根据受欢迎情况选中的。
网络还会利用大数据完成移动互联网进化。核心攻关技术便是深度学习。基于大数据的机器学习将改善多媒体搜索效果和智能搜索，如语音搜索、视觉搜索和自然语言搜索。这将催生移动互联网的革命性产品的出现。尽管网络已经出发，其在大数据上可做的事情还有很多。
在数据收集方面，网络需要聚合更多高价值的交易、社交和实时数据。例如加强自己贴吧知道的社交能力、尽快让地图服务与O2O结合进而掌握交易数据，以及推进移动App、穿戴式设备等数据收集系统。
在数据处理技术上，网络成立深度学习研究院加强自己在人工智能领域的探索，在多媒体和中文自然语言处理领域已经有一些进展;云存储、云计算的基础设施建设也在逐步完善。但深度学习仍然是一个巨大的挑战，网络等探索者还有很多待解问题，如：无监督式学习、立体图像识别。
在数据变现方面，网络需将数据挖掘能力、数据内容聚合和提取等形成标准化的服务和产品，进而开拓大数据领域的企业和开发者市场。而不仅仅是颇为个性化、定制化地为大型企业提供解决。
网络的优势体现在海量的数据、沉淀十多年的用户行为数据、自然语言处理能力和深度学习领域的前沿研究。在技术人才方面网络是聚集国内最多大数据相关领域顶尖人才的公司。听说网络前段时间花五千万挖了数据挖掘、自然语言处理、深度学习领域的十来位大牛，包括一些学者和教授。例如Facebook科学家徐伟。
在挖人上，舍得花钱不够，还得用心。对于真正的大牛来说，钱只是一个影响因素。能否实现自己的梦想，公司的资源能否帮助自己的研究至关重要。徐伟在回国前就曾问过其他从硅谷回国工程师的意见，得到答案是积极的，最终促成他作出决定。
总体来看，网络拥有大数据也具备大数据挖掘的能力，并且正在进行积极地准备和探索。在加强面向未来的研究和人才布局的同时，也注重实用性的技术产出。
二、腾讯：数据为产品所用，自产自销
微创新提出者金错刀有个关于腾讯的故事。 1999年腾讯公司刚刚成立不久，天使投资人刘晓松决定向其注资的一个主要原因就是因为他发现，“当时虽然他们的公司还很小,但已经有用户运营的理念,后台对于用户的每一个动作都有记录和分析。”而另一个投资人却因为马化腾在公司很小时就花钱在数据上表示不满。此后腾讯的产品生产及运营、腾讯游戏的崛起都离不开对数据的重视。
腾讯拥有社交大数据，在企鹅帝国完成数据的制造、流通、消费和挖掘。 腾讯大数据目前释放价值更多是改进产品。据腾讯Q1财报，增值服务占总收入的78.7%;电子商务业务占14.1%;网络广告收入占6.3%。从广告收入比例可以看出腾讯的大数据在精准营销领域暂时还未大量释放出价值。与其产品线对应的GMAIL、Google+的Google以及社交巨头Facebook则通过广告赚得盆满钵满。
在笔者看来，腾讯的思路主要是补齐产品，注重QZONE、微信、电商等产品的后端数据打通。例如最近腾讯微博利用“大数据技术”实现好友关系自动分组、低质量信息自动过滤、优质信息分类阅读等智能化功能。明显的用数据改进产品的思路。 那么如果腾讯要深入大数据挖掘缺少什么呢?笔者认为其只需马化腾“摁下启动按钮”。数据已经准备好了，就差模式，也就是找到需求或者能更深层次驱动大数据利用的产品，而不是用大数据改进自己的产品。腾讯还在观望，等其他人去试错验证出一套模式或者产品后，自己可以“站在巨人肩上”。这是腾讯的典型思维。
在人才方面，腾讯很早便开始重金挖人。尤其是2010年在Google宣布退出中国后，Google图片搜索创始人朱会灿、Google中国工程研究院副院长颜伟鹏、Google中日韩文搜索算法的主要设计者，《浪潮之巅》及《数学之美》作者吴军相继加入腾讯。搜搜花了很多钱，但被认定为一款无法承载腾讯重托的产品，最后这些大牛都走了。大都回Google了。
腾讯在大数据领域也缺少技术带头人。其对公关也不重视。技术大牛很少出来做报告，更不会向网络、阿里那样主动包装宣传技术大牛。其技术虽然低调，但执行力很强。据腾讯的程序员朋友说封闭开发、集体加班是常有的事情。但配套的重金激励也能跟上。重金之下必有勇夫、腾讯用制度保障技术产出。另外腾讯在高校合作领先一步，在2010年便与清华大学合作成立了清华腾讯联合实验室。这么看腾讯的技术人才这块似乎有短板。会不会到时候马化腾按下启动按钮，发现没数据挖掘能力呢?不会，腾讯搞不定数据挖掘，到时候依然可以挖到大牛，甚至读论文来搞定这事儿。数据挖掘已较为成熟。数据挖掘实际是数据库、统计学、机器学习三个领域的融合。在学术界已经发展多年。不过自然语言识别和深度学习等方面要赶上网络，就难了。除非将网络的数据和众大牛一起倒腾过来。
总体来看，腾讯目前的大数据策略是先将产品补全，产品后台数据打通，形成稳定生态圈。本阶段先利用大数据挖掘改进自己的产品。后期有成熟的模式合适的产品，则利用自家的社交及关系数据时，开展对大数据的进一步挖掘。
三、阿里巴巴：坐拥金数据，尝试做面向未来的数据集市
阿里巴巴B2B出身，在外贸蓬勃的大环境下，依靠服务中小企业发家。淘宝、支付宝等toC的产品出生前，阿里并不依赖也不擅长技术。业界普遍认为阿里没有技术基因。直到淘宝、支付宝以及天猫三个产品后，对海量用户大并发量交易、海量货架数据的管理、安全性等方面的严苛要求，阿里完成进化，在电商技术上取得不菲的成绩。在一段时期阿里仍然浪费了手里掌握的大量数据。这些数据还是“最值钱”的金数据。
数据挖掘无非是从原始数据提取价值。阿里现有的数据产品例如数据魔方、量词统计、推荐系统、排行榜以及时光倒流相对来说是比较简单的BI(商业智能)，没到大数据的阶段。“大数据”浪潮袭来，阿里提出“数据、金融和平台”战略。前所未有地重视起对数据的收集、挖掘和共享。马云在“退居”前动不动都对外提“数据”。有位阿里朋友甚至开玩笑说，马云英文名可以从Jack Ma改为Data Ma。阿里现CEO陆兆禧曾做过CDO，首席数据官。为了用数据来驱动阿里电商帝国，阿里还成立了横跨各大事业部的“数据委员会”。
阿里的各项投资案也显示其整合、利用和完善数据的野心：新浪微博的社交及媒体数据、高德的地图数据和线下数据以及友盟的移动应用数据，都是其数据及平台战略的一部分。数据战略正在首席人工智能官(CBO)车品觉领头下逐步落地，王坚的云为其提供基础设施、基础技术支撑。
就在马云退休之后，王坚对外透露其跟马云开玩笑说的一句话：阿里巴巴对数据的理解深度，不会超过苏宁对电子商务的理解。估计马云不一定认同他这话。马云对大数据已经有着自己的理解和考量。马云曾经说过其对大数据的思考。大致意思是：现在从信息时代进入数据时代了。区别是信息时代更多的是精英玩的游戏。我比别人聪明，我能提取出信息出来;数据时代，别人比我聪明，将数据开放给更聪明的人处理，数据即资产，分析即服务。
计算机发展的过程是从象牙塔、到平民到草根。大数据也是这样，一开始在象牙塔阶段，少数精英公司才能玩;但到后面只要有数据就有价值。数据也有所有权，产生数据、流通数据、挖掘数据的都会获得相应的价值。而阿里擅长的便是“建立市场”，建立一个数据交易市场。届时任何个人和企业都可以将数据和挖掘服务拿上去，交易。初期阿里会将自己珍藏的电商和信用数据逐步放到上面。 有数据的人，拿上去卖，或者让别人分析，分析即服务。没有数据的人，即可以去买，也可以去帮别人挖掘，做矿工。
阿里并不是技术驱动，而是业务驱动的。因此在技术层面我们看到，基于前面提到的阿里大数据思路，其技术重心主要在系统层面。阿里拥有LVS(Linux Virtual Server，Linux虚拟服务器)开源软件创始人章文嵩，Linux Kernal、文件系统、大牛DBA等领域的大牛。从人才布局可以看到阿里擅长的技术领域，体现在对于并发访问、电信级别的电商业务的支撑方面的得心应手。在去年双十一期间，支撑了单日过亿的订单量。铁道部奇葩网12306在日均40万时已经不行了。
总体来看，阿里更多是在搭建数据的流通、收集和分享的底层架构。自己并不擅长似乎也不会着重来做数据挖掘的活儿。而是将自己擅长的“交易”生意扩展到数据。让天下没有难做的“数据生意”。
总结一下
移动互联网浪潮下，现实世界正在加速数字化，每个人，每个物体、每件事情、每一个时间节点，都在向网上映射。空间和时间两个维度的联网，使得数字世界正在接近一步步模拟现实世界。历史、现在和未来都会映射到网上。对大数据的挖掘正是对世界的二次发现和感知。BAT三巨头已经出发。