如何创建数据仓库平台

『壹』 大数据工程师进行数据平台建设 有哪些方案

【导语】数据平台其实在企业发展的进程中都是存在的，在进入到数据爆发式增加的大数据时代，传统的企业级数据库，在数据管理应用上，并不能完全满意各项需求。就企业自身而言，需求更加契合需求的数据平台建设方案，那么大数据工程师进行数据平台建设，有哪些方案呢?下面就来细细了解一下吧。

1、敏捷型数据集市

数据集市也是常见的一种方案，底层的数据产品与分析层绑定，使得应用层可以直接对底层数据产品中的数据进行拖拽式分析。数据集市，主要的优势在于对业务数据进行简单的、快速的整合，实现敏捷建模，并且大幅提升数据的处理速度。

2、常规数据仓库

数据仓库的重点，是对数据进行整合，同时也是对业务逻辑的一个梳理。数据仓库虽然也可以打包成SAAS那种Cube一类的东西来提升数据的读取性能，但是数据仓库的作用，更多的是为了解决公司的业务问题。

3、Hadoop分布式系统架构

当然，大规模分布式系统架构，Hadoop依然站在不可代替的关键位置上。雅虎、Facebook、网络、淘宝等国内外大企，最初都是基于Hadoop来展开的。

Hadoop生态体系庞大，企业基于Hadoop所能实现的需求，也不仅限于数据分析，也包括机器学习、数据挖掘、实时系统等。企业搭建大数据系统平台，Hadoop的大数据处理能力、高可靠性、高容错性、开源性以及低成本，都使得它成为首选。

4、MPP(大规模并行处理)架构

进入大数据时代以来，传统的主机计算模式已经不能满足需求了，分布式存储和分布式计算才是王道。大家所熟悉的Hadoop
MapRece框架以及MPP计算框架，都是基于这一背景产生。

MPP架构的代表产品，就是Greenplum。Greenplum的数据库引擎是基于Postgresql的，并且通过Interconnnect神器实现了对同一个集群中多个Postgresql实例的高效协同和并行计算。

关于大数据工程师进行数据平台建设方案的有关内容，就给大家介绍到这里了，中国社会发展至今，大数据的应用正在逐渐普及，所以未来前景不可估量，希望想从事此行业的人员能够合理选择。

『贰』 请问数据仓库都用什么建立

1、首先你得搞清楚建设数仓的目的是什么

是偏向于整合各系统数据，为数据分析决策服务，还是偏向于快速的完成分析决策需求？

如果是前者，那么在数据仓库建模的时候一般会选择ER建模方法；

如果是后者，一般会选择维度建模方法。

• ER建模：即实体关系建模，由数据仓库之父BIll Inmon提出，核心思想是从全企业的高度去设计三范式模型，用实体关系描述企业服务。主张的是自上而下的架构，将不同的OLTP数据集中到面向主题的数据仓库中。

• 维度建模：由Kimball提出，核心思想是从分析决策的需求出发构建模型。这种模型由事实表和维表组成，即星型模型和雪花模型。Kimball倡导自下而上的架构，可以针对独立部门建立数据集市，再递增的构建，汇总成数据仓库。

2、其次你得进行深入的业务调研和数据调研

• 业务调研：深入的业务调研能使你更加明确数仓建设的目的；同时也利于后续的建模设计，随着调研的开展，如何将实体业务抽象为数仓模型会更加明朗。
  

• 数据调研：各部门或各科室的数据现状了解，包括数据分类、数据存储方式、数据量、具体的数据内容等等。这对后续的主数据串联或者维度一致性处理等等都是必须的基础。

3、然后是数据仓库工具选型

• 传统型数据仓库：一般会选择第三方厂家的数据库和配套ETL工具。因为有第三方支持，相对有保障；但缺点也很明显，受约束以及成本较高。
  

• NoSQL型数据仓库：一般是基于hadoop生态的数据仓库。hadoop生态已经非常强大，可以找到各种开源组件去支持数据仓库。缺点是需要招聘专门人士去摸索，并且相对会存在一些未知隐患。

4、最后是设计与实施

• 设计：包括数据架构中的数据层次划分以及具体的模型设计；也包括程序架构中的数据质量管理、元数据管理、调度管理等；
  

• 实施：规范化的项目管理实施，但同时也需记住一点，数据仓库不是一个项目，它是一个过程。

『叁』 如何设计、创建一个面向CRM的数据仓库

1 CRM系统

1.1 CRM简介

一个完整的CRM主要可分成3个部分：操作型CRM、协作型CRM和分析型CRM。操作型CRM是CRM中最基本的功能系统，它提供整个CRM的流程管理功能，主要是提供以客户为中心的市场、销售，服务与支持等业务流程的自动化。协作型CRM是以客户服务中心为主要表现形式，以计算机电话集成技术为核心，使客户可以通过电话、传真、E-mail、Web站点等方式更快捷、更有效地与企业进行交互。

分析型CRM是通过对操作型CRM、协作型CRM、其它企业应用系统和外部数据源中保存的与客户相关的数据的集成，建立以客户为中心的数据仓库，获得企业范围内客户数据的一致视图，并以集成后的客户数据为基础，通过查询与报表分析、OLAP分析和数据挖掘等手段获取关于客户的知识，为客户提供个性化的产品和服务，提高客户的满意度和忠诚度，实现客户终身价值的最大化。本文主要针对的是分析型CRM。

1.2在CRM中应用数据仓库的必然性

数据仓库是CRM的中心环节甚至是CRM的灵魂所在，它存储了企业内部和外部的各种数据，并将这些源数据整理成一致的、随时间变化的以及最大限度优化分析的客户信息库，通过OLAF分析和数据挖掘来发现大量客户信息中所隐藏的规律，为企业进行经营决策提供支持。另一方面，它将CRM的业务平台与分析平台进行了有效地分离，使得业务型数据库可以专注于事务处理，既提高了事务处理的效率又优化了分析处理的能力。

传统的企业事务处理系统部是各个部门根据自身事务处理的需要保留部分数据，而且各个模块之间的联系并不紧密，虽然客户的部分信息也能从这些系统中获取，但远远不能满足需要。例如，对于一个典型的以客户行为为目标的分析，通常需要更多的日常积累的、反映历史变化的数据才有可能进行有效地分析，然而在这一点上传统的教据库系统是很难做到的(不论是从数据的存储量还是从数据的整合来考虑)。因此，数据仓库的引入是必然的。

1.3分析型CRM的体系结构

将数据仓库技术引入到对客户信息的管理与组织上来，即建立一个面向CRM应用系统的客户信息数掘仓库，它实现了来自企业内部及外部的多种分割应用的客户信息的集成和统一，这正是分析型CRM的基本任务。如图1所示为分析型CRM的体系结构。其中，客户信息数据仓库是分析型CRM的核心，它的任务主要是从OLTP系统中抽取数据、把抽取出的数据进行统一的格式转换，将数据加载到数据仓库环境中(以上3步称为ETL，即extract，transform，load，抽取，转换，装载)，管理和维护数据仓库中的数据。最后，通过对这些数据的OLAP分析和数据挖掘，企业管理者可以得到许多有价值的信息，从而更好地为客户服务。

建立数据仓库时，这里采用的是一种可扩展的数据仓库体系结构，即中间层包括两种类型的数据库：一种是基本的包含多个主题的数据仓库；另一种足从属的针对某一主题的数据集市。如图1所示，这里根据数据仓库中的4个主题分别设计了4千数据集市。采用可扩展的体系结构，可以缩短数据仓库的建设周期，降低费用支出，并且避免了直接建立数据集市而不建立数据仓库所存在的扩展性较差、多个教据集市间难以保持同步的铗点。

2客户信息数据仓库的设计

设计客户信息数据仓库的第一步就是要确立主题。主题是一个抽象的概念，是在较高层次上将企业信息系统中的数据综合、归类并进行分析利用的对象。设计数据仓库首先要从操作型环境中的数据入手，结合决策支持的实际需要，确定数据仓库的主题。根据所涉及的分析型CRM的功能，该客户信息数据仓库包含了客户发展、客户购买、产品和市场营销4个主题。其中，客户购买主题主要是从不同的角度对客户的购买行为进行分析，如客户的购买行为同客户的背景信息之间的关联，其中背景信息主要包括客户的教育程度、收入水平、年龄、性别、是否已婚等。在客户信息数据仓库模型中，分3步来进行设计，分剧是概念模型、逻辑模型和物理模型设计。本文针对某网上书店，以客户购买主题为例，给出该客户信息数据仓库模型的完整的设计方案。

2.1概念模型设计

数据仓库设计中概念模型设计的目的是确定面向主题的信息包围。信息包图作为一种公共的、一致的和紧凑的概念模型设计工具，能够明确反映用户的需求以及实现该需求所需的各种要素及其之间的关系。信息包图由名称、维度、类别和度量组成，其中类别表述的是维的层次性。

该网上书店的客户信息数据仓库中客户购买主题信息包图如图2所示。其中，对于图书有3种分类方法，前两种较常见，还有一种是按图书存在形式分类，可分为普通图书、Vbook和Ebook。普通图书即传统纸制图书，Ebook指以计算机和网络为载体的电子图书，Vbook是一种新的多媒体演示、培训、商业交流的载体，具备音频和视频的功能，如各领域专家的讲座，教学考试类培训课程等。随着计算机的普及和网络的发展，Ebook和Vbook越来越受到读者的青睐。

2.2逻辑模型设计

数据仓库的逻辑模型一般有星型模型和雪花模型两种。星型模型是基于关系型数据库的、面向OLAP的一种多维数据模型的数据组织形式，它由事实表和多个维度表组成，通过使用一个包括主题的事实表和多个包含事实的非正规化描述的维度表来执行决策支持查询，从而获得比高度规范化设计结构更高的查询性能。

雪花模型虽然较星型模型更符合规范化的设计结构，但它增加了查询的复杂度，降低了查询的性能，因此，这里采用星型模型。

星型模型的建立要以概念模型中的信息包圈为基础，将信息包图转换为星型模型，具体方法为：将信息包图中的度量实体放入星型模型的中心位置上，信息包图中的维度实体放入度量实体的周边。该客户信息数据仓库中客户购买主题的逻辑模型。

2.3物理模型设计

物理模型是指教据在数据仓库中的存放形式和组织形式。设计物理模型，要在星型模型或雪花模型的基础上，确定事实表和维表的结构；明确二者的数据字段、数据类型、关联字段、索引结构；确定数据仓库中多维数据集的存储结构，如物理存取方式、数据存储结构、数据存放位置以厦存储分配是否分区等。进行物理模型设计时，应重点考虑的因素有I／O存取时间、空间利用率和维护代价。

目前大多数数据仓库都是建立在关系型数据库的基础上，基终数据的存储是由数据库系统进行管理的。在该数据仓库的设计中，选用MSSQLServer2000及其组件分析服务器来作为数据库和数据仓库的管理系统。数据仓库在逻辑上是多维的，但在物理存储上其多维数据集的存储方式可以有关系型联机分析处理(，ROLAP)，多维联机分析处理(，MOLAP)和混台联机分析处理(，HOLAP)3种方式。

在该数据仓库中，多维数据集的存储选择HOLAP方式，即基本数据保留在原有的关系数据库中，而聚合体则存储在分析服务器上的多维结构中，这样不仅可以避免数据重复，还能够提高查询性能(因为聚合体存储在多维数据集中)，仅在频繁访问详细数据时对性能影响较大。

3 实 现

针对该网上书店，此数据仓库的实施是以MSSQLServer2000平台为基础。通过SQLServer中的DTS服务，并辅以VBScript来实现将源数据导入数据仓库的ETL过程；通过AnalysisServices来建立多维数据集，实现OLAP操作，支持多维查询袁达式(multidimensionalexpression，MDX)查询，并通过自动构造MDX语句，实现上卷、下钻、切片、切块、旋转等OLAP运算。

该客户信息数据仓库共包含了客户发展、客户购买、产品和市场营销4个主题，对客户购买主题的OLAP分析示例。其中，用户可以从客户所在地区、年龄层、性别、婚姻状况，职业、年收入层、会员星级、图书一按内容分类、图书按出版社分类、图书一按存在形式分类及时间共11个维度，来分析客户购买数量、金额、成本、利润及平均单价这5个度量。

此外，利用AnalysisServices所提供的数据透视表服务，用户可以用VB或其它语言开发自己想要的前端数据展现程序，也可以直接利用现有工具，如MSOffice套件中的Excel、Access，来实现对多维数据集的数据展现功能，从而可以方便地得到各种统计报表和分析图形。利用Excel展现了对2005年不同年龄层的客户对不同种类图书的购买情况的利润分析。

『肆』 搭建大数据平台的具体步骤是什么

1、操作体系的挑选

操作体系一般使用开源版的RedHat、Centos或许Debian作为底层的构建渠道，要根据大数据渠道所要建立的数据剖析东西能够支撑的体系，正确的挑选操作体系的版本。

2、建立Hadoop集群

Hadoop作为一个开发和运行处理大规模数据的软件渠道，实现了在大量的廉价计算机组成的集群中对海量数据进行分布式计算。Hadoop结构中最核心的规划是HDFS和MapRece，HDFS是一个高度容错性的体系，合适布置在廉价的机器上，能够供给高吞吐量的数据访问，适用于那些有着超大数据集的应用程序;MapRece是一套能够从海量的数据中提取数据最终回来成果集的编程模型。在生产实践应用中，Hadoop非常合适应用于大数据存储和大数据的剖析应用，合适服务于几千台到几万台大的服务器的集群运行，支撑PB级别的存储容量。

3、挑选数据接入和预处理东西

面临各种来源的数据，数据接入便是将这些零散的数据整合在一起，归纳起来进行剖析。数据接入首要包括文件日志的接入、数据库日志的接入、关系型数据库的接入和应用程序等的接入，数据接入常用的东西有Flume，Logstash，NDC(网易数据运河体系)，sqoop等。

4、数据存储

除了Hadoop中已广泛应用于数据存储的HDFS，常用的还有分布式、面向列的开源数据库Hbase，HBase是一种key/value体系，布置在HDFS上，与Hadoop一样，HBase的目标首要是依靠横向扩展，通过不断的添加廉价的商用服务器，添加计算和存储才能。同时hadoop的资源管理器Yarn，能够为上层应用供给统一的资源管理和调度，为集群在利用率、资源统一等方面带来巨大的优点。

5、挑选数据挖掘东西

Hive能够将结构化的数据映射为一张数据库表，并供给HQL的查询功能，它是建立在Hadoop之上的数据仓库根底架构，是为了削减MapRece编写工作的批处理体系，它的出现能够让那些通晓SQL技术、可是不熟悉MapRece、编程才能较弱和不擅长Java的用户能够在HDFS大规模数据集上很好的利用SQL言语查询、汇总、剖析数据。

6、数据的可视化以及输出API

关于处理得到的数据能够对接主流的BI体系，比如国外的Tableau、Qlikview、PowrerBI等，国内的SmallBI和新兴的网易有数(可免费试用)等，将成果进行可视化，用于决策剖析;或许回流到线上，支撑线上业务的开展。

『伍』 企业如何更好的搭建数据仓库

0 引 言
随着计算机应用的深入，大量数据存储在计算机中，信息的存储、管理、使用和维护显得越来越重要，而传统的数据库管理系统很难满足其要求。为了解决大数据量、异构数据集成以及访问数据的响应速度问题，采用数据仓库技术，为最终用户处理所需的决策信息提供有效方法。
1 数据仓库
数据仓库是为管理人员进行决策提供支持的一种面向主题的、集成的、非易失的并随时间而变化的数据集合。数据仓库是一种作为决策支持系统和联机分析应用数据源的结构化数据环境。
从目前数据仓库的发展来讲，数据可以存放于不同类型的数据库中，数据仓库是将异种数据源在单个站点以统一的模型组织的存储，以支持管理决策。数据仓库技术包括数据清理、数据集成、联机分析处理（OLAP）和数据挖掘（DM）。OLAP是多维查询和分析工具，支持决策者围绕决策主题对数据进行多角度、多层次的分析。OLAP侧重于交互性、快速的响应速度及提供数据的多维视图，而DM则注重自动发现隐藏在数据中的模式和有用信息。OLAP的分析结果可以给DM提供分析信息，作为挖掘的依据；DM可以拓展OLAP分析的深度，可以发现OLAP所不能发现的更为复杂、细致的信息。OLAP是联机分析处理，DM是通过对数据库、数据仓库中的数据进行分析而获得知识的方法和技术，即通过建立模型来发现隐藏在组织机构数据库中的模式和关系。这两者结合起来可满足企业对数据整理和信息提取的要求，帮助企业高层做出决策。在欧美发达国家，以数据仓库为基础的在线分析处理和数据挖掘应用，首先在金融、保险、证券、电信等传统数据密集型行业取得成功。IBM、oracle、Teradata、Microsoft、Netezza和SAS等有实力的公司相继推出了数据仓库解决方案。
近几年开始流行“分布式数据仓库”，是在多个物理位置应用全局逻辑模型。数据被逻辑地分成多个域，但不同位置不会有重复的数据。这种分布式方法可以为不同的物理数据创建安全区域，或为全球不同时区的用户提供全天候的服务。此外，有由Kognitio发起数据仓库托管服务，即DBMS厂商为客户开发和运行数据仓库。这种最初出现在业务部门，业务部门购买托管服务，而不是使用企业内IT部门提供的数据仓库。
2 数据挖掘技术
数据挖掘（DataMining），又称数据库中的知识发现（KnoWledge Discoveryin Database，KDD），是指从大型数据库或数据仓库中提取隐含的、未知的、非平凡的及有潜在应用价值并最终可为用户理解的模式过程。它是数据库研究中的很有应用价值的新领域，是人工智能、机器学习、数理统计学和神经元网络等技术在特定的数据仓库领域中的应用。数据挖掘的核心模块技术历经数十年的发展，其中包括数理统计、人工智能、机器学习。从技术角度看，数据挖掘是从大量的、不完全的、有噪声的、模糊的、随机的实际数据中，提取隐含在其中的、人们所不知道的、但又是潜在有用的信息和知识的过程。从商业应用角度看，数据挖掘是崭新的商业信息处理技术，其主要特点是对商业数据库中的大量业务数据进行抽取、转化、分析和模式化处理，从中提取辅助商业决策的关键知识。
从技术角度讲，数据挖掘可应用于以下方面：
（1）关联规则发现是在给定的事物集合中发现满足一定条件的关联规则，简单来讲，就是挖掘出隐藏在数据间的相互关系，为业务主题提供指导。
（2）序列模式分析和关联规则发现相似，但其侧重点在于分析数据间的前后关系。模式是按时间有序的。序列模式发现是在与时间有关的事物数据库中发现满足用户给定的最小支持度域值的所有有序序列。
（3）分类分析与聚类分析，分类规则的挖掘实际上是根据分类模型从数据对象中发现共性，并把它们分成不同的类的过程。聚类时间是将d维空间的n个数据对象，划分到k个类中，使得一个类内的数据对象间的相似度高于其他类中数据对象。聚类分析可以发现没有类别标记的一组数据对象的特性，总结出一个类别的特征。
（4）自动趋势预测，数据挖掘能自动在大型数据库里面寻找潜在的预测信息。一个典型的利用数据挖掘进行预测的例子就是目标营销。数据挖掘工具可以根据过去邮件推销中的大量数据找出其中最有可能对将来的邮件推销作出反应的客户。
3 联机分析（OLAP）处理技术
联机分析（OLAP）是数据仓库实现为决策提供支持的重要工具，是共享多维信息，针对特定问题的联机数据访问和分析的快速软件技术。是使分析人员、管理人员或执行人员能够从多种角度对从原始数据中转化出来，能够真正为用户所理解，并真实反映企业维特性的信息进行快速、一致、交互地存取，从而获得对数据的更深入了解的一类软件技术（OLAP委员会的定义）。OLAP的特性包括：①快速性：系统应能在5s内对用户的大部分分析要求做出反应；②可分析性：能处理与应用有关的任何逻辑分析和统计分析；⑨多维性：多维性是OLAP的关键属性。系统必须提供对数据的多维视图和分析，包括对层次维和多重层次维的完全支持；④信息性：系统应能及时获得信息，并能管理大容量信息。
OLAP的数据结构是多维，目前存在方式：①超立方结构（Hypercube），指用三维或更多的维数来描述一个对象，每个维彼此垂直。数据的测量值发生在维的交叉点上，数据空间的各部分都有相同的维属性（收缩超立方结构。这种结构的数据密度更大，数据的维数更少，并可加入额外的分析维）；②多立方结构（Multicube），即将超立方结构变为子立方结构。面向某特定应用对维分割，它具有强灵活性，提高了数据（特别是稀疏数据）的分析效率。分析方法包括：切片、切块、旋转、钻取等。
OLAP也被称为共享的多维数据的快速分析FASMI，应用在数据密集型行业，如市场和销售分析、电子商务的分析、基于历史数据的营销、预算、财务报告与整合、管理报告、利益率、质量分析等。
4 小 结
采用数据仓库的数据挖掘及联机分析技术实现的决策支持系统，是弥补传统辅助决策系统能力不足的有效途径，具有重要的现实意义。