如何协调数据处理

⑴ 如何处理大量数据并发操作

处理大量数据并发操作可以采用如下几种方法:

1.使用缓存：使用程序直接保存到内存中。或者使用缓存框架: 用一个特定的类型值来保存，以区别空数据和未缓存的两种状态。

2.数据库优化：表结构优化;SQL语句优化，语法优化和处理逻辑优化;分区;分表;索引优化;使用存储过程代替直接操作。

3.分离活跃数据:可以分为活跃用户和不活跃用户。

4.批量读取和延迟修改: 高并发情况可以将多个查询请求合并到一个。高并发且频繁修改的可以暂存缓存中。

5.读写分离: 数据库服务器配置多个，配置主从数据库。写用主数据库，读用从数据库。

6.分布式数据库: 将不同的表存放到不同的数据库中，然后再放到不同的服务器中。

7.NoSql和Hadoop: NoSql，not only SQL。没有关系型数据库那么多限制，比较灵活高效。Hadoop，将一个表中的数据分层多块，保存到多个节点（分布式）。每一块数据都有多个节点保存（集群）。集群可以并行处理相同的数据，还可以保证数据的完整性。

拓展资料:

大数据（big data），指无法在一定时间范围内用常规软件工具进行捕捉、管理和处理的数据集合，是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。

在维克托·迈尔-舍恩伯格及肯尼斯·库克耶编写的《大数据时代》中大数据指不用随机分析法（抽样调查）这样捷径，而采用所有数据进行分析处理。大数据的5V特点（IBM提出）：Volume（大量）、Velocity（高速）、Variety（多样）、Value（低价值密度）、Veracity（真实性）。

⑵ 大数据时代如何做好数据治理

企业数据分析系统的数据来源是各个业务系统或手工数据，这些数据的格式、内容等都有可能不同。如果不进行数据治理，数据的价值难以发挥。只有对数据标准进行规范，管理元数据、数据监控等，才能得到高质量的数据。得到规范的数据后，才可在此基础上进行主题化的数据建模、数据挖掘、数据分析等。

2013年被众多的IT人定义为中国的大数据元年，这一年国内的大数据项目开始在交通、电信、金融部门被广泛推动。各大银行对Hadoop的规划、POC尤其风生水起，带动了一波大数据应用的热潮，这个热潮和当初数据仓库进入中国时的2000年左右很相似：应用还没有想好，先归集一下数据，提供一些查询和报表，以技术建设为主，业务推动为辅。这就导致了这股Hadoop热潮起来的时候，传统企业都是以数据归集为主的，而BAT这样的企业则天生以数据为生，早早进入了数据驱动技术和业务创新的阶段。

随着Hadoop技术的提升，数据如何进来，如何整合，开展什么样的应用都已经有了成熟的案例，可是，同传统数仓时代一样，垃圾进垃圾出，如何破？相比传统数仓时代，进入Hadoop集群的数据更加的多样、更加的复杂、量更足，这个数仓时代都没有处理好的事情，如何能够在大数据时代处理好，这是所有大数据应用者最最期盼的改变，也是大数据平台建设者最有挑战的难题：数据治理难的不是技术，而是流程，是协同，是管理。 睿治数据治理平台平台架构

元数据：采集汇总企业系统数据属性的信息，帮助各行各业用户获得更好的数据洞察力，通过元数据之间的关系和影响挖掘隐藏在资源中的价值。

数据标准：对分散在各系统中的数据提供一套统一的数据命名、数据定义、数据类型、赋值规则等的定义基准，并通过标准评估确保数据在复杂数据环境中维持企业数据模型的一致性、规范性，从源头确保数据的正确性及质量，并可以提升开发和数据管理的一贯性和效率性。

数据质量：有效识别各类数据质量问题，建立数据监管，形成数据质量管理体系，监控并揭示数据质量问题，提供问题明细查询和质量改进建议，全面提升数据的完整性、准确性、及时性，一致性以及合法性，降低数据管理成本，减少因数据不可靠导致的决策偏差和损失。

数据集成：可对数据进行清洗、转换、整合、模型管理等处理工作。既可以用于问题数据的修正，也可以用于为数据应用提供可靠的数据模型。

主数据：帮助企业创建并维护内部共享数据的单一视图，从而提高数据质量，统一商业实体定义，简化改进商业流程并提高业务的响应速度。

数据资产：汇集企业所有能够产生价值的数据资源，为用户提供资产视图，快速了解企业资产，发现不良资产，为管理员提供决策依据，提升数据资产的价值。

数据交换：用于实现不同机构不同系统之间进行数据或者文件的传输和共享，提高信息资源的利用率，保证了分布在异构系统之间的信息的互联互通，完成数据的收集、集中、处理、分发、加载、传输，构造统一的数据及文件的传输交换。

生命周期：管理数据生老病死，建立数据自动归档和销毁，全面监控展现数据的生命过程。

数据安全：提供数据加密、脱敏、模糊化处理、账号监控等各种数据安全策略，确保数据在使用过程中有恰当的认证、授权、访问和审计等措施。

建立完整的、科学的、安全的、高质量的数据管控技术体系，是首要的任务。作为数据管控的基石，为了更好支撑后续工作的开展，技术体系必须一步到位，是功能完备、高质量、高扩展性的，而不是仅实现部分功能，或者功能不完善的“半成品”。

叠加更多业务数据、细化数据业务属性与管理属性、优化与调整数据管控流程，尤其是适应未来的现代企业数据管控制度的建立完善，是逐步积累推广、不断磨合改进的长期过程。这些工作应及早启动，并成为后续大数据平台建设工作的重点。

谈大数据时代的数据治理 当前要做的是功能框架的完善，而完善的着力点则是“数据资产目录”：用资产化的视角来管理一个企业的数据，只有把数据作为资产来认识和管理，大数据项目才能达成预期，也能够治理好。大数据时代带来的价值，个人认为主要有两个，一个是技术架构，主要是架构理念的进步，另外一个更重要的则是对数据的重视。大数据时代是数据的时代，IT向DT转型，不单单是BAT，所有的IT公司，未来都在数据这两个字上。

对于一个企业来说，把数据作为资产，才是建设大数据的最终目的，而不是仅仅是因为Hadoop架构带来性价比和未来的扩展性。当一个企业把数据作为资产，他就像管理自己名下存折、信用卡一样，定期梳理，无时无刻不关心资产的变化情况，关注资产的质量。

而资产目录就是管理资产的形式和手段，他像菜单一样对企业的资产进行梳理、分门别类，提供给使用者；使用者通过菜单，点选自己需要的数据，认可菜单对应的后端处理价值，后厨通过适当的加工，推出相应的数据服务；这是一个标准的流程，而这些流程之上，附着一整套数据管理目标和流程。

大数据平台以数据资产目录为核心，将元数据、数据标准、主数据、数据质量、数据生命周期、数据轮廓等信息在逻辑层面关联起来，在管理层面上整合成统一的整体，构建起数据管理体系，全面的支持数据服务等具体应用。

大数据平台实现了数据存储、清洗和应用。在数据汇入和汇出的过程中，需要对数据的元数据进行统一记录和管理，以利于后续的数据应用和数据血缘分析。数据质量一直是数据集成系统的基础工作，对数据的各个环节设置数据质量检查点，对数据质量进行剖析、评估，以保证后续应用的可信度。

在数据收集的过程中，随着数据维度、指标的聚集，如何找到所需的业务指标及属性，并且评估相关属性的业务及技术细节，需要对收集的所有数据进行业务属性，并进行分类，建立完善的数据资产目录。

数据资产目录是整个大数据平台的数据管理基础，而数据资产目录由于数据的多样性，在使用的过程中，必然涉及数据权限的申请、审批管控流程，而管控流程的建立依赖于相应岗位的设立和对应职责的建立。

大数据平台的数据管理架构规划，通过数据物理集中和数据逻辑整合，彻底摆脱企业“数据竖井”的困境。大数据平台数据管理架构分为功能架构、流向规划和数据架构三个层面。

数据管理功能架构：借鉴DAMA数据管理和DMM数据成熟度理论，着眼于数据管理技术和数据管理流程融合，组织数据管理功能。

数据流向规划架构：规划整个大数据平台的数据流向，并在数据流入、数据整合、数据服务的具体环节实现精细化管理。

数据管理的数据架构：以数据资产目录为核心，数据项为最小管理单元，将技术元数据（实体、属性和关系）、业务元数据和管理元数据（数据标准、主数据、数据质量、数据安全）融合为彼此紧密联系、密不可分的整体，共同构成精细化管理的数据基础。

数据管理在整个大数据平台不仅仅是一个主要功能模块，它还是整个企业层面数据治理的重要组成部分，它是技术和管理流程的融合，也需要合理管控流程框架下组织机构之前的协调合作。如何利用统一的数据管理模块对企业所有进入到数据湖的数据进行有效管控，不单单取决于数据管理模块本身，也取决于元数据的合理采集、维护，组织结构及制度的强力支持保证。

谈大数据时代的数据治理 大数据平台数据管理参照了DAMA对于数据管理的九个管理目标，并进行裁剪，并对部分管理目标进行了合并，并参照了CMMI制定DMM数据成熟度目标，采用循序渐进，逐步完善的策略对管理目标进行分阶段完成，制定完整的管控流程和数据治理规范，以便持续的对数据进行管理，递进实现DMM定义的成熟度目标。

亿信睿治数据治理管理平台和DAMA的对应关系如下：

谈大数据时代的数据治理 大数据平台数据管理的核心内容是数据资产目录，围绕数据资产目录的数据流入、数据整合、数据服务都是数据管理的核心。数据管理主要管理数据的流动，以及管理流动带来的数据变化，并对数据底层的数据结构、数据定义、业务逻辑进行采集和管理，以利于当前和未来的数据使用。为了更好的对数据进行管理和使用，制度层面的建设、流程的设立必不可少，同时也兼顾到数据在流动过程中产生的安全风险和数据隐私风险。

因此数据管理介入到完整的数据流转，并在每个节点都有相应的管理目标对应，整个数据流框架如下图所示：

谈大数据时代的数据治理 企业在建制大数据平台的同时，对进入数据湖的数据进行梳理，并按照数据资产目录的形式对外发布。在发布数据资产之后，则对进出数据湖的数据进行严格的出入库管理，保证数据可信度，并定期进行数据质量剖析检查，确保数据资产完善、安全、可信，避免“不治理便破产”的谶言。