数据清洗需要注意什么

A. 大数据处理技术之数据清洗

我们在做数据分析工作之前一定需要对数据进行观察并整理，这是因为挖掘出来的数据中含有很多无用的数据，这些数据不但消耗分析的时间，而且还会影响数据分析结果，所以我们需要对数据进行清洗。在这篇文章中我们重点给大家介绍一下数据清洗的相关知识。
那么什么是数据清洗呢？一般来说，数据清洗是指在数据集中发现不准确、不完整或不合理数据，并对这些数据进行修补或移除以提高数据质量的过程。而通常来说，数据清洗框架由5个步骤构成，第一就是定义错误类型，第二就是搜索并标识错误实例，第三就是改正错误，第四就是文档记录错误实例和错误类型，第五就是修改数据录入程序以减少未来的错误。
我们按照数据清洗的步骤进行工作的时候还需要重视格式检查、完整性检查、合理性检查和极限检查，这些工作也在数据清洗过程中完成。数据清洗对保持数据的一致和更新起着重要的作用，因此被用于多个行业。而尤其是在电子商务领域，尽管大多数数据通过电子方式收集，但仍存在数据质量问题。影响数据质量的因素包括软件错误、定制错误和系统配置错误等。通过检测爬虫和定期执行客户和帐户的重复数据删，对电子商务数据进行清洗。所以说数据清洗倍受大家的关注。
而在RFID领域，有关文献研究了对RFID数据的清洗。一般来说，RFID技术用于许多应用，如库存检查和目标跟踪等。然而原始的RFID数据质量较低并包含许多由于物理设备的限制和不同类型环境噪声导致的异常信息。这就是肮脏数据产生的影响，所以说数据清洗工作是多么的重要。而这一文献则实现了一个框架，这种框架用于对生物数据进行标准化。在该框架的辅助下，生物数据中的错误和副本可以消除，数据挖掘技术能够更高效地运行。
所以说数据清洗对随后的数据分析非常重要，因为它能提高数据分析的准确性。但是数据清洗依赖复杂的关系模型，会带来额外的计算和延迟开销，必须在数据清洗模型的复杂性和分析结果的准确性之间进行平衡。
在这篇文章中我们给大家介绍了很多关于数据清洗的相关知识，通过这篇文章我们不难发现数据清洗的重要性——数据清洗工作占据整个数据分析工作的七成时间。希望这篇文章能够更好地帮助大家。

B. 数据分析中如何清洗数据

数据分析中数据集通常包含大量数据，这些数据可能以不易于使用的格式存储。因此，数据分析师首先需要确保数据格式正确并符合规则集。

此外，合并来自不同来源的数据可能很棘手，数据分析师的另一项工作是确保所得到的信息合并有意义。

数据稀疏和格式不一致是最大的挑战–这就是数据清理的全部内容。数据清理是一项任务，用于识别不正确，不完整，不准确或不相关的数据，修复问题，并确保将来会自动修复所有此类问题，数据分析师需要花费60%的时间去组织和清理数据！

数据分析中数据清理有哪些步骤？

以下是经验丰富的开发团队会采用的一些最常见的数据清理步骤和方法：

1. 处理丢失的数据

2. 标准化流程

3. 验证数据准确性

4. 删除重复数据

5. 处理结构错误

6. 摆脱不必要的观察

扩展阅读：

让我们深入研究三种选定的方法：

处理丢失的数据——忽略数据集中的丢失值,是一个巨大的错误，因为大多数算法根本不接受它们。一些公司通过其他观察值推算缺失值或完全丢弃具有缺失值的观察值来解决此问题。但是这些策略会导致信息丢失（请注意，“无价值”也会告诉我们一些信息。如果公司错过了分类数据，则可以将其标记为“缺失”。缺失的数字数据应标记为0，以进行算法估计）在这种情况下的最佳常数。

结构性错误——这些是在测量，传输数据期间出现的错误，以及由于数据管理不善而引起的其他问题。标点符号不一致，错别字和标签错误是这里最常见的问题。这样的错误很好地说明了数据清理的重要性。

不需要的观察——处理数据分析的公司经常在数据集中遇到不需要的观察。这些可以是重复的观察，也可以是与他们要解决的特定问题无关的观察。检查不相关的观察结果是简化工程功能流程的好策略-开发团队将可以更轻松地建立模型。这就是为什么数据清理如此重要的原因。

对于依赖数据维护其运营的企业而言，数据的质量至关重要。举个例子，企业需要确保将正确的发票通过电子邮件发送给合适的客户。为了充分利用客户数据并提高品牌价值，企业需要关注数据质量。

避免代价高昂的错误：

数据清理是避免企业在忙于处理错误，更正错误的数据或进行故障排除时增加的成本的最佳解决方案。

促进客户获取：

保持数据库状态良好的企业可以使用准确和更新的数据来开发潜在客户列表。结果，他们提高了客户获取效率并降低了成本。

跨不同渠道理解数据：

数据分析师们在进行数据清理的过程中清除了无缝管理多渠道客户数据的方式，使企业能够找到成功开展营销活动的机会，并找到达到目标受众的新方法。

改善决策过程：

像干净的数据一样，无助于促进决策过程。准确和更新的数据支持分析和商业智能，从而为企业提供了更好的决策和执行资源。

提高员工生产力：

干净且维护良好的数据库可确保员工的高生产率，他们可以从客户获取到资源规划的广泛领域中利用这些信息。积极提高数据一致性和准确性的企业还可以提高响应速度并增加收入。

C. 如何进行数据清洗

数据清理是有一些步骤的，一般分为缺失值清洗，格式内容清洗，逻辑错误清洗，非需求数据清洗，关联性验证。

缺失值是最常见的数据问题，处理缺失值也有很多方法，我建议按照以下四个步骤进行：1、确定缺失值范围：对每个字段都计算其缺失值比例，然后按照缺失比例和字段重要性，分别制定策略。

2、去除不需要的字段：这一步很简单，直接删掉即可，但强烈建议清洗每做一步都备份一下，或者在小规模数据上试验成功再处理全量数据。

3、填充缺失内容：某些缺失值可以进行填充。

4、重新取数：如果某些指标非常重要又缺失率高，那就需要和取数人员或业务人员了解，是否有其他渠道可以取到相关数据。

第二步：格式内容清洗
如果数据是由系统日志而来，那么通常在格式和内容方面，会与元数据的描述一致。而如果数据是由人工收集或用户填写而来，则有很大可能性在格式和内容上存在一些问题。

第三步：逻辑错误清洗
这部分的工作是去掉一些使用简单逻辑推理就可以直接发现问题的数据，防止分析结果走偏。

第四步：非需求数据清洗
这一步说起来非常简单：把不要的字段删了。

但实际操作起来，有很多问题。

第五步：关联性验证
如果你的数据有多个来源，那么有必要进行关联性验证。例如，你有汽车的线下购买信息，也有电话客服问卷信息，两者通过姓名和手机号关联，要看一下同一个人线下登记的车辆信息和线上问卷问出来的车辆信息是不是同一辆，如果不是，那么需要调整或去除数据。

D. 数据清洗经验分享：什么是数据清洗 如何做好

如何去整理分析数据，其中一个很重要的工作就是数据清洗。数据清洗是指对“脏”数据进行对应方式的处理，脏在这里意味着数据的质量不够好，会掩盖数据的价值，更会对其后的数据分析带来不同程度的影响。有调查称，一个相关项目的进展，80%的时间都可能会花费在这个工作上面。因为清洗必然意味着要对数据有一定的理解，而这个工作是自动化或者说计算机所解决不了的难题，只能靠人脑对数据进行重新审查和校验，找到问题所在，并通过一些方法去对对应的数据源进行重新整理。
清洗数据的方式大概可以分为以下几类，筛选、清除、补充、纠正，例如：
去除不需要的字段：简单，直接删除即可。但要记得备份。

填充缺失内容：以业务知识或经验推测填充缺失值；以同一指标的计算结果（均值、中位数、众数等）填充缺失值；以不同指标的计算结果填充缺失值。
格式不一致：时间、日期、数值、全半角等显示格式不一致，这种问题通常与输入端有关，在整合多来源数据时也有可能遇到，将其处理成一致的某种格式即可。例如一列当中储存的是时间戳，某些跨国公司的不同部门在时间的格式上有可能存在差别，比如2019-01-12，2019/01/12等，这时候需要将其转换成统一格式。

内容中有不需要的字符：某些情况使得有些数据中包含不需要的字符。例如从网络爬到的数据会包含一些编码解码的字符如%22，这种情况下，需要以半自动校验半人工方式来找出可能存在的问题，并去除不需要的字符。

数据提取：例如咱们只有用户身份证的信息，但是需要用户生日一列，这时候我们可以直接从身份证号中按照一定规律将生日信息提取出来。

E. 数据清洗一般遵循以下哪些原则

关于数据清理（尤其是医学数据清理），每个数据库的具体问题都不一样，但是根据经验，都会涉及以下5个方面，清理时务必要考虑！

第1点：重复记录是优先要考虑的，很多人没有去重做岁的概念和意识，拿到数据直接分析，或者仅进行极端值的清理，往往到结果出来了才发现需要重头来过。实际上出现重复的情形太多太多了，录入时id号不小心录错一位；一个人的左眼和右眼数据分成2行存储，等等等等，非常常见！

常见的坑：不同的数据库，尽量不要只用一个字段进行比对，像下面这种情况

id号为k0097和id号为k0265是我们一项真实大型眼病流调中的案例，很多人喜欢只用id号作为唯一性的识别。好了，对于我们这个研究，k0097和k0265id号完全不同，但是姓名、性别甚至是出生日期都完全一样；对于杨风云这个个体，甚至连身高都基本一致，严重提示重复！

经过核查，是同一个人，至于为什么同一个人会在现场出现两次，具体原因已然不得而知，但是要警惕这种现象！

第2点：缺失值是任何场景都会遇到梁薯的，无论是电商数据还是医学研究中采集的患者数据，都有无法测量的时候，医学数据更为特殊，因为患者有拒绝参与的情况。但是缺失归缺失，一定要引起重视，能做插补要考虑插补，不能插补的要做好备注或其它处理，否则结果（尤其是当有分组变量，且分组变量有缺失的情况下）往往互相矛盾。

常见的坑1：很多人喜欢用99，999，9999等来替换标记缺失值，这种做法在很多情况下，尤其是医学数据中要格外小心。因为真的有的指标是可以取到这些值的，比如体重，到达99公斤不少见；比如白细胞，9999也是正常范围。还有很多人喜欢用0代表缺失值，说实话，就更坑了。因为用0来赋值的情形太多了，况且有的指标也是可以取到0的，比如C反应蛋白。

标记缺失值一定要考虑指标本身的正常值范围！

常见的坑2：不是所有缺失值都能插补的！

100个数，缺2个，你插完基本接近真值；缺50个你还插，那不叫填补，那叫瞎蒙！

建议在列缺失20%比例以内的进行插补，太高的比例比如30%以上应该考虑舍弃该指标该变量！

大家在拿到一批数据时，不妨做一个下图这样的基本频数分布，帮助你判断数据质量橡胡者。

第3点：极端值会严重影响数据分布，譬如你研究北京地区成年人血液中铅含量的正常水平，抽了1000人。其中999人都在80-110微克/升，按说平均血铅水平应该在90多；很不幸你抽到了一个铅中毒患者，他的血铅水平是常人的百倍，达到10000微克/升，你如果不对此人做

F. 数据分析中如何清洗数据

在数据分析中我们重点研究的是数据，但是不是每个数据都是我们需要分析的，这就需要我们去清洗数据，通过清洗数据，这样我们就能够保证数据分析出一个很好的结果，所以说一个干净的数据能够提高数据分析的效率，因此，数据清洗是一个很重要的工作，通过数据的清洗，就能够统一数据的格式，这样才能够减少数据分析中存在的众多问题，从而提高数据的分析的效率。但是清洗数据需要清洗什么数据呢？一般来说，清洗数据的对象就是缺失值、重复值、异常值等。
首先给大家说明一下什么是重复值，所谓重复值，顾名思义，就是重复的数据，数据中存在相同的数据就是重复数据，重复数据一般有两种情况，第一种就是数据值完全相同的多条数据记录。另一种就是数据主体相同但匹配到的唯一属性值不同。这两种情况复合其中的一种就是重复数据。那么怎么去除重复数据呢？一般来说，重复数据的处理方式只有去重和去除两种方式，去重就是第一种情况的解决方法，去除就是第二种情况的解决方法。
其次给大家说一下什么是异常值，这里说的异常值就是指一组测试值中宇平均数的偏差超过了两倍标准差的测定值。而与平均值的偏差超过三倍标准差的测定值则被称为高度异常值。对于异常值来说，我们一般不作处理，当然，这前提条件就是算法对异常值不够敏感。如果算法对异常值敏感了怎么处理异常值呢？那么我们就需要用平均值进行替代，或者视为异常值去处理，这样可以降低数据异常值的出现。
而缺失值也是数据分析需要清理的对象，所谓缺失值就是数据中由于缺少信息导致数据的分组、缺失被称为缺失值，存在缺失值的数据中由于某个或者某些数据不是完整的，对数据分析有一定的影响。所以，我们需要对缺失值进行清理，那么缺失值怎么清理呢？对于样本较大的缺失值，我们可以直接删除，如果样本较小，我们不能够直接删除，因为小的样本可能会影响到最终的分析结果。对于小的样本，我们只能通过估算进行清理。
关于数据分析需要清楚的数据就是这篇文章中介绍的重复值、异常值以及缺失值，这些无用的数据大家在清理数据的时候一定要注意，只有这样才能够做好数据分析。最后提醒大家的是，大家在清理数据之前一定要保存好自己的原始数据，这样我们才能够做好数据的备份。切记切记。

G. 数据清洗的主要类型

对烂扮知于这一类数据——特别是维表中会出现这种情况——将重复数据记录的所有字段导出来，让客户确认并饥消整理。
数据清洗是一个反复的过程，不可能在几天内完成，只有不断的发现问题，解决问题。对于是否过滤，是否修正一般要求客缺漏户确认，对于过滤掉的数据，写入Excel文件或者将过滤数据写入数据表，在ETL开发的初期可以每天向业务单位发送过滤数据的邮件，促使他们尽快地修正错误,同时也可以做为将来验证数据的依据。数据清洗需要注意的是不要将有用的数据过滤掉，对于每个过滤规则认真进行验证，并要用户确认。

H. 如何清洗脏数据

1、准备工作
拿到数据表之后，先做这些准备工作，方便之后的数据清洗。
（1）给每一个sheet页命名，方便寻找
（2）给每一个工作表加一列行号，方便后面改为原顺序
（3）检验每一列的格式，做到每一列格式统一
（4）做数据源备份，防止处理错误需要参考原数据
（5）删除不必要的空行、空列
2、统一数值口径
这是个无聊而必要的步骤。例如我们统计销售任务指标，有时用合同金额有时用回款金额，口径经常不统一。统计起来就很麻烦。所以将不规范的数值改为规范这一步不可或缺。
3、删掉多余的空格
原始数据中如果夹杂着大量的空格，可能会在我们筛选数据或统计时带来一定麻烦。如何去掉多余的空格，仅在字符间保留一个空格？
（1）手动删除。如果只有三五个空格，这可能是最快的方式。
（2）函数法
在做数据清洗时，经常需要去除数据两端的空格，那么TRIM、LTRIM、RTRIM这3个函数就可以帮到你啦~
TRIM函数：主要是用来去除单元格内容前后的空格，但不会去除字符之间的空格。表达式：=TRIM(文本)
ps：LTRIM、RTRIM与TRIM函数的使用方法一样~
LTRIM函数：用来去除单元格内容左边的空格；RTRIM函数：用来去除单元格内容右边的空格。
4、字段去重
强烈建议把去重放在去除空格之后，因为多个空格导致工具认为“顾纳”和“顾 纳”不是一个人，去重失败。
按照“数据”-“删除重复项”-选择重复列步骤执行即可。（单选一列表示此列数据重复即删除，多选表示多个字段都重复才删除。）

数据清洗从名字上也看的出就是把“脏”的“洗掉”，指发现并纠正数据文件中可识别的错误的最后一道程序，包括检查数据一致性，处理无效值和缺失值等。

因为数据仓库中的数据是面向某一主题的数据的集合，这些数据从多个业务系统中抽取而来而且包含历史数据，这样就避免不了有的数据是错误数据、有的数据相互之间有冲突，这些错误的或有冲突的数据显然是我们不想要的，称为“脏数据”。