如何处理大数据excel

① EXCEL带有大量公式的数据如何快速处理

Excel带有大量公式会导致运算速度变慢，想要运算速度变快的方法大致就两种方法：第一种方法是提升电脑配置；第二种方法利用编程来处理，如VBA、Python等。

② EXCEL大数据量导出的解决方案

EXCEL大数据量导出的解决方案
将web页面上显示的报表导出到excel文件里是一种很常见的需求。润乾报表的类excel模型，支持excel文件数据无失真的导入导出，使用起来非常的方便。然而，当数据量较大的情况下，excel本身的支持最多65535行数据的问题便凸显出来。下面就给出大数据量导出到excel的解决方案。
首先，对于数据超过了65535行的问题，很自然的就会想到将整个数据分块，利用excel的多sheet页的功能，将超出65535行后的数据写入到下一个sheet页中，即通过多sheet页的方式，突破了最高65535行数据的限定。
具体做法就是：
单独做一个链接，使用JSP导出，在JSP上通过程序判断报表行数，超过65535行后分SHEET写入。这样这个问题就得以解决了。
更进一步地说，在这种大数据量的报表生成和导出中，要占用大量的内存，尤其是在使用TOMCAT的情况下，JVM最高只能支持到2G内存，则会发生内存溢出的情况。此时的内存开销主要是两部分，一部分是该报表生成时的开销，另一部分是该报表生成后写入一个EXCEL时的开销。由于JVM的GC机制是不能强制回收的，因此，对于此种情形，我们给出一个变通的解决方案。
首先，将该报表设置起始行和结束行参数，在API生成报表的过程中，分步计算报表，比如一张20万行数据的报表，在生成过程中，可通过起始行和结束行分4-5次进行。这样，就降低了报表生成时的内存占用，在后面报表生成的过程中，如果发现内存不够，即可自动启动JVM的GC机制，回收前面报表的缓存。
导出EXCEL的过程，放在每段生成报表之后立即进行，改多个SHEET页为多个EXCEL，即在分步生成报表的同时分步生成EXCEL，则通过POI包生成EXCEL的内存消耗也得以降低。通过多次生成，同样可以在后面EXCEL生成所需要的内存不足时，有效回收前面生成EXCEL时占用的内存。
再使用文件操作，对每个客户端的导出请求在服务器端根据SESSIONID和登陆时间生成唯一的临时目录，用来放置所生成的多个EXCEL，然后调用系统控制台，打包多个EXCEL为RAR或者JAR方式，最终反馈给用户一个RAR包或者JAR包，响应客户请求后，再次调用控制台删除该临时目录。
使用这种方法，首先是通过分段运算和生成，有效降低了报表从生成结果到生成EXCEL的内存开销。其次是通过使用压缩包，响应给用户的生成文件体积大大缩小，降低了多用户并发访问时服务器下载文件的负担，有效减少多个用户导出下载时服务器端的流量，从而达到进一步减轻服务器负载的效果。

③ excel大数据处理技巧

方法/步骤

1、数据整理。工欲善其事，必先利其器。数据质量是数据分析的生命，此步骤不可忽视、不可走过场。

①数字型的数字才可以参与画图和做分析模型，所以数据不能带单位(如：元、万元)，也不能用区间数据(如：23-25，不要将电脑当作神脑)。

②数据的单位要一致，统一按列排序或者按行排序，此案例用列排序。

③注意：对于用文本格式存储的数字，单元格左上角有个绿色三角表示，要注意修改为数字格式。

2、对于本例，需要用到随机函数rand()。一个色子有6个面，取数为1-6。模拟色子数据=int(rand()*6)+1。

其他用到的函数有：求和sum();最大值max();最小值min()。

3、绘制图形。

①目前我们只做2维的数据分析，只有1个自变量和1个因变量。选择2列数据，合计列和最大值列。技巧：当需要选择不相邻两列，可以先选1列，按ctrl键，再选另1列，放开ctrl键。

②菜单插入→图形→散点图，确认。当然，折线图等也可以数据分析，但为了图面干净，推荐还是用散点图。

4、相关性分析。

首先，在散点图上某个散点上右键→添加趋势线。

5、然后，紧接着自动弹出设置趋势线模式(若没弹出这个对话框，也可在图上某个散点上右键，选择设置趋势线模式)→显示公式、显示R平方值。至于回归分析类型，采用线性类型比较通用些。

6、关闭后，观察图上的r2值(实际是指R平方值，下同)，r2值0.8到1，说明正相关，自变量和因变量有(线性)关系。r2值0.6到0.8，弱相关。-0.6到0.6，不相关，自变量对因变量没有影响。-0.8到-0.6，弱负相关。-1到-0.8，负相关，自变量和因变量有(线性)关系，但方向相反。

7、最后，点击图上任意散点，表格会出现红色框和蓝色框，红色是因变量，不能移动，蓝色框可以移动。通过鼠标拖动蓝色框，可以看到最大值、最小值、中间值与合计数的线性相关性r2值。

8、本案例数据统计：合计数与最大值、最小值的相关性大多在0-0.7以内，合计数与中间值的相关性大多在0.7以上。自变量x为中间值，因变量y为合计数，他们的关系模型为：y = 0.4196x - 0.8817。(当然，公式中的参数只是针对这25次试验)

本案例结论：三数合计与中间值呈弱线性相关。

推论：评分比赛中，将最高分和最低分同时去掉，不影响最终得分。

以上就是Excel数据处理并绘制成分析图形方法介绍，操作很简单的，你学会了吗?希望这篇文章能对大家有所帮助!

④ 谁能解决EXCEL大数据处理时的卡顿问题

如果表格有用到公式，宏代码等，考虑优化公式和代码，如果没用到还是卡顿，可以考虑改用更专业的数据库系统比如SQL,毕竟EXCEL的主阵地还是一般办公场所，处理几十万条数据的情况还是不多。

⑤ c处理100m以上的excel文件用powerquery

新一代Excel里的PowerPivot可以处理上亿行数据，运算效率也超级高。
用power query 再结合数据透视表，就能处理大数据。哪怕是是五百万条数据，在选择加载时，选择加载链接，就能提高运算效率。power query 在2016版本以上是直接内嵌Excel，在数据选项栏中。

⑥ 19.如何用 Excel 作大数据分析

    - 明确本次数据分析的目的、意义

    - 根据目的，挑选待分析相互关联的字段

    - 根据所选字段，制成透视表、透视图

    - 根据所做图表，归纳总结，指导未来行动

    - Power Query

    - 绘制各图分布草图

    - 根据图表需求数量，复制n份

    - 根据需求，选择行、列字段

    - 需对各透视表、工作页命名

    - 根据需求，用各透视表生成不同透视图

    - 在汇总页，按设定的图表布局汇总各图

    - 插入切片器、日程表，并链接各透视表

    - 先明确目的、意义

    - 仅对 Content 字段

    - =Excel.Workbook([Content],True)

    - 也可引用，在公式栏输入公式

    - 区分 GetPivotData 与直接引用的区别

    - 根据需求，链接部分或全部透视表

    - 自带模板、个性设置

    - 按 Alt 键拖动图片，以使其吸附单元格边缘

⑦ 如何大数据分析

大数据分析可以在excel表格上方找到【Power Pivot】并点击打开，点击【管理】。再找到操作提示，导入大量的数据源。

工具／原料：

华硕Redolbook14

Windows 10

excel2019

1、打开excel表格，在上方找到【Power Pivot】并点击打开，点击【管理】。再找到操作提示，导入大量的数据源。

⑧ excel大数据处理技巧

方法/步骤

1、数据整理。工欲善其事，必先利其器。数据质量是数据分析的生命，此步骤不可忽视、不可走过场。

①数字型的数字才可以参与画图和做分析模型，所以数据不能带单位(如：元、万元)，也不能用区间数据(如：23-25，不要将电脑当作神脑)。

②数据的单位要一致，统一按列排序或者按行排序，此案例用列排序。

③注意：对于用文本格式存储的数字，单元格左上角有个绿色三角表示，要注意修改为数字格式。

2、对于本例，需要用到随机函数rand()。一个色子有6个面，取数为1-6。模拟色子数据=int(rand()*6)+1。

其他用到的函数有：求和sum();最大值max();最小值min()。

3、绘制图形。

①目前我们只做2维的数据分析，只有1个自变量和1个因变量。选择2列数据，合计列和最大值列。技巧：当需要选择不相邻两列，可以先选1列，按ctrl键，再选另1列，放开ctrl键。

②菜单插入→图形→散点图，确认。当然，折线图等也可以数据分析，但为了图面干净，推荐还是用散点图。

4、相关性分析。

首先，在散点图上某个散点上右键→添加趋势线。

5、然后，紧接着自动弹出设置趋势线模式(若没弹出这个对话框，也可在图上某个散点上右键，选择设置趋势线模式)→显示公式、显示R平方值。至于回归分析类型，采用线性类型比较通用些。

6、关闭后，观察图上的r2值(实际是指R平方值，下同)，r2值0.8到1，说明正相关，自变量和因变量有(线性)关系。r2值0.6到0.8，弱相关。-0.6到0.6，不相关，自变量对因变量没有影响。-0.8到-0.6，弱负相关。-1到-0.8，负相关，自变量和因变量有(线性)关系，但方向相反。

7、最后，点击图上任意散点，表格会出现红色框和蓝色框，红色是因变量，不能移动，蓝色框可以移动。通过鼠标拖动蓝色框，可以看到最大值、最小值、中间值与合计数的线性相关性r2值。

8、本案例数据统计：合计数与最大值、最小值的相关性大多在0-0.7以内，合计数与中间值的相关性大多在0.7以上。自变量x为中间值，因变量y为合计数，他们的关系模型为：y = 0.4196x - 0.8817。(当然，公式中的参数只是针对这25次试验)

本案例结论：三数合计与中间值呈弱线性相关。

推论：评分比赛中，将最高分和最低分同时去掉，不影响最终得分。

以上就是Excel数据处理并绘制成分析图形方法介绍，操作很简单的，你学会了吗?希望这篇文章能对大家有所帮助!

⑨ office excel在处理大数据表格时，筛选后清除筛选就卡死

最近处理一个花名册，里边有我写的一些公式，之前正常，后来用过power query,出现内筛选后取消卡死情况，主要容是对两列筛选后清除必卡死。用wps正常。试了好多方法，有效的方法，一个是把自动计算改为手动，但不完美。最后的方法是，打开excel,选项，高级，有一个忽略什么dde，勾上，关excel，双击会卡死那个文件，会打开excel，但打不开文件，然后把文件拉到excel里，打开了，试一下筛选，没卡死，保存文件，关闭。同样步骤，再把dde那个取消，OK了。希望对你有帮助。