导航:首页 > 网络数据 > 大数据线下测试

大数据线下测试

发布时间:2024-05-17 20:31:40

『壹』 什么是大数据测试

测试大数据应用程序更多的是验证其数据处理,而不是测试软件产品的个别功能版。当涉及到大权数据测试时,性能和功能测试是关键。在大数据测试中,QA工程师使用集群和其他组件来验证对TB级数据的成功处理。因为处理非常快,所以它需要高水平的测试技能。
大数据应用程序的测试更多的是去验证其数据处理而不是验证其单一的功能特色。当然在大数据测试时,功能测试和性能测试是同样很关键的。对于大数据测试工程师而言,如何高效正确的验证经过大数据工具/框架成功处理过的至少百万兆字节的数据将会是一个巨大的挑战。因为大数据高效的处理测试速度,它要求测软件工程师具备高水平的测试技术才能应对大数据测试。

『贰』 怎样提升自己的大数据测试经验

大数据测试三个步骤:
步骤一:数据阶段验证
大数据测试的第一步,也称作pre-hadoop阶段该过程包括如下验证:
1)来自各方面的数据资源应该被验证,来确保正确的数据被加载进系统
2)将源数据与推送到Hadoop系统中的数据进行比较,以确保它们匹配。
3)验证正确的数据被提取并被加载到HDFS正确的位置。
该阶段可以使用工具Talend或Datameer,进行数据阶段验证。
步骤二:"MapRece"验证
大数据测试的第二步是MapRece的验证。在这个阶段,测试者在每个节点上进行业务逻辑验证,然后在运行多个节点后验证它们,确保如下操作的正确性:
1)Map与Rece进程正常工作。
2)在数据上实施数据聚合或隔离规则。
3)生成键值对。
4)在执行Map和Rece进程后验证数据。
步骤三:输出阶段验证
大数据测试的最后或第三阶段是输出验证过程。生成输出数据文件,同时把文件移到一个EDW(Enterprise Data Warehouse:企业数据仓库)中或着把文件移动到任何其他基于需求的系统中。在第三阶段的活动包括:
1)检查转换(Transformation)规则被正确应用。
2)检查数据完整性和成功的数据加载到目标系统中。
3)通过将目标数据与HDFS文件系统数据进行比较来检查没有数据损坏。

阅读全文

与大数据线下测试相关的资料

热点内容
畅天游2app在哪里下载 浏览:844
微信看文字的图片 浏览:298
将文件直接粘入word 浏览:134
VIP解析APP有哪些 浏览:463
怎样彻底卸载cad文件 浏览:829
iphone4港版 浏览:624
怎么用命令打开程序错误 浏览:665
iphone6怎么改控制中心 浏览:808
ns错误代码 浏览:653
iphone4s如何取消软件更新提示 浏览:538
jsp打印换行 浏览:662
哪个软件可以编程手机软件 浏览:554
如东如何学数控编程培训 浏览:5
微信h5页面怎么修改 浏览:931
手机怎么无法打开视频文件夹 浏览:840
抖音如何上直播网站 浏览:887
录屏截图大师保存的文件在哪里 浏览:751
红河谷第二个版本 浏览:895
c语言如何让整型数据的商为小数 浏览:863
怎样下东西不要密码 浏览:320

友情链接