性能测试

我们感动!为了改善客户体验,Collibra数据质量用户指南已转移到新万博移动客户端 新万博移动客户端Collibra文档中心 作为Collibra数据质量2新万博移动客户端022.11版本的一部分。为了确保平稳过渡, dq-docs.新万博移动客户端collibra.com 仍然可以访问,但DQ用户指南现在只在文档中心进行维护。

每秒单元性能理论(9.5M CPS)

负载和剖面

数据集
的名字
GBs的
内存
关口
细胞
全国矿工工会
高管
全国矿工工会
执行
内存
网络
时间
总计
时间
纽交所
0.1克
103 k
9
816 k
1克ydF4y2Ba
1克ydF4y2Ba
1克
00:00:15
00:00:48
资产管理
14 g
9米
48
432米
5
1克ydF4y2Ba
4 g
00:01:20
00:03:50
能源
5克
43米
6
258米
8
3.
3 g
00:00:00
00:04:35
INVEST_DATA
20克
3.8米
158
590米
3.
2
3 g
00:00:40
00:03:32

纽交所

Postgres数据库调用,无并发处理,案例简单,数据量小。
-bhtimeoff-numexecutors1克ydF4y2Ba
自由“/ opt /猫头鹰/司机/ postgres”
-executormemory1克
- hmetastore01.us-east1-b.c.owl-hadoop-cdh.internal: 5432 / dev ? currentSchema公共
-drivermemory1克美丽:/ /- dspublic.nyse_128-deploymode集群
q"select * from public.nyse"-bhlb10克ydF4y2Ba理查德·道金斯“2020-10-26”
司机“org.postgresql.Driver”-bhminoff
-loglevel信息-cxnpostgres-gcp-bhmaxoff

资产管理

Postgres数据库调用使用并行JDBC,拆分为aum_id串行id。
-owluser柯克
自由“/ opt /猫头鹰/司机/ postgres”-datashapeoff
-numpartitions6- dspublic.aum_dt2_50
-deploymode集群-bhlb10克ydF4y2Ba-bhminoff
-cxnpostgres-gcp-bhmaxoff-bhtimeoff
-numexecutors6
-executormemory4 g-semanticoff
- hmetastore01.us-east1-b.c.owl-hadoop-cdh.internal: 5432 / dev ? currentSchema公共
-columnnameaum_id-corroff-drivermemory4 g美丽:/ /
q"select * from public.aum_dt2"-histoff理查德·道金斯“2020-10-27”
司机“org.postgresql.Driver”-loglevel信息-agentjobid7664

能源

HDFS文件有4300万行,转换字符串日期到日期类型,部署模式客户端。
- f“hdfs: / / /演示/ owl_usage_all.csv”
理查德·道金斯“2019-02-02”
- dsenergy_file
-loglevel调试只读的
- d”、“dfdd-MMM-yy
-deploymode客户端
-numexecutors3.
-executormemory10克

负载概要离群值

总运行时间为1:10。20秒的异常值

-bhtimeoff-owluser柯克-numexecutors1克ydF4y2Ba
自由“/ opt /猫头鹰/司机/ postgres”-executormemory1克
戴斯。莱纳姆:- hmetastore01.us-east1-b.c.owl-hadoop-cdh.internal: 5432 / dev ? currentSchema公共
-drivermemory1克美丽:/ /- dspublic.nyse_128-deploymode集群
q"select * from public.nyse"-bhlb10克ydF4y2Ba
理查德·道金斯“2020-10-27”司机“org.postgresql.Driver”
-bhminoff-loglevel信息-cxnpostgres-gcp-bhmaxoff-agentjobid7721