性能测试
我们感动!为了改善客户体验,Collibra数据质量用户指南已转移到新万博移动客户端
新万博移动客户端Collibra文档中心
作为Collibra数据质量2新万博移动客户端022.11版本的一部分。为了确保平稳过渡,
dq-docs.新万博移动客户端collibra.com
仍然可以访问,但DQ用户指南现在只在文档中心进行维护。
数据集
的名字
|
GBs的
内存
|
行
|
关口
|
细胞
|
全国矿工工会
高管
|
全国矿工工会
核
|
执行
内存
|
网络
时间
|
总计
时间
|
纽交所
|
0.1克
|
103 k
|
9
|
816 k
|
1克ydF4y2Ba
|
1克ydF4y2Ba
|
1克
|
00:00:15
|
00:00:48
|
资产管理
|
14 g
|
9米
|
48
|
432米
|
5
|
1克ydF4y2Ba
|
4 g
|
00:01:20
|
00:03:50
|
能源
|
5克
|
43米
|
6
|
258米
|
8
|
3.
|
3 g
|
00:00:00
|
00:04:35
|
INVEST_DATA
|
20克
|
3.8米
|
158
|
590米
|
3.
|
2
|
3 g
|
00:00:40
|
00:03:32
|
Postgres数据库调用,无并发处理,案例简单,数据量小。
-bhtimeoff-numexecutors1克ydF4y2Ba
自由“/ opt /猫头鹰/司机/ postgres”
-executormemory1克
- hmetastore01.us-east1-b.c.owl-hadoop-cdh.internal: 5432 / dev ? currentSchema=公共
-drivermemory1克主美丽:/ /- dspublic.nyse_128-deploymode集群
q"select * from public.nyse"-bhlb10克ydF4y2Ba理查德·道金斯“2020-10-26”
司机“org.postgresql.Driver”-bhminoff
-loglevel信息-cxnpostgres-gcp-bhmaxoff
Postgres数据库调用使用并行JDBC,拆分为aum_id串行id。
-owluser柯克
自由“/ opt /猫头鹰/司机/ postgres”-datashapeoff
-numpartitions6- dspublic.aum_dt2_50
-deploymode集群-bhlb10克ydF4y2Ba-bhminoff
-cxnpostgres-gcp-bhmaxoff-bhtimeoff
-numexecutors6
-executormemory4 g-semanticoff
- hmetastore01.us-east1-b.c.owl-hadoop-cdh.internal: 5432 / dev ? currentSchema=公共
-columnnameaum_id-corroff-drivermemory4 g主美丽:/ /
q"select * from public.aum_dt2"-histoff理查德·道金斯“2020-10-27”
司机“org.postgresql.Driver”-loglevel信息-agentjobid7664
HDFS文件有4300万行,转换字符串日期到日期类型,部署模式客户端。
- f“hdfs: / / /演示/ owl_usage_all.csv”\
理查德·道金斯“2019-02-02”\
- dsenergy_file\
-loglevel调试只读的\
- d”、“dfdd-MMM-yy\
主纱\
-deploymode客户端\
-numexecutors3.\
-executormemory10克
-bhtimeoff-owluser柯克-numexecutors1克ydF4y2Ba
自由“/ opt /猫头鹰/司机/ postgres”-executormemory1克
戴斯。莱纳姆:- hmetastore01.us-east1-b.c.owl-hadoop-cdh.internal: 5432 / dev ? currentSchema=公共
-drivermemory1克主美丽:/ /- dspublic.nyse_128-deploymode集群
q"select * from public.nyse"-bhlb10克ydF4y2Ba
理查德·道金斯“2020-10-27”司机“org.postgresql.Driver”
-bhminoff-loglevel信息-cxnpostgres-gcp-bhmaxoff-agentjobid7721
最后修改3莫前