ICode9

精准搜索请尝试: 精确搜索
首页 > 其他分享> 文章详细

clickhouse单机安装和性能测试(ssb数据集)

2022-05-31 11:01:39  阅读:225  来源: 互联网

标签:单机 sum MiB bytes KiB data clickhouse ssb


目录

1、单机安装
2、clickhouse修改数据目录
3、clickhouse性能测试
4、查看数据库和表的容量大小

 

1、单机安装

官网安装教程:https://clickhouse.com/docs/zh/getting-started/install

这里使用官方预编译的tgz软件包进行安装。在 https://packages.clickhouse.com/tgz/stable/ 下载最新的安装包。

 

 

 然后按照 common-static, common-static-dbg, server, client的顺序解压,执行对应解压的doinst.sh即可。

tar -xzvf clickhouse-common-static-21.1.9.41.tgz
clickhouse-common-static-21.1.9.41/install/doinst.sh

tar -xzvf clickhouse-common-static-dbg-21.1.9.41.tgz
clickhouse-common-static-dbg-21.1.9.41/install/doinst.sh

tar -xzvf clickhouse-server-21.1.9.41.tgz
clickhouse-server-21.1.9.41/install/doinst.sh

tar -xzvf clickhouse-client-21.1.9.41.tgz
clickhouse-client-21.1.9.41/install/doinst.sh

使用 clickhouse --help 查看指令。clickhouse start/stop/restart 启动或停止服务,clickhouse-client 使用客户端连接。

 

默认,配置文件位于 /etc/clickhouse-server、/etc/clickhouse-client, 表数据位于 /var/lib/clickhouse/data、/var/lib/clickhouse/store、/var/lib/clickhouse/metadata,运行日志位于 /var/log/clickhouse-server

开启允许远程连接:修改/etc/clickhouse-server/config.xml,打开 <listen_host>::</listen_host> 的注释。开启远程连接后,可以通过 http://$clickhouse_server_ip:8123 进行HTTP访问。

本地打开cmd,通过mysql 客户端连接

mysql -udefault -P9004 -h192.168.xxx.xxx -p

 

2、clickhouse修改数据目录

  clickhouse默认数据目录在 /var/lib/clickhouse, 一般分区空间有限,需要修改。只要停止数据库之后移走该目录再软连接回原地址,即可不修改config.xml实现对数据目录的修改。

#先停库
sudo clickhouse stop
sudo mkdir -p /sdb1/clickhousedata01
#权限一定要修改否则没权限就启动不了
sudo chown -R clickhouse:clickhouse /sdb1/clickhousedata01
sudo mv /var/lib/clickhouse /sdb1/clickhousedata01
#建立软连接
sudo ln -s /sdb1/clickhousedata01clickhouse   /var/lib/clickhouse
sudo  chown -R clickhouse:clickhouse /var/lib/clickhouse
sudo ls -l /var/lib/clickhouse
#启动
sudo clickhouse start

 

3、clickhouse性能测试

  使用ssb数据集进行测试:https://clickhouse.com/docs/zh/getting-started/example-datasets/star-schema

  ClickHouse性能测试:https://developer.aliyun.com/article/940057

  导入数据时,官网上默认是导入default库,如果是导入自己创建的数据库,比如

clickhouse-client --query "INSERT INTO oydb1.customer FORMAT CSV" < customer.tbl

 

4、查看数据库和表的容量大小

  clickhouse 四(查看数据库和表的容量大小)

  查看数据库容量、行数、压缩率

SELECT 
    sum(rows) AS `总行数`,
    formatReadableSize(sum(data_uncompressed_bytes)) AS `原始大小`,
    formatReadableSize(sum(data_compressed_bytes)) AS `压缩大小`,
    round((sum(data_compressed_bytes) / sum(data_uncompressed_bytes)) * 100, 0) AS `压缩率`
FROM system.parts

┌────总行数─┬─原始大小──┬─压缩大小─┬─压缩率─┐
│ 326819026 │ 77.15 GiB │ 5.75 GiB │      7 │
└───────────┴───────────┴──────────┴────────┘

1 rows in set. Elapsed: 0.047 sec. Processed 1.04 thousand rows, 520.93 KB (21.95 thousand rows/s., 
11.02 MB/s.) 

  查看数据表容量、行数、压缩率

--在此查询一张临时表的信息
SELECT 
    table AS `表名`,
    sum(rows) AS `总行数`,
    formatReadableSize(sum(data_uncompressed_bytes)) AS `原始大小`,
    formatReadableSize(sum(data_compressed_bytes)) AS `压缩大小`,
    round((sum(data_compressed_bytes) / sum(data_uncompressed_bytes)) * 100, 0) AS `压缩率`
FROM system.parts
WHERE table IN ('temp_1')
GROUP BY table

┌─表名───┬──总行数─┬─原始大小───┬─压缩大小──┬─压缩率─┐
│ temp_1 │ 3127523 │ 838.21 MiB │ 60.04 MiB │      7 │
└────────┴─────────┴────────────┴───────────┴────────┘

1 rows in set. Elapsed: 0.008 sec.

  查看数据表分区信息

--查看测试表在19年12月的分区信息
SELECT 
    partition AS `分区`,
    sum(rows) AS `总行数`,
    formatReadableSize(sum(data_uncompressed_bytes)) AS `原始大小`,
    formatReadableSize(sum(data_compressed_bytes)) AS `压缩大小`,
    round((sum(data_compressed_bytes) / sum(data_uncompressed_bytes)) * 100, 0) AS `压缩率`
FROM system.parts
WHERE (database IN ('default')) AND (table IN ('temp_1')) AND (partition LIKE '2019-12-%')
GROUP BY partition
ORDER BY partition ASC

┌─分区───────┬─总行数─┬─原始大小──┬─压缩大小───┬─压缩率─┐
│ 2019-12-01 │     24 │ 6.17 KiB  │ 2.51 KiB   │     41 │
│ 2019-12-02 │   9215 │ 2.45 MiB  │ 209.74 KiB │      8 │
│ 2019-12-03 │  17265 │ 4.46 MiB  │ 453.78 KiB │     10 │
│ 2019-12-04 │  27741 │ 7.34 MiB  │ 677.25 KiB │      9 │
│ 2019-12-05 │  31500 │ 8.98 MiB  │ 469.30 KiB │      5 │
│ 2019-12-06 │    157 │ 37.50 KiB │ 4.95 KiB   │     13 │
│ 2019-12-07 │    110 │ 32.75 KiB │ 3.86 KiB   │     12 │
└────────────┴────────┴───────────┴────────────┴────────┘

7 rows in set. Elapsed: 0.005 sec. 

  查看数据表字段的信息

SELECT 
    column AS `字段名`,
    any(type) AS `类型`,
    formatReadableSize(sum(column_data_uncompressed_bytes)) AS `原始大小`,
    formatReadableSize(sum(column_data_compressed_bytes)) AS `压缩大小`,
    sum(rows) AS `行数`
FROM system.parts_columns
WHERE (database = 'default') AND (table = 'temp_1')
GROUP BY column
ORDER BY column ASC

┌─字段名───────────┬─类型─────┬─原始大小───┬─压缩大小───┬────行数─┐
│ a                │ String   │ 23.83 MiB  │ 134.13 KiB │ 3127523 │
│ b                │ String   │ 19.02 MiB  │ 127.72 KiB │ 3127523 │
│ c                │ String   │ 5.97 MiB   │ 49.09 KiB  │ 3127523 │
│ d                │ String   │ 3.95 MiB   │ 532.86 KiB │ 3127523 │
│ e                │ String   │ 5.17 MiB   │ 49.47 KiB  │ 3127523 │
│ totalDate        │ DateTime │ 11.93 MiB  │ 1.26 MiB   │ 3127523 │
└──────────────────┴──────────┴────────────┴────────────┴─────────┘

 

标签:单机,sum,MiB,bytes,KiB,data,clickhouse,ssb
来源: https://www.cnblogs.com/xy-ouyang/p/16329667.html

本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享;
2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关;
3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关;
4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除;
5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。

专注分享技术,共同学习,共同进步。侵权联系[81616952@qq.com]

Copyright (C)ICode9.com, All Rights Reserved.

ICode9版权所有