ICode9

精准搜索请尝试: 精确搜索
首页 > 其他分享> 文章详细

(04)表引擎

2021-07-30 15:00:42  阅读:219  来源: 互联网

标签:04 分区 optimize 引擎 数据 MergeTree ClickHouse


4.1 表引擎的使用 表引擎是 ClickHouse 的一大特色。可以说, 表引擎决定了如何存储标的数据。包括: ➢ 数据的存储方式和位置,写到哪里以及从哪里读取数据 ➢ 支持哪些查询以及如何支持。 ➢ 并发数据访问。 ➢ 索引的使用(如果存在)。 ➢ 是否可以执行多线程请求。 ➢ 数据复制参数。 表引擎的使用方式就是必须显式在创建表时定义该表使用的引擎,以及引擎使用的相关参数。 特别注意:引擎的名称大小写敏感 4.2 TinyLog 以列文件的形式保存在磁盘上,不支持索引,没有并发控制。一般保存少量数据的小表, 生产环境上作用有限。可以用于平时练习测试用。 如: create table t_tinylog ( id String, name String) engine=TinyLog ;   4.3 Memory 内存引擎,数据以未压缩的原始形式直接保存在内存当中,服务器重启数据就会消失。 读写操作不会相互阻塞,不支持索引。简单查询下有非常非常高的性能表现(超过 10G/s)。 一般用到它的地方不多,除了用来测试,就是在需要非常高的性能,同时数据量又不太 大(上限大概 1 亿行)的场景。 4.4 MergeTree ClickHouse 中最强大的表引擎当属 MergeTree(合并树)引擎及该系列(*MergeTree) 中的其他引擎,支持索引和分区,地位可以相当于 innodb 之于 Mysql。 而且基于 MergeTree,还衍生除了很多小弟,也是非常有特色的引擎。 ➢ 建表语句

插入数据

 

 MergeTree 其实还有很多参数(绝大多数用默认值即可),但是三个参数是更加重要的,

也涉及了关于 MergeTree 的很多概念。 4.4.1 partition by 分区 (可选项) 作用 学过 hive 的应该都不陌生,分区的目的主要是降低扫描的范围,优化查询速度 ➢ 如果不填 只会使用一个分区。 ➢ 分区目录 MergeTree 是以列文件+索引文件+表定义文件组成的,但是如果设定了分区那么这 些文件就会保存到不同的分区目录中。 ➢ 并行 分区后,面对涉及跨分区的查询统计,ClickHouse 会以分区为单位并行处理。 ➢ 数据写入与分区合并 任何一个批次的数据写入都会产生一个临时分区,不会纳入任何一个已有的分区。写入 后的某个时刻(大概 10-15 分钟后),ClickHouse 会自动执行合并操作(等不及也可 以手动通过 optimize 执行),把临时分区的数据,合并到已有分区中。 optimize table xxxx final; ➢ 例如 再次执行上面的插入操作

 查看数据并没有纳入任何分区

 

手动 optimize 之后 hadoop202 :) optimize table t_order_mt final; 再次查询

 

标签:04,分区,optimize,引擎,数据,MergeTree,ClickHouse
来源: https://blog.csdn.net/song_quan_/article/details/119247353

本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享;
2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关;
3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关;
4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除;
5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。

专注分享技术,共同学习,共同进步。侵权联系[81616952@qq.com]

Copyright (C)ICode9.com, All Rights Reserved.

ICode9版权所有