ICode9

精准搜索请尝试: 精确搜索
首页 > 其他分享> 文章详细

2021年大数据HBase(十二):Apache Phoenix 二级索引

2021-07-18 11:03:50  阅读:240  来源: 互联网

标签:Phoenix DTL 查询 索引 2021 Apache HBase ORDER


全网最详细的大数据HBase文章系列,强烈建议收藏加关注!

新文章都已经列出历史文章目录,帮助大家回顾前面的知识重点。

目录

系列历史文章

前言

Apache Phoenix 二级索引

一、索引分类

二、索引分类_全局索引

三、索引分类_本地索引

四、索引分类_覆盖索引

五、索引分类_函数索引

六、索引案例一: 创建全局索引+覆盖索引

1、需求

2、创建索引

3、查询数据

4、查询执行计划

5、删除索引

6、查看索引

7、测试查询所有列是否会使用索引

8、使用Hint强制使用索引

七、索引案例二: 创建本地索引

1、查看数据

2、删除索引

八、陌陌案例二级索引构建

1、创建本地函数索引

2、执行数据查询


系列历史文章

2021年大数据HBase(十一):Apache Phoenix的视图操作

2021年大数据HBase(十):Apache Phoenix的基本入门操作

2021年大数据HBase(九):Apache Phoenix的安装

2021年大数据HBase(八):Apache Phoenix的基本介绍

2021年大数据HBase(七):Hbase的架构!【建议收藏】

2021年大数据HBase(六):HBase的高可用!【建议收藏】

2021年大数据HBase(五):HBase的相关操作-JavaAPI方式!【建议收藏】

2021年大数据HBase(四):HBase的相关操作-客户端命令式!【建议收藏】

2021年大数据HBase(三):HBase数据模型

2021年大数据HBase(二):HBase集群安装操作

2021年大数据HBase(一):HBase基本简介

前言

 2021大数据领域优质创作博客,带你从入门到精通,该博客每天更新,逐渐完善大数据各个知识体系的文章,帮助大家更高效学习。

 

Apache Phoenix 二级索引

因为没有建立索引,组合条件查询效率较低,而通过使用Phoenix,我们可以非常方便地创建二级索引。Phoenix中的索引,其实底层还是表现为HBase中的表结构。这些索引表专门用来加快查询速度。

 

一、索引分类

  • 全局索引
  • 本地索引
  • 覆盖索引
  • 函数索引

二、索引分类_全局索引

  • 全局索引适用于读多写少业务
  • 全局索引绝大多数负载都发生在写入时,当构建了全局索引时,Phoenix会拦截写入(DELETE、UPSERT值和UPSERT SELECT)上的数据表更新,构建索引更新,同时更新所有相关的索引表,开销较大
  • 读取时,Phoenix将选择最快能够查询出数据的索引表。默认情况下,除非使用Hint,如果SELECT查询中引用了其他非索引列,该索引是不会生效的
  • 全局索引一般和覆盖索引搭配使用,读的效率很高,但写入效率会受影响
  • 创建语法:   CREATE INDEX 索引名称 ON 表名 (列名1, 列名2, 列名3...)

三、索引分类_本地索引

  • 本地索引适合写操作频繁,读相对少的业务
  • 当使用SQL查询数据时,Phoenix会自动选择是否使用本地索引查询数据
  • 在本地索引中,索引数据和业务表数据存储在同一个服务器上,避免写入期间的其他网络开销
  • 在Phoenix 4.8.0之前,本地索引保存在一个单独的表中,在Phoenix 4.8.1中,本地索引的数据是保存在一个影子列蔟中
  • 本地索引查询即使SELECT引用了非索引中的字段,也会自动应用索引的
  • 注意:创建表的时候指定了SALT_BUCKETS,是不支持本地索引的

  • 创建语法:   CREATE LOCAL INDEX 索引名称 ON 表名 (列名1, 列名2, 列名3...) 

 

四、索引分类_覆盖索引

hoenix提供了覆盖的索引,可以不需要在找到索引条目后返回到主表。Phoenix可以将关心的数据捆绑在索引行中,从而节省了读取时间的开销。

       例如,以下语法将在v1和v2列上创建索引,并在索引中包括v3列,也就是通过v1、v2就可以直接把数据查询出来。

CREATE INDEX my_index ON my_table (v1,v2) INCLUDE(v3)
  • 可以被表中任意的字段构建覆盖 索引, 建立之后, 可以在查询的时候, 不需要在去到主表查询, 可以减少查询的时间, 提升效率, 但是带来弊端, 导致数据出现冗余情况

  • 注意: 无法单独使用, 必须结合全局或者本地索引

  • 创建语法: create [local] index my_index on 目标表(列1,列2...) include(覆盖索引列....)

五、索引分类_函数索引

函数索引(4.3和更高版本)可以支持在列上创建索引,还可以基于任意表达式上创建索引。然后,当查询使用该表达式时,可以使用索引来检索结果,而不是数据表。例如,可以在UPPER(FIRST_NAME||‘ ’||LAST_NAME)上创建一个索引,这样将来搜索两个名字拼接在一起时,索引依然可以生效。

-- 创建索引        

CREATE INDEX UPPER_NAME_IDX ON EMP (UPPER(FIRST_NAME||' '||LAST_NAME)) 

-- 以下查询会走索引        

SELECT EMP_ID FROM EMP WHERE UPPER(FIRST_NAME||' '||LAST_NAME)='JOHN DOE'
  •  可以针对某一个函数的结果 构建索引, 将结果数据建好索引, 这样当我们使用这个函数时可以直接将结果返回
  • 创建语法:  create  index  索引名称 on 表名(函数)

 

六、索引案例一: 创建全局索引+覆盖索引

1、需求

我们需要根据用户ID来查询订单的ID以及对应的支付金额。

例如:查询已付款的订单ID和支付金额        

此时,就可以在USER_ID列上创建索引,来加快查询

2、创建索引

create index GBL_IDX_ORDER_DTL on ORDER_DTL(C1."user_id") INCLUDE("id", C1."money");    

  可以在HBase shell中看到,Phoenix自动帮助我们创建了一张GBL_IDX_ORDER_DTL的表。这种表就是一张索引表

 

3、查询数据

select "user_id", "id", "money" from ORDER_DTL where "user_id" = '8237476';

4、查询执行计划

explain select "user_id", "id", "money" from ORDER_DTL where "user_id" = '8237476';

 

5、删除索引

使用drop index 索引名 ON 表名

drop index IDX_ORDER_DTL_DATE on ORDER_DTL;

 

6、查看索引

!table

 

7、测试查询所有列是否会使用索引

explain select * from ORDER_DTL where "user_id" = '8237476';

8、使用Hint强制使用索引

explain select /*+ INDEX(ORDER_DTL GBL_IDX_ORDER_DTL) */ * from ORDER_DTL where USER_ID = '8237476';

 通过执行计划,我们可以观察到查看全局索引,找到ROWKEY,然后执行全表的JOIN,其实就是把对应ROWKEY去查询ORDER_DTL表。

七、索引案例二: 创建本地索引

1、查看数据

explain select * from ORDER_DTL WHERE "status" = '已提交';
explain select * from ORDER_DTL WHERE "status" = '已提交' AND "pay_way" = 1;

 通过观察上面的两个执行计划发现,两个查询都是通过RANGE SCAN来实现的。说明本地索引生效

2、删除索引

drop index LOCAL_IDX_ORDER_DTL on ORDER_DTL;

 

八、陌陌案例二级索引构建

1、创建本地函数索引

CREATE LOCAL INDEX LOCAL_IDX_MOMO_MSG ON MOMO_CHAT.MSG(substr("msg_time", 0, 10), "sender_account", "receiver_account");

2、执行数据查询

explain select "C1"."sender_account", "C1"."receiver_account","C1"."msg_time","C1"."message"  from "MOMO_CHAT"."MSG" where substr("C1"."msg_time",0,10) = '2021-01-16' and "C1"."sender_account" = '17344828999' and "C1"."receiver_account" = '18040049394';

 可以看到,查询速度非常快,0.1秒就查询出来了数据。


  • 标签:Phoenix,DTL,查询,索引,2021,Apache,HBase,ORDER
    来源: https://blog.csdn.net/xiaoweite1/article/details/118873759

    本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享;
    2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关;
    3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关;
    4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除;
    5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。

专注分享技术,共同学习,共同进步。侵权联系[81616952@qq.com]

Copyright (C)ICode9.com, All Rights Reserved.

ICode9版权所有