ICode9

精准搜索请尝试: 精确搜索
首页 > 其他分享> 文章详细

Hive架构设计总结

2021-09-08 10:59:30  阅读:140  来源: 互联网

标签:总结 架构设计 hiveserver mapreduce hive 查询 client Hive sql


在这里插入图片描述

一角色名称

user interface,Metestore,hiveserver2,Driver

二角色作用

userInterface分为,hiveCli,hiveClient,hwi,其中最常用的是cli,cli启动的时候,会同时启动一个hive副本。client是hive的客户端,用户连接至hiveserver,在启动client模式的时候需要指出hiveserver所在节点,并在该节点启动hiveserver,作为用户与hive交互的窗口。

  • metestore用于存储元数据,包括表库分区信息,元数据存储在数据库中,如mysql,derby。
  • hiverserver是hive与client端的交换终端,client通过hiverser构建SQL语句,访问hadoop,并把数据通过hiverserver返回到client端,解耦作用
  • Driver 里面包含了sql complier,sql optimsizer,executor等解释器,编译器,优化器,完成hql查询语句从此法分析,语法分析编译优化以及产生查询计划,生成的查询计划存储在HDFS中,并在随后有mapreduce调用执行
  • Hive的数据存储在HDFS中,大部分的查询,计算是由mapreduce完成的(select*不是由mapreduce完成)

三 角色关联

首先,用户将sql语句提交到hiveCli,hivecli将sql通过hiveserver传递给Driver,driver首先与metestore交互,查看表库分区信息是否一致,然后对hivesql进行词法分析,语法分析,编译优化,以及生成查询计划,最后执行,执行结束后将结果返回到hivecli。

标签:总结,架构设计,hiveserver,mapreduce,hive,查询,client,Hive,sql
来源: https://blog.csdn.net/qq_32118757/article/details/120173318

本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享;
2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关;
3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关;
4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除;
5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。

专注分享技术,共同学习,共同进步。侵权联系[81616952@qq.com]

Copyright (C)ICode9.com, All Rights Reserved.

ICode9版权所有