2021-04-23

2021-04-23 11:31:38 阅读：226 来源： 互联网

标签：1.2 04 23 soft hive usr mysql local 2021

Hive的安装和使用
   我们的版本约定：
   JAVA_HOME=/usr/local/soft/jdk1.8.0_171
   HADOOP_HOME=/usr/local/soft/hadoop-2.7.6
   HIVE_HOME=/usr/local/soft/hive-1.2.1

一、离线安装MySQL
1、查看mysql的依赖
   rpm -qa | grep mysql
2、删除mysql的依赖
   rpm -e --nodeps `rpm -qa | grep mysql`或者
   rpm -e --nodeps `rpm -qa | grep MySQL`
3、离线安装mysql
   安装mysql-server：
       rpm -ivh MySQL-server-5.1.73-1.glibc23.x86_64.rpm

安装mysql-client：
rpm -ivh MySQL-client-5.1.73-1.glibc23.x86_64.rpm

4、启动mysql服务（一般安装MySQL-server时，会自动启动MySQL，故可跳过第四步，如果启动了，再执行如下命令，则会报错！！！）

service mysql start

5、加入到开机启动项
chkconfig mysql on
6、初始化配置mysql服务（第一次直接回车，后面跟着提示设置密码，自己设置密码）
# 通常情况下可以直接执行mysql_secure_installation命令（该命令已在环境变量中）
# 若执行mysql_secure_installation命令时提示找不到，则查找mysql初始化脚本位置
whereis mysql_secure_installation
# 再根据找到的路径执行，通常该命令如下：
/usr/bin/mysql_secure_installation

如果在/usr/bin/mysql_secure_installation 一直是下面报错后

解决办法：
ps aux | grep mysql 然后KILLmysql相关全部进程 Pid是进程号 kill -9 pid1 pid2 …
比如 kill -9 8301 8302 然后再从第4步重新操作。

7、访问mysql服务并修改权限
7.1 登录mysql：（密码请指定mysql_secure_installation初始化脚本执行时自己设定的密码，这里是123456，注意-p后面没有空格）
mysql -uroot -p123456

7.2 切换数据库：
use mysql;

7.3 查看用户权限表：
select user,host from user;

7.4 将root用户允许登录的host设为’%’（表示在任意IP地址都可以使用root用户登录mysql，否则只能在localhost登录）
update user set host = '%' where user = 'root'; （提示报错不用管，忽略）

7.5 刷新权限，让配置生效：
flush privileges

8、修改mysql编码为UTF-8
8.1 编辑配置文件
   vim /etc/my.cnf
8.2 加入以下内容：
[client]
default-character-set = utf8
[mysqld]
character-set-server = utf8
collation-server = utf8_general_ci
   8.3 重启mysql
       service mysql restart
   8.4 登录mysql
       mysql -uroot -p123456
   8.5 查看mysql当前字符集
       show variables like '%char%';

   8.6 创建hive元数据库
       create database hive character set "latin1";

二、安装Hive
前提是：mysql和hadoop必须已经成功启动了
1、解压hive的安装包：
tar -zxvf apache-hive-1.2.1-bin.tar.gz
修改目录名称：
mv apache-hive-1.2.1-bin hive-1.2.1

2、进入hive-1.2.1/conf目录，复制备份文件并重命名
cp hive-env.sh.template hive-env.sh
cp hive-default.xml.template hive-site.xml

3、配置hive的配置文件（hive的配置文件比较大，在linux中查找某项配置比较难，可以先将hive-site.xml文件复制到windows用文本编辑打开，然后ctrl+f查关键字修改，修改之后再放回到hive 的conf目录）
3.1修改hive-env.sh
加入三行内容（大家根据自己的目录和实际情况来添加）
HADOOP_HOME=/usr/local/soft/hadoop-2.7.6
JAVA_HOME=/usr/local/soft/jdk1.8.0_171
HIVE_HOME=/usr/local/soft/hive-1.2.1

3.2修改hive-site.xml

               <property>
                   <name>javax.jdo.option.ConnectionURL</name>
                   <value>jdbc:mysql://master:3306/hive</value>
               </property>
               <property>
                   <name>javax.jdo.option.ConnectionDriverName</name>
                   <value>com.mysql.jdbc.Driver</value>
               </property>
               <property>
                   <name>javax.jdo.option.ConnectionUserName</name>
                   <value>root</value>
               </property>
               <property>
                   <name>javax.jdo.option.ConnectionPassword</name>
                   <value>root</value>
               </property>
               <property>
                   <name>hive.querylog.location</name>
                   <value>/usr/local/soft/hive-1.2.1/tmp</value>
               </property>
               <property>
                   <name>hive.exec.local.scratchdir</name>
                   <value>/usr/local/soft/hive-1.2.1/tmp</value>
               </property>
               <property>
                   <name>hive.downloaded.resources.dir</name>
                   <value>/usr/local/soft/hive-1.2.1/tmp</value>
               </property>
3.4拷贝mysql驱动到$HIVE_HOME/lib目录下
           cp /usr/local/soft/mysql-connector-java-5.1.49.jar ../lib/
3.5将hive的jline-2.12.jar拷贝到hadoop对应目录下，hive的 jline-2.12.jar 位置在：
/usr/local/soft/hive-1.2.1/lib/jline-2.12.jar
将hive的jar拷过去hadoop下：
cp /usr/local/soft/hive-1.2.1/lib/jline-2.12.jar /usr/local/soft/hadoop-2.7.6/share/hadoop/yarn/lib/

3.6配置环境变量，加上HIVE_HOME
修改/etc/profile
vim /etc/profile

重新加载环境变量
source /etc/profile

3.7启动hive：
hive

3.8 修改mysql元数据库hive，让其hive支持utf-8编码以支持中文
登录mysql：
mysql -u root -p123456
切换到hive数据库:
use hive;

1).修改字段注释字符集
alter table COLUMNS_V2 modify column COMMENT varchar(256) character set utf8;

2).修改表注释字符集
alter table TABLE_PARAMS modify column PARAM_VALUE varchar(4000) character set utf8;

3).修改分区表参数，以支持分区键能够用中文表示
alter table PARTITION_PARAMS modify column PARAM_VALUE varchar(4000) character set utf8;
alter table PARTITION_KEYS modify column PKEY_COMMENT varchar(4000) character set utf8;

4).修改索引注解
alter table INDEX_PARAMS modify column PARAM_VALUE varchar(4000) character set utf8;

三、测试hive
1、启动hive
2、在hive中创建test1数据库
   create database test1;
3、切换test1数据库：
   use test1;
4、创建students表：
create table students(
    id bigint comment '学生id',
    name string comment '学生姓名',
    age int comment '学生年龄',
    gender string comment '学生性别',
    clazz string comment '学生班级'
) comment '学生信息表'
ROW FORMAT DELIMITED FIELDS TERMINATED BY ',';
5、创建score表：
create table score(
    id bigint comment '学生id',
    score_id bigint comment '科目id',
    score int comment '学生成绩'
) comment '学生成绩表'
ROW FORMAT DELIMITED FIELDS TERMINATED BY ',';

6、查看表信息：
desc students;
desc score;

但此时测试时出现问题，中文注释乱码。原因是数据库那边还需要用utf8编码连接，进行如下操作即可解决：

增加黑色字段即可解决乱码问题

标签：1.2,04,23,soft,hive,usr,mysql,local,2021
来源： https://blog.csdn.net/weixin_45217672/article/details/116046686

本站声明： 1. iCode9 技术分享网（下文简称本站）提供的所有内容，仅供技术学习、探讨和分享；
2. 关于本站的所有留言、评论、转载及引用，纯属内容发起人的个人观点，与本站观点和立场无关；
3. 关于本站的所有言论和文字，纯属内容发起人的个人观点，与本站观点和立场无关；
4. 本站文章均是网友提供，不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属；如您发现该文章侵犯了您的权益，可联系我们第一时间进行删除；
5. 本站为非盈利性的个人网站，所有内容不会用来进行牟利，也不会利用任何形式的广告来间接获益，纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。

ICode9

2021-04-23