ICode9

精准搜索请尝试: 精确搜索
首页 > 数据库> 文章详细

Sqoop从关系型数据库往HDFS上导入及导出文件

2020-01-23 14:37:35  阅读:242  来源: 互联网

标签:HDFS Sqoop target 数据库 sqoop 导入 mysql root dir


将关系型数据库(RDBMS)导入到HDFS         关系型数据库(RDBMS)导入到Hive   sqoop参数笔记没有   (pdf格式的) 安装的时候需要在lib下面放mysql的jar包,才能跟mysql有关联   sqoop连接mysql命令(只有防火墙关闭之后才能连接上mysql) 导入   关系型数据库导入到非关系型数据库 1.1、将mysql数据库的内容传进hdfs ./sqoop import --connect jdbc:mysql://node52:3306/1705A --username root --password root --table t_stu --target-dir /sqoop/test --delete-target-dir --num-mappers 1 --fields-terminated-by "\t"     2.1、按照条件查找       没有--table       目录换了,是新的目录test2            之后结束之后要加 $CONDITIONS; (最后有分号) ./sqoop import --connect jdbc:mysql://192.168.224.132:3306/vmware --username root --password root --target-dir /sqoop/test2 --delete-target-dir --num-mappers 1 --fields-terminated-by "\t" --query 'select * from student where id>=2 and $CONDITIONS;'   2.2、另外一种条件查找方式(最后query去掉;改成  --table  后面加条件)   ./sqoop import --connect jdbc:mysql://192.168.224.132:3306/vmware --username root --password root --target-dir /sqoop/test3 --delete-target-dir --num-mappers 1 --fields-terminated-by "\t" --table student --where "id<2"   2.3、光导出 id 这一列    (导入指定的列)   ./sqoop import --connect jdbc:mysql://192.168.224.132:3306/vmware --username root --password root --target-dir /sqoop/test4 --delete-target-dir --num-mappers 1 --fields-terminated-by "\t" --table student --columns id       3.1、查看hadoop上面的信息 hadoop fs -cat   导出   非关系型数据库导出到关系型数据库   1、创建一个和hdfs数据一致的表结构 2、导入到数据库的命令 ./sqoop export --connect jdbc:mysql://192.168.224.132:3306/vmware --username root --password root --export-dir /sqoop/test/part-m-00000 --table student2 --num-mappers 2 --input-fields-terminated-by "\t"         --split-by id   以id切割 --null-string "*"  空字符串以 * 号代替 --null-non-string   非空字符串以 * 号代替 徐磊的博客 发布了18 篇原创文章 · 获赞 2 · 访问量 314 私信 关注

标签:HDFS,Sqoop,target,数据库,sqoop,导入,mysql,root,dir
来源: https://blog.csdn.net/qq_44472134/article/details/104075774

本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享;
2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关;
3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关;
4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除;
5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。

专注分享技术,共同学习,共同进步。侵权联系[81616952@qq.com]

Copyright (C)ICode9.com, All Rights Reserved.

ICode9版权所有