ICode9

精准搜索请尝试: 精确搜索
首页 > 其他分享> 文章详细

知识点整理:Sqoop

2021-05-14 19:34:11  阅读:101  来源: 互联网

标签:知识点 简介 流程 Sqoop Hadoop MapReduce 导入 整理


文章目录

1 Sqoop 简介

Sqoop是一个用于在 Hadoop 和关系数据库之间传输数据的工具

将导入或导出命令翻译成 MapReduce 程序来并行操作和容错,在翻译出的 MapReduce 中主要是对 inputformat 和 outputformat 进行定制


2 Sqoop 工作流程

  1. 读取要导入数据的表的结构,生成运行类,默认是 QueryResult,打成 jar 包,然后提交给 Hadoop
  2. 设置好 job 的各种参数,如 InputFormatClass、OutputFormatClass、Mapper、taskNumbers等
  3. 之后就是由 Hadoop 执行 MapReduce 来执行 Import 命令了

标签:知识点,简介,流程,Sqoop,Hadoop,MapReduce,导入,整理
来源: https://blog.csdn.net/cys975900334/article/details/116802543

本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享;
2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关;
3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关;
4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除;
5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。

专注分享技术,共同学习,共同进步。侵权联系[81616952@qq.com]

Copyright (C)ICode9.com, All Rights Reserved.

ICode9版权所有