ICode9

精准搜索请尝试: 精确搜索
首页 > 其他分享> 文章详细

大数据之-Hadoop3.x_MapReduce_ReduceTask工作机制&并行度---大数据之hadoop3.x工作笔记0125

2022-01-02 12:29:59  阅读:135  来源: 互联网

标签:0125 reduceTask 分区 ReduceTask maptask 并行度 阶段 拉取 数据


然后我们继续看一下maptask的工作机制,这个前面也有提过了,

可以看到左边是maptask处理完的数据,然后到了reduceTask阶段,会首先把数据

拉取过来当然,是按照分区拉取的对吧.这是copy阶段

 

数据拿过来以后,对数据进行合并归并排序,可以看到,不同maptask中的,分区0,会给弄到一个

reduceTask中去,合并排序,同理,分区1,会弄到一个reduceTask2中....

这个阶段是sort阶段.

 

标签:0125,reduceTask,分区,ReduceTask,maptask,并行度,阶段,拉取,数据
来源: https://blog.csdn.net/lidew521/article/details/122201098

本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享;
2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关;
3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关;
4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除;
5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。

专注分享技术,共同学习,共同进步。侵权联系[81616952@qq.com]

Copyright (C)ICode9.com, All Rights Reserved.

ICode9版权所有