标签:0125 reduceTask 分区 ReduceTask maptask 并行度 阶段 拉取 数据
然后我们继续看一下maptask的工作机制,这个前面也有提过了,
可以看到左边是maptask处理完的数据,然后到了reduceTask阶段,会首先把数据
拉取过来当然,是按照分区拉取的对吧.这是copy阶段
数据拿过来以后,对数据进行合并归并排序,可以看到,不同maptask中的,分区0,会给弄到一个
reduceTask中去,合并排序,同理,分区1,会弄到一个reduceTask2中....
这个阶段是sort阶段.
标签:0125,reduceTask,分区,ReduceTask,maptask,并行度,阶段,拉取,数据 来源: https://blog.csdn.net/lidew521/article/details/122201098
本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享; 2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关; 3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关; 4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除; 5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。