ICode9

精准搜索请尝试: 精确搜索
首页 > 其他分享> 文章详细

6. RDD综合练习

2022-04-19 21:33:00  阅读:128  来源: 互联网

标签:Tom map 分数 每门 练习 RDD 选修 综合


集合运算练习

union()

intersection()

subtract()

cartesian()

 

 

内连接与外连接

join()

leftOuterJoin()

rightOuterJoin()

fullOuterJoin()

 

 

 

 

三、综合练习:学生课程分数

网盘下载sc.txt文件,通过RDD操作实现以下数据分析:

  • 持久化 scm.cache()

  

  • 总共有多少学生?map(), distinct(), count()

  

  • 开设了多少门课程?

  

 

 

  • 生成(姓名,课程分数)键值对RDD,观察keys(),values()

  

  • 每个学生选修了多少门课?map(), countByKey()

  

  • 每门课程有多少个学生选?map(), countByValue() 

  

  • 有多少个100分?

  

 

 

  • Tom选修了几门课?每门课多少分?filter(), map() RDD

  

  • Tom选修了几门课?每门课多少分?map(),lookup()  list

  

  • Tom的成绩按分数大小排序。filter(), map(), sortBy()

  

  • Tom的平均分。map(),lookup(),mean()

  

 

 

  • 生成(课程,分数)RDD,观察keys(),values()

  

  

 

 

  • 每个分数+5分。mapValues(func)

   

  • 求每门课的选修人数及所有人的总分。combineByKey()

   

  • 求每门课的选修人数及平均分,精确到2位小数。map(),round()

  

  • 求每门课的选修人数及平均分。用reduceByKey()实现,并比较与combineByKey()的异同。

   

  • 结果可视化。 pyecharts.charts,Bar()

 

标签:Tom,map,分数,每门,练习,RDD,选修,综合
来源: https://www.cnblogs.com/keepAndGo/p/16165117.html

本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享;
2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关;
3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关;
4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除;
5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。

专注分享技术,共同学习,共同进步。侵权联系[81616952@qq.com]

Copyright (C)ICode9.com, All Rights Reserved.

ICode9版权所有