标签：文件 08 py 单词 词频 编写 运行

WordCount程序任务：

1.用你最熟悉的编程环境，编写非分布式的词频统计程序。

• 读文件
• 分词（text.split列表）
• 按单词统计（字典,key单词，value次数）
• 排序（list.sort列表）
• 输出
• 

   

   

   

   

   

   

在Ubuntu中实现运行。

• 准备txt文件
• 编写py文件
• python3运行py文件分析txt文件。

2.用MapReduce实现词频统计

2.1编写Map函数

• 编写mapper.py
• 授予可运行权限
• 本地测试mapper.py
• 

   

   

   

   

   

   

2.2编写Reduce函数

• 编写reducer.py
• 授予可运行权限
• 本地测试reducer.py
• 

   

   

   

   

   

   

   

   

2.3分布式运行自带词频统计示例

• 启动HDFS与YARN
• 准备待处理文件,上传到HDFS上
• 运行hadoop-mapreduce-examples-2.7.1.jar
• 查看结果
• 

   

   

   

   

   

   

   

   

   

   

   

   

2.4 分布式运行自写的词频统计

• 用Streaming提交MapReduce任务：
  • 查看hadoop-streaming的jar文件位置：/usr/local/hadoop/share/hadoop/tools/lib/
  • 配置stream环境变量
  • 编写运行文件run.sh
  • 运行run.sh运行
• 查看运行结果
• 停止HDFS与YARN
• 

   

   

   

   

   

   

   

   

标签：文件,08,py,单词,词频,编写,运行
来源： https://www.cnblogs.com/handsomeH/p/15625794.html

本站声明： 1. iCode9 技术分享网（下文简称本站）提供的所有内容，仅供技术学习、探讨和分享；
2. 关于本站的所有留言、评论、转载及引用，纯属内容发起人的个人观点，与本站观点和立场无关；
3. 关于本站的所有言论和文字，纯属内容发起人的个人观点，与本站观点和立场无关；
4. 本站文章均是网友提供，不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属；如您发现该文章侵犯了您的权益，可联系我们第一时间进行删除；
5. 本站为非盈利性的个人网站，所有内容不会用来进行牟利，也不会利用任何形式的广告来间接获益，纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。