标签：脚本 sys hadoop tokens merge __ query line os

import math
import struct
import traceback
 
import numpy as np
 
 
def mapper():
    #filepath = os.environ["map_input_file"]
    #filename = "zhangpeng66"
    filepath = 'jianku_data'
    for line in sys.stdin:
        if "jianku_data" in filepath:
            line = line.rstrip("\n")
            tokens = line.split('\t')
            if len(tokens) < 13: 
                continue
            os_key = tokens[0]
            title=tokens[5]
            real_title=tokens[10]
            alt=tokens[7]
            ct0=tokens[12]
            print '\t'.join([os_key, title, real_title, alt, ct0])
 
def reducer():
    for line in sys.stdin:
        line = line.strip('\r\n')
        l_info = line.split('\t')
       
        os_key = l_info[0]
 
        for os_query in open(sys.argv[2], 'r'):
            os_query = os_query.strip('\n\r')
            if os_key == os_query:
                print(line)
                break
 
if __name__ == '__main__':
    if sys.argv[1] == 'map':
        mapper()
    elif sys.argv[1] == 'reduce':
        reducer()
    else:
        print >> sys.stderr, 'map or reduce, please.'  

标签：脚本,sys,hadoop,tokens,merge,__,query,line,os
来源： https://www.cnblogs.com/douzujun/p/15529800.html

本站声明： 1. iCode9 技术分享网（下文简称本站）提供的所有内容，仅供技术学习、探讨和分享；
2. 关于本站的所有留言、评论、转载及引用，纯属内容发起人的个人观点，与本站观点和立场无关；
3. 关于本站的所有言论和文字，纯属内容发起人的个人观点，与本站观点和立场无关；
4. 本站文章均是网友提供，不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属；如您发现该文章侵犯了您的权益，可联系我们第一时间进行删除；
5. 本站为非盈利性的个人网站，所有内容不会用来进行牟利，也不会利用任何形式的广告来间接获益，纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。