【Python自动化Excel】pandas操作Excel的“分分合合”

2022-02-23 10:57:59 阅读：158 来源： 互联网

标签：xlsx sheet Python Excel sourceDf 分分合合数据表

话说Excel数据表，分久必合、合久必分。Excel数据表的“分”与“合”是日常办公中常见的操作。手动操作并不困难，但数据量大了之后，重复性操作往往会令人崩溃。利用Python的Pandas库，便可以自动实现Excel数据表的“分分合合”。下面结合实例来分享本人整理的实用代码片段。（如有更好的方式，欢迎批评指正）

主目录

分：纵向“分”

从数据平台（如问卷平台）中导出的数据往往是清单型的，每一行都是一条记录，数据量大的时候，表格往往是很“长”的。有时需要按照某列的不同数值，将一个总表“分”成单独的一些Excel文件。

纵向“分”原理图

一个工作表“分”为多个Excel文件

def to_excelByColName(sourceDf,colName,outPath,excelName):
    '''
        纵向“分”：一个工作表“分”为多个Excel文件
        根据指定的列名中的不同值，分解Excel，并存储成多个Excel文件。
        sourceDf：原始的DataFrame
        colName：指定列名
        outPath：输出路径
        excelName：文件名，加.xlsx后缀
    '''
    colNameList = sourceDf[colName].drop_duplicates().tolist()
    for eachColName in colNameList:
        sourceDf[sourceDf[colName]==eachColName].to_excel('/'.join([outPath,eachColName+excelName]),index=False)

例如：将20个班级1000名学生的总表，按班级分成20个Excel文件。

调用to_excelByColName函数，效果如下：

to_excelByColName(sourceDf = sourceDf,colName="班级",outPath=".\分班数据表",excelName="生成数据表.xlsx")

在这里插入图片描述

纵向分，演示效果

一个工作表“分”为一个文件的多个sheet

def to_excelByColNameWithSheets(sourceDf,colName,outPath):
    '''
        纵向“分”：一个工作表“分”为一个文件的多个sheet
        根据指定的列名中的不同值，分解Excel，并存储成单个Excel文件的多个Sheet。
        sourceDf：原始的DataFrame
        colName：指定列名
        outPath：输出路径，加.xlsx后缀
    '''
    writer = pd.ExcelWriter(outPath)
    colNameList = sourceDf[colName].drop_duplicates().tolist()
    for eachColName in colNameList:
        sourceDf[sourceDf[colName]==eachColName].to_excel(writer,sheet_name=eachColName)
    writer.save()

例如：将20个班级1000名学生的总表，按班级分成1个Excel文件的20个sheet表。

调用to_excelByColNameWithSheets函数，效果如下：

to_excelByColNameWithSheets(sourceDf = sourceDf,colName="班级",outPath=".\分班数据表\生成数据表.xlsx")

生成效果图

分：横向“分”

在处理数据的时候，有时需要添加多个辅助列，这样也会让数据表越来越“宽”。而最终我们只需要某些关键列即可，那么这就涉及到横向数据分割，或者说提取某些列保持成一个单独的数据表。横向的分割只需要给DataFrame传入列名列表即可。

例如：只需要数据表中的姓名和班级字段，可以这样写。

df1 = sourceDf[["姓名","班级"]]
df1.to_excel("只含有姓名和班级的数据表.xlsx")

合：纵向“合”

对于结构相同的数据，在数据处理时可以将其在纵向上拼接，方便一起处理。

纵向“合”原理图

多个Excel文件合并成一个工作表

def readExcelFilesByNames(fpath,fileNameList=[],header=0):
    '''
        纵向“合”：多个Excel文件合并成一个工作表
        读取路径下指定的Excel文件，并合并成一个总的DataFrame。
        每个Excel文件的数据表格式上要一致。
        1.fpath：必填,是Excel文件所在路径，不加文件名
        2.fileNameList：需要读取的Excel文件名列表
        3.header：指定读取的行数
    '''
    outdf = pd.DataFrame()
    for fileName in fileNameList:
        tempdf =pd.read_excel('/'.join([fpath,fileName]),header = header)
        outdf = pd.concat([outdf,tempdf])
    return outdf

例如：将20个班级的Excel文件，合并成一个数据表

调用readExcelFilesByNames函数，效果如下：

fileNameList = [
    "六1班数据表.xlsx",    "六2班数据表.xlsx",    "六3班数据表.xlsx",    "六4班数据表.xlsx",
    "六5班数据表.xlsx",    "六6班数据表.xlsx",    "六7班数据表.xlsx",    "六8班数据表.xlsx",
    "六9班数据表.xlsx",    "六10班数据表.xlsx",    "六11班数据表.xlsx",    "六12班数据表.xlsx",
    "六13班数据表.xlsx",    "六14班数据表.xlsx",    "六15班数据表.xlsx",    "六16班数据表.xlsx",
    "六17班数据表.xlsx",    "六18班数据表.xlsx",    "六19班数据表.xlsx",    "六20班数据表.xlsx",
]
readExcelFilesByNames(fpath = ".\分班数据表",fileNameList=fileNameList)

合并数据表，演示效果

多个Sheet合并成一个工作表

def readExcelBySheetsNames(fpath,header = 0,prefixStr = "",sheetNameStr ="sheetName",prefixNumStr = "prefixNum"):
    '''
        纵向“合”：多个Sheet合并成一个工作表
        读取所有的Excel文件的sheet，并合并返回一个总的DataFrame。
        每个sheet的数据表格式上要一致。
        1.fpath：必填,是Excel文件的路径，加文件名
        2.会生成两个新列：sheetName和prefixNum，方便数据处理
            sheetName列是所有sheet的名称列
            prefixNum列是计数列
        3.header：指定读取的行数
    '''
    xl = pd.ExcelFile(fpath)
    # 获取Excel文件内的所有的sheet名称
    sheetNameList = xl.sheet_names
    outfd = pd.DataFrame()
    num  = 0 
    for sheetName in sheetNameList:
        num += 1
        data = xl.parse(sheetName,header=header)
        # 产生sheet名称列和计数列
        data[sheetNameStr] = sheetName
        data[prefixNumStr] = prefixStr +str(num)
        # 数据表拼接
        outfd = pd.concat([outfd,data.dropna()])
    xl.close()
    return outfd

如下调用readExcelBySheetsNames,运行效果如下：

readExcelBySheetsNames(fpath = ".\分班数据表\总数据表.xlsx",sheetNameStr ="sheet名",prefixNumStr = "sheet序号")

演示效果

合：横向“合”

对于不同Excel工作表之间的横向合并，主要是用根据某些列（如：姓名、身份证号等）进行合并。在pandas库中可以用merge方法来实现，这是个十分好用的方式，展开讲篇幅较长，后续详细整理。

DataFrame.merge(right, how='inner', on=None, left_on=None, right_on=None, left_index=False, right_index=False, sort=False, suffixes=('_x', '_y'), copy=True, indicator=False, validate=None)

结语

本文所谈的Python处理Excel文件方式主要是基于pandas库的，主要针对的是清单型的数据表。

数据表的分主要涉及的是文件保存（写入），对程序来说属于输出环节；

数据表的合主要针对的是文件打开（读取），对程序而言属于输入环节。

以上代码在针对大量重复性的表格分与合时，优势巨大；但对于偶尔、少量的分与合，也许用鼠标点击更快。

技术没有好坏之分，需要灵活使用！

这里我为大家准备了一份针对零基础的Python学习资料，有兴趣的同学可以看看哦。

「 Python经验分享」

学好 Python 不论是就业还是做副业赚钱都不错，但要学会 Python 还是要有一个学习规划。最后给大家免费分享一份全套的 Python 学习资料，给那些想学习 Python 的小伙伴们一点帮助！

一、Python所有方向的学习路线

Python所有方向路线就是把Python常用的技术点做整理，形成各个领域的知识点汇总，它的用处就在于，你可以按照上面的知识点去找对应的学习资源，保证自己学得较为全面。

二、学习软件

工欲善其事必先利其器。学习Python常用的开发软件都在这里了，给大家节省了很多时间。

三、入门学习视频

我们在看视频学习的时候，不能光动眼动脑不动手，比较科学的学习方法是在理解之后运用它们，这时候练手项目就很适合了。

四、实战案例

光学理论是没用的，要学会跟着一起敲，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。

五、面试资料

我们学习Python必然是为了找到高薪的工作，下面这些面试题是来自阿里、腾讯、字节等一线互联网大厂最新的面试资料，并且有阿里大佬给出了权威的解答，刷完这一套面试资料相信大家都能找到满意的工作。

这份完整版的Python全套学习资料已经上传CSDN
朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】。

请添加图片描述

标签：xlsx,sheet,Python,Excel,sourceDf,分分合合,数据表
来源： https://blog.csdn.net/m0_59236602/article/details/123085074

本站声明： 1. iCode9 技术分享网（下文简称本站）提供的所有内容，仅供技术学习、探讨和分享；
2. 关于本站的所有留言、评论、转载及引用，纯属内容发起人的个人观点，与本站观点和立场无关；
3. 关于本站的所有言论和文字，纯属内容发起人的个人观点，与本站观点和立场无关；
4. 本站文章均是网友提供，不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属；如您发现该文章侵犯了您的权益，可联系我们第一时间进行删除；
5. 本站为非盈利性的个人网站，所有内容不会用来进行牟利，也不会利用任何形式的广告来间接获益，纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。

ICode9