ICode9

精准搜索请尝试: 精确搜索
首页 > 编程语言> 文章详细

Python爬虫批量爬取网页数据并保存到Excel中

2021-04-26 23:33:04  阅读:327  来源: 互联网

标签:content zh name Python Excel findall 爬取 re event


文章目录

1、环境准备

pip install requests
pip install re
pip install openpyxl

2、源代码

import requests
import re
import openpyxl

# 要爬取的网页
baseurl = 'https://zhuanlan.zhihu.com/p/357510629'

#  创建Excel表并写入数据
wb = openpyxl.Workbook()  # 创建Excel对象
ws = wb.active  # 获取当前正在操作的表对象
# 往表中写入标题行,以列表形式写入!
ws.append(['事件名称', '时间', '地点名称', '事件简介'])

# 请求头
headers = {
    'Accept-Language': 'zh-CN,zh;q=0.8,zh-TW;q=0.7,zh-HK;q=0.5,en-US;q=0.3,en;q=0.2',
    'Connection': 'keep-alive',
    'User-Agent': 'Mozilla/5.0 (X11; Linux x86_64; rv:60.0) Gecko/20100101 Firefox/60.0',
    'Upgrade-Insecure-Requests': '1'
}

content = requests.get(baseurl,headers=headers).content.decode('utf-8')


# 事件名称
event_name = re.findall(r"<td>事件</td><td>(.+?)</td>",content)
print(event_name)

# 时间
start_time = re.findall(r"<td>时间</td><td>(.+?)</td>",content)
print(start_time)

# 地点名称
area_name = re.findall(r"<td>地点</td><td>(.+?)</td>",content)
print(area_name)

# 事件简介
introduction = re.findall(r"<td>简介</td><td>(.+?)</td>",content)
print(introduction)

for i in range(len(event_name)):  # 每页25条数据,写入工作表中
    ws.append([event_name[i], start_time[i], area_name[i], introduction[i]])

wb.save('数据.xlsx')  # 存入所有信息后,保存为filename.xlsx

标签:content,zh,name,Python,Excel,findall,爬取,re,event
来源: https://blog.csdn.net/m0_45234510/article/details/116176846

本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享;
2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关;
3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关;
4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除;
5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。

专注分享技术,共同学习,共同进步。侵权联系[81616952@qq.com]

Copyright (C)ICode9.com, All Rights Reserved.

ICode9版权所有