Python3用正则和协程实现简单的网页图片批量下载

使用Python3.5的gevent库和正则表达式,从网页源代码中批量下载图片。通过协程提高下载效率,正则匹配图片URL。

Python3.5 用正则和协程实现简单的网页图片批量下载,需要从浏览器先获取网页源代码,保存到一个文件中

from gevent import monkey
monkey.patch_all()
import gevent
import urllib.request
import re

def download_img(img_name, img_url):
	"""下载图片方法"""
	# urllib.request打开和浏览url中的内容
	req = urllib.request.urlopen(img_url)
	img_content = req.read()
	
	# 写入图片
	with open(img_name, 'wb') as f:
		f.write(img_content)


def patch_img_url():
	"""正则匹配出来所有的图片地址"""
	
	# 保存网页源代码的文件路径
	with open('./img.html', 'r', encoding='utf-8') as f:
		url_content = f.read()
	return re.findall(r"https://[^(\s|\"|})]+?\.jpg", url_content)


def main():
	img_list_spawn = []  # 定义空列表,保存所有图片下载的协程卵
	ret = patch_img_url()  # 获得所有的图片消息列表

	# 把patch_img_url()函数中,正则匹配到的地址创建协程
	i = 1  # 计数器,用来简单的自动生成图片的名字
	
	# 把所有图片一次性的创建下载任务,用列表保存下载图片的所有协程
	for img_url in ret:
		img_list_spawn.append(gevent.spawn(download_img, str(i) + '.jpg', img_url))
		i += 1
	gevent.joinall(img_list_spawn)  # joinall等待所有协程执行完毕

if __name__ == "__main__":
	main()

注意:正则表达式所匹配的图片地址是需要根据每个网站的源代码规律所匹配出来的,也就是每个网站的所需要的正则表达式都是不同的。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值