Python3.5 用正则和协程实现简单的网页图片批量下载,需要从浏览器先获取网页源代码,保存到一个文件中
from gevent import monkey
monkey.patch_all()
import gevent
import urllib.request
import re
def download_img(img_name, img_url):
"""下载图片方法"""
# urllib.request打开和浏览url中的内容
req = urllib.request.urlopen(img_url)
img_content = req.read()
# 写入图片
with open(img_name, 'wb') as f:
f.write(img_content)
def patch_img_url():
"""正则匹配出来所有的图片地址"""
# 保存网页源代码的文件路径
with open('./img.html', 'r', encoding='utf-8') as f:
url_content = f.read()
return re.findall(r"https://[^(\s|\"|})]+?\.jpg", url_content)
def main():
img_list_spawn = [] # 定义空列表,保存所有图片下载的协程卵
ret = patch_img_url() # 获得所有的图片消息列表
# 把patch_img_url()函数中,正则匹配到的地址创建协程
i = 1 # 计数器,用来简单的自动生成图片的名字
# 把所有图片一次性的创建下载任务,用列表保存下载图片的所有协程
for img_url in ret:
img_list_spawn.append(gevent.spawn(download_img, str(i) + '.jpg', img_url))
i += 1
gevent.joinall(img_list_spawn) # joinall等待所有协程执行完毕
if __name__ == "__main__":
main()
注意:正则表达式所匹配的图片地址是需要根据每个网站的源代码规律所匹配出来的,也就是每个网站的所需要的正则表达式都是不同的。
使用Python3.5的gevent库和正则表达式,从网页源代码中批量下载图片。通过协程提高下载效率,正则匹配图片URL。

5792

被折叠的 条评论
为什么被折叠?



