python爬取知乎热榜了解时事

本文介绍如何通过Python爬虫获取知乎热榜的标题和简介,并保存到本地文件。首先分析热榜页面,发现简介内容需从源代码中通过正则表达式提取。接着展示代码实现,包括请求头设置、页面源代码获取、BeautifulSoup解析和正则表达式匹配,最终将信息存储到文件,可进一步扩展为邮件通知功能。

python爬取知乎热榜了解时事

需求

​ 知乎热榜是我们了解时事的一个重要途径,但是如果我们每天没有那么多时间来刷知乎,但是还是想要了解知乎热榜的话,我们该怎么办呢?在这里,我想到了通过知乎爬虫的手段,获取知乎热榜的标题和简介,保存到本地文件,从而获取到每一天的知乎热榜内容,这样,我们只需要查看本地文件内容,就可以快速的了解今天一天的时事。

设计

首先进入知乎热榜的界面,链接为

https://www.zhihu.com/billboard

进入链接后可看到如下页面:

在这里插入图片描述

右键检查打开开发者工具,首先选择网络进行抓包:
在这里插入图片描述

通过网络进行抓包,查看billboard文件,进行预览,可以看见在知乎热榜界面的内容基本都可以看见(提示:如果出现不可预览,可试着禁用JavaScrip在进行抓包),所以,获取热榜标题,我们可以直接在代码树(element)中得到。 但是我们会发现在预览界面没有热榜内容的简介。说明热榜内容的简介是由浏览器进行渲染得到的,而不是在数据包中获取的。
这时,右键选择查看源代码:

【资源说明】 基于对热榜话题的数据抓取、分析与可视化python源码+数据集.tar基于对热榜话题的数据抓取、分析与可视化python源码+数据集.tar基于对热榜话题的数据抓取、分析与可视化python源码+数据集.tar基于对热榜话题的数据抓取、分析与可视化python源码+数据集.tar基于对热榜话题的数据抓取、分析与可视化python源码+数据集.tar基于对热榜话题的数据抓取、分析与可视化python源码+数据集.tar基于对热榜话题的数据抓取、分析与可视化python源码+数据集.tar基于对热榜话题的数据抓取、分析与可视化python源码+数据集.tar 基于对热榜话题的数据抓取、分析与可视化python源码+数据集.tar基于对热榜话题的数据抓取、分析与可视化python源码+数据集.tar 基于对热榜话题的数据抓取、分析与可视化python源码+数据集.tar 【备注】 1、该资源内项目代码都经过测试运行成功,功能ok的情况下才上传的,请放心下载使用!有问题请及时沟通交流。 2、适用人群:计算机相关专业(如计科、信息安全、数据科学与大数据技术、人工智能、通信、物联网、自动化、电子信息等)在校学生、专业老师或者企业员工下载使用。 3、用途:项目具有较高的学习借鉴价值,也适用于小白学习入门进阶。当然也可作为毕设项目、课程设计、大作业、初期项目立项演示等。 4、如果基础还行,或者热爱钻研,亦可在此项目代码基础上进行修改添加,实现其他不同功能。 欢迎下载,沟通交流,互相学习,共同进步!
【资源说明】 1、该资源包括项目的全部源码,下载可以直接使用! 2、本项目适合作为计算机、数学、电子信息等专业的课程设计、期末大作业和毕设项目,作为参考资料学习借鉴。 3、本资源作为“参考资料”如果需要实现其他功能,需要能看懂代码,并且热爱钻研,自行调试。 基于selenium对乎热搜榜进行爬虫并可视化python源码+项目说明+数据集.zip ## 1.Requirements: 打开文件夹, 在地址栏输入 %comspec% 并按回车 ![image-20200613122022518](https://user-images.githubusercontent.com/60550888/84560905-9bd0f700-ad7a-11ea-97df-b1fdab857edc.png) 这样可以在当前目录下打开cmd ![image-20200613122113348](https://user-images.githubusercontent.com/60550888/84560912-b99e5c00-ad7a-11ea-81a1-ceb35c124324.png) 命令行输入`pip install -r requirements.txt` 并回车,安装所需要的库 ![image-20200613123008622](https://user-images.githubusercontent.com/60550888/84560929-ed798180-ad7a-11ea-89c5-ab60efcf118f.png) 之后打开 **zhihu_crawler.py**, 将webdriver设置成自己的绝对地址,并保存 ![image-20200613123234436](https://user-images.githubusercontent.com/60550888/84560942-113cc780-ad7b-11ea-9b67-11e76e6f3331.png) 然后打开**selenium_login.py**, 进行同样的操作,并输入你的乎的账号和密码,并保存 ![image-20200613123427592](https://user-images.githubusercontent.com/60550888/84560954-26b1f180-ad7b-11ea-9f7c-5d1afffe7890.png) 最后打开 **main.py** , 进行同样的操作,并保存 ......
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

学编程的小w

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值