保存为CSV
逗号分隔值(Comma-Separated Values,CSV,有时也称为字符分隔值,因为分隔字符也可以不是逗号),其文件以纯文本形式存储表格数据(数字和文本)。纯文本意味着该文件是一个字符序列,不含必须像二进制数字那样被解读的数据。CSV文件由任意数目的记录组成,记录间以某种换行符分隔;每条记录由字段组成,字段间的分隔符是其它字符或字符串,最常见的是逗号或制表符。
因为爬虫里面我们通常会以字典的形式保存数据,所以这里我就演示如何将字典数据存储为csv文件。
数据存储为csv
def save_csv(data):
with open(‘…/Include/电影.csv’, ‘a’, encoding=‘utf-8’) as file:
注意这里的fieldnames里的字段必须和你要存储的字典里的键对应,否则会报错
fieldnames = [‘电影名称:’, ‘导演与演员:’, ‘电影评分:’, ‘评价人数:’, ‘电影总结:’]
writer = csv.DictWriter(file, fieldnames=fieldnames)
writer.writerow(data)

保存到MySQL
MySQL作为一种开源关系型数据深受开发者的喜欢,在爬虫数据存储的过程中我们也经常使用。
与前面存储为文本形式不同,存储到数据库时我们通常需要先连接数据库,然后才能执行存储操作,这里我事先在mysql里面见一个名为movies的数据库和一张名为movie的数据表。
数据存储到MySQL
def save_mysql(data):
建立连接
db = pymysql.connect(host=‘127.0.0.1’, user=‘root’, password=‘123456’, port=3306, db=‘movies’)
建立游标
cursor = db.cursor()
sql语句
sql = "insert into movice(mname,director,score,allcount,summary) values (%s,%s,%s,%s,%s) "
操作
data = (data[‘电影名称:’], data[‘导演与演员:’], data[‘电影评分:’], data[‘评价人数:’], data[‘电影总结:’])
try:
cursor.execute(sql,data)
db.commit()
except Exception as e:
print(‘插入数据失败’, e)
db.rollback() # 回滚
关闭游标
cursor.close()
关闭连接
db.close()

保存到MongoDB
MongoDB是一个基于分布式文件存储的数据库。由C++语言编写。旨在为WEB应用提供可扩展的高性能数据存储解决方案。
MongoDB是一个介于关系数据库和非关系数据库之间的产品,是非关系数据库当中功能最丰富,最像关系数据库的。它支持的数据结构非常松散,是类似json的bson格式,因此可以存储比较复杂的数据类型。Mongo最大的特点是它支持的查询语言非常强大,其语法有点类似于面向对象的查询语言,几乎可以实现类似关系数据库单表查询的绝大部分功能,而且还支持对数据建立索引。
和上面连接数据库一样,我们存储数据之前需要先连接数据库,然后执行对应的数据库语句才能完成操作。
数据存储到MongoDB
def save_mongo(data):
创建数据库连接
client = pymongo.MongoClient(host=‘localhost’, port=27017)
指定数据库
db = client.movies
指定集合
collection = db.movie
执行操作
result = collection.insert_one(data)
print(result)


保存到Redis
自我介绍一下,小编13年上海交大毕业,曾经在小公司待过,也去过华为、OPPO等大厂,18年进入阿里一直到现在。
深知大多数Python工程师,想要提升技能,往往是自己摸索成长或者是报班学习,但对于培训机构动则几千的学费,着实压力不小。自己不成体系的自学效果低效又漫长,而且极易碰到天花板技术停滞不前!
因此收集整理了一份《2024年Python开发全套学习资料》,初衷也很简单,就是希望能够帮助到想自学提升又不知道该从何学起的朋友,同时减轻大家的负担。






既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,基本涵盖了95%以上Python开发知识点,真正体系化!
由于文件比较大,这里只是将部分目录大纲截图出来,每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频,并且后续会持续更新
如果你觉得这些内容对你有帮助,可以添加V获取:vip1024c (备注Python)

文末有福利领取哦~
👉一、Python所有方向的学习路线
Python所有方向的技术点做的整理,形成各个领域的知识点汇总,它的用处就在于,你可以按照上面的知识点去找对应的学习资源,保证自己学得较为全面。
👉二、Python必备开发工具

👉三、Python视频合集
观看零基础学习视频,看视频学习是最快捷也是最有效果的方式,跟着视频中老师的思路,从基础到深入,还是很容易入门的。

👉 四、实战案例
光学理论是没用的,要学会跟着一起敲,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。(文末领读者福利)

👉五、Python练习题
检查学习结果。

👉六、面试资料
我们学习Python必然是为了找到高薪的工作,下面这些面试题是来自阿里、腾讯、字节等一线互联网大厂最新的面试资料,并且有阿里大佬给出了权威的解答,刷完这一套面试资料相信大家都能找到满意的工作。


👉因篇幅有限,仅展示部分资料,这份完整版的Python全套学习资料已经上传
一个人可以走的很快,但一群人才能走的更远。不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎扫码加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!

3a8e9da4805b1a3f9.png)
👉因篇幅有限,仅展示部分资料,这份完整版的Python全套学习资料已经上传
一个人可以走的很快,但一群人才能走的更远。不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎扫码加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!
[外链图片转存中…(img-jyULkxrF-1712470888113)]

691

被折叠的 条评论
为什么被折叠?



