第一次弄爬虫部署 搞好久... win7下弄的
一、环境安装
pytho scrapy scrapyd scrayd-client
可以用后面三个装的有pip的话可以直接用pip装 很快
看是否安装成功:
在cmd里面输scrapyd 出现下面的画面就是成功了

二、部署部分
一般第一次弄的话直接敲 scrapyd-deploy 就可以 因为只有一个项目嘛
但是这里在win下一般不会识别 需要自己添加两个文件在安装python的目录下,我做的时候用的虚拟环境所以我就放在虚拟环境下面的。
解决方案:
在你的python目录下的Scripts文件夹中,我的路径是“F:\py\scrapy\venv\Scripts”,增加一个scrapyd-deploy.bat文件。
内容为:
@echo off
F:\py\scrapy\hello\venv\Scripts\python F:\py\scrapy\hello\venv\Scripts\scrapyd-deploy %*
和 scrapyd.bat文件
内容:
@echo off
F:\py\scrapy\hello\venv\Scripts\python F:\py\scrapy\hello\venv\Scripts\scrapyd-deploy %*
识别之后我在这里卡了好久 虽然能识别出来 但是我打了scrapy-deploy之后一直是这个错误:

搜好久都没有看到 后来看到这篇https://blog.csdn.net/u013708440/article/details/53425655
里面的三.2解决了我的问题
解决方案:
开两个cmd,在同项目根目录下,一个先打scrapyd运行起来之后,在打scrapy-deploy
scrapy-deploy这个命令可以加参数
可以是这样的
scrapyd-deploy <target> -p <project>
这里的target就是这个

可以自己定义的 自己加上去就好了 后面那个project 就是图里面的testbot
后面就要用到curl了 但是win不自带
找到了一篇博 解决的很完美
https://blog.csdn.net/qq_21126979/article/details/78690960?locationNum=10&fps=1
参考:
https://blog.csdn.net/xiaoquantouer/article/details/53164306 整个过程写的很好 不过就是我被坑那里没解释清楚... 其他完美
本文详细记录了在Windows 7系统下首次部署Scrapyd遇到的问题及解决方案。包括环境安装、Scrapyd识别问题、解决Scrapyd-deploy错误以及使用curl命令的注意事项,帮助读者顺利部署Scrapyd爬虫项目。

4688

被折叠的 条评论
为什么被折叠?



