scrapyd
服务器端
scrapyd 帮助我们运行 scrapy 代码
安装
pip install scrapyd
启动服务
scrapyd
远程访问
客户端远程访问 6800 端口
开发端
安装
pip install scrapyd-client
配置部署scrapy.cfg文件
[deploy:部署名称]
url = http://10.211.55.4:6800/ # 服务器地址
project = tencent2
上传项目到服务器端
scrapyd-deploy 部署名称 -p 项目名称
启动爬虫
curl http://IP:6800/schedule.json -d project=项目名称 -d spider=爬虫名称
停止爬虫
curl http://IP:6800/cancel.json -d project=项目名称 -d job=jobid