scrapy命令行详解

1:创建scrapy项目

scrapy startproject XXXXXX

2:进入项目目录

cd XXXX

3:生成spider

scrapy genspider baidu www.baidu.com

4:列出创建spider所有可用模板

scrapy genspider -l

5:指定模板生成spider

scrapy genspider -t crawl zhihu www.zhihu.com

6:运行spider

scrapy crawl spider

7:检查语法是否有错误

scrapy check

8:返回所有spider的名称

scrapy list

9:测试爬取速度

scrapy bench

10:爬取结果输出到指定文件

scrapy crawl quotes -o quotes.csv

©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容