首页 > 其他 > 详细

创建Scrapy爬虫框架项目

时间:2020-04-22 14:12:03      阅读:52      评论:0      收藏:0      [点我收藏+]
  1. 打开cmd

  2. 想将项目放在C:\python\PycharmProjects\scrapy_demo文件夹下,cd到该目录下

  3. 输入创建项目命令:scrapy startproject project_name
    技术分享图片

  4. 使用pycharm打开项目所在目录
    技术分享图片

  5. 文件说明
    items.py是定义存储对象的文件,决定爬取哪些项目;
    middlewares.py文件是中间件,一般不用进行修改,主要负责相关组件之间的请求与响应;
    pipelines.py是管道文件,决定爬取后的数据如何进行处理和存储;
    settings.py是项目的设置文件,设置项目管道数据的处理方法、爬虫频率、表名等;
    spiders文件夹中放置的是爬虫主体文件(用于实现爬虫逻辑)和一个__init__.py空文件。

创建Scrapy爬虫框架项目

原文:https://www.cnblogs.com/wuweixiong/p/12751443.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!