首页 > Web开发 > 详细

Scrapy对接selenium+phantomjs

时间:2018-12-01 19:34:40      阅读:225      评论:0      收藏:0      [点我收藏+]

1、创建项目 :Jd
2、middlewares.py中添加selenium
  1、导模块 :from selenium import webdriver
  2、定义中间件
    class seleniumMiddleware(object):
      ...
      def process_request(self,request,info):
        # 注意:参数为request的url
        self.driver.get(request.url)
3、settings.py
  DOWNLOADER_MIDDLEWARES={"Jd.middleware.seleniumMiddleware":20}

Scrapy对接selenium+phantomjs

原文:https://www.cnblogs.com/zengsf/p/10050414.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!