首页 > 其他 > 详细

scrapy 请求传参

时间:2020-04-13 09:27:12      阅读:49      评论:0      收藏:0      [点我收藏+]

 scrapy 请求传参

def parse(self, response):
        div_list = response.css(div.post_item)
        for div in div_list:
            item = ScrItem()
            dec = div.css(p.post_item_summary::text).extract()[-1]
            author = div.css(.post_item_foot a::text).extract_first()
            item[author] = author
       # 将数据存入meta中,callback调用下一个函数
       yield Request(url, callback=self.parse_detail, meta={item:item})
        next_page = response.css(div.pager a:last-child::attr(href)).extract_first()
        yield Request(next_page)

    def parse_detail(self, response):
     # 将数据取出
        item = response.meta.get(item)
        content = response.css(#cnblogs_post_body).extract_first()
        item[content] = content
        yield item

 

scrapy 请求传参

原文:https://www.cnblogs.com/baohanblog/p/12689087.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!