首页 > Web开发 > 详细

scrapy 动态加载网页的数据提取

时间:2021-04-21 16:33:36      阅读:36      评论:0      收藏:0      [点我收藏+]

scrapy 动态加载网页的数据提取

安装scrapy selenium

pip3 install scrapy-selenium

原理

技术分享图片
第4步的时候,当给到request的时候,Downloader是没有办法弄到动态加载的网页数据的
但是第4和第5步都需要经过一个下载中间件,而这个中间件就是要进行动态网页数据的地方
这里用到将response进行动态数据处理之后,再将response返回给engine

scrapy 动态加载网页的数据提取

原文:https://www.cnblogs.com/MartinTai/p/14684440.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!