首页 > 其他 > 详细

小白写爬虫

时间:2018-07-20 10:42:34      阅读:165      评论:0      收藏:0      [点我收藏+]

写的第一个爬虫,基本思路:

定义 pageMax 方法 获取整体数据信息,最大页数

定义 request的方法获取单页数据

定义parse方法分析单页数据,提取items,存储在生成器yield中

定义search方法循环获取数据,保存在本地

 

 

 

另外,通过history文件记录抓取历史

saveImg对文件是否已存在做判断

小白写爬虫

原文:https://www.cnblogs.com/huhume/p/9339600.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!