首页 > 编程语言 > 详细

Python爬虫系列之当当网小爬虫与简单的数据可视化

时间:2021-04-01 23:35:31      阅读:34      评论:0      收藏:0      [点我收藏+]

前言

这周末就分享个小爬虫吧。利用Python爬取并简单地可视化分析当当网的图书数据。

让我们愉快地开始吧~

开发工具

Python版本:3.6.4
相关模块:

requests模块;

bs4模块;

wordcloud模块;

jieba模块;

pillow模块;

pyecharts模块;

以及一些Python自带的模块。

环境搭建

安装Python并添加到环境变量,pip安装需要的相关模块即可。

数据爬取

任务:

根据给定的关键字,爬取与该关键字相关的所有图书数据。

实现:

以关键字为python为例,我们要爬取的图书数据的网页页面是这样子的:

技术分享图片

其中,网页的链接格式为:

http://search.dangdang.com/?key={keyword}&act=input&page_index={page_index}

因此请求所有与关键词相关的链接:

技术分享图片

然后利用BeautifulSoup分别解析返回的网页数据,提取我们自己需要的数据即可:

技术分享图片

运行效果:

在cmd窗口运行"ddSpider.py"文件即可。

效果如下:

技术分享图片

本部分内容所有源代码可以在主页简介获取:
相关文件里的ddSpider.py文件中。

数据分析

好的,现在就简单地可视化分析一波我们爬取到的61页python相关的图书数据吧~

让我们先看看图书的价格分布吧:

技术分享图片

有没有人想知道最贵的一本python相关的书的单价是多少呀?答案是:28390RMB

书名是:

Python in Computers Programming

再来看看图书的评分分布呗:

技术分享图片

看来大多数python相关的图书都没人买过~

再来评论数量?

技术分享图片

那么评论数量TOP6的图书有哪些呢?

技术分享图片

老规矩,画两个词云作结吧,把所有python相关的图书的简介做成词云如何?

技术分享图片

Python爬虫系列之当当网小爬虫与简单的数据可视化

原文:https://www.cnblogs.com/daimubai/p/14608240.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!