User-agent: Baiduspider
Allow: /
User-agent: Baiduspider-image
Allow: /
User-agent: YoudaoBot
Allow: /
User-agent: Sogou web spider
Allow: /
User-agent: Sogou inst spider
Allow: /
User-agent: Sogou spider2
Allow: /
User-agent: Sogou blog
Allow: /
User-agent: Sogou News Spider
Allow: /
User-agent: Sogou Orion spider
Allow: /
User-agent: Sosospider
Allow: /
User-agent: 360Spider
Allow: /
User-agent: Sogouspider
Allow: /
User-agent: *
Disallow: /
对于千千音乐的首页的歌单进行爬取,创建以歌单为名字的文件夹并且下载歌单内的所有歌曲保存至本地
不要加多进程
与多线程
进去增加千千音乐的负担,只做类人爬取,对于技术的练习
爬取内容请不要用做商业用途
https://github.com/a568972484/spider_music
项目中有一句关键的内容被我放在一个压缩文件中,并进行加密如果你需要这段可以私聊我,如果你没发现缺什么那也就没啥意义
这段代码不会影响爬虫的整体思路,只会影响到下载音乐这一块
作者名称:a568972484
作者博客:小小咸鱼ywy
博客链接:https://www.cnblogs.com/pythonywy
原文:https://www.cnblogs.com/pythonywy/p/11156301.html