社区所有版块导航
Python
python开源   Django   Python   DjangoApp   pycharm  
DATA
docker   Elasticsearch  
aigc
aigc   chatgpt  
WEB开发
linux   MongoDB   Redis   DATABASE   NGINX   其他Web框架   web工具   zookeeper   tornado   NoSql   Bootstrap   js   peewee   Git   bottle   IE   MQ   Jquery  
机器学习
机器学习算法  
Python88.com
反馈   公告   社区推广  
产品
短视频  
印度
印度  
Py学习  »  Python

推荐18个Python爬虫实战案例

程序IT圈 • 4 年前 • 506 次点击  

目录

  • 爬虫小工具

    • 文件下载小助手

  • 爬虫实战

    • 笔趣看小说下载

    • VIP视频下载

    • 百度文库文章下载_rev1

    • 百度文库文章下载_rev2

    • 《帅啊》网帅哥图片下载

    • 构建代理IP池

    • 《火影忍者》漫画下载

    • 财务报表下载小助手

    • 一小时入门网络爬虫

    • 抖音App视频下载_rev1

    • 抖音App视频下载_rev2

    • 抖音App视频下载_rev3

    • GEETEST验证码破解

    • 12306抢票小助手

    • 百万英雄答题辅助系统

    • 网易云音乐批量下载

    • B站视频和弹幕批量下载

  • 其它

爬虫小工具

  • downloader.py:文件下载小助手

一个可以用于下载图片、视频、文件的小工具,有下载进度显示功能。稍加修改即可添加到自己的爬虫中。

动态示意图:

爬虫实战

1、biqukan.py:《笔趣看》盗版小说网站,爬取小说工具

第三方依赖库安装:

pip3 install beautifulsoup4

使用方法:

python biqukan.py

2、video_downloader:爱奇艺等主流视频网站的VIP视频破解助手(暂只支持PC和手机在线观看VIP视频!)

感谢Python3二维码生成器作者:

https://github.com/sylnsfar/qrcode

编译好的软件下载连接:https://pan.baidu.com/s/1bqSTNJL 密码:p8bs

解压密码:cuijiahua.com

无需Python3环境,在Windows下,解压即用!软件使用方法

源码可查看video_downloader,运行源码需要搭建Python3环境,并安装相应第三方依赖库:

video_downloader文件夹下,安装第三方依赖库:

pip3 install -r requirements.txt

使用方法:

python movie_downloader.py

运行环境:

  • Windows, Python3

  • Linux, Python3

  • Mac, Python3

3、baiduwenku.py: 百度文库word文章爬取

原理说明:

http://blog.csdn.net/c406495762/article/details/72331737
代码不完善,没有进行打包,不具通用性,纯属娱乐,以后有时间会完善。

4、shuaia.py: 爬取《帅啊》网,帅哥图片

《帅啊》网URL:http://www.shuaia.net/index.html

原理说明:

http://blog.csdn.net/c406495762/article/details/72597755

第三方依赖库安装:

pip3 install requests beautifulsoup4

5、daili.py: 构建代理IP池

原理说明:

http://blog.csdn.net/c406495762/article/details/72793480

6、carton: 使用Scrapy爬取《火影忍者》漫画

代码可以爬取整个《火影忍者》漫画所有章节的内容,保存到本地。更改地址,可以爬取其他漫画。保存地址可以在settings.py中修改。

动漫网站:http://comic.kukudm.com/

原理说明:

http://blog.csdn.net/c406495762/article/details/72858983

7、hero.py: 《王者荣耀》推荐出装查询小助手

网页爬取已经会了,想过爬取手机APP里的内容吗?

原理说明:

http://blog.csdn.net/c406495762/article/details/76850843

8、financical.py: 财务报表下载小助手

爬取的数据存入数据库会吗?《跟股神巴菲特学习炒股之财务报表入库(MySQL)》也许能给你一些思路。

原理说明:

http://blog.csdn.net/c406495762/article/details/77801899

动态示意图:

9、one_hour_spider:一小时入门Python3网络爬虫。

原理说明:

  • 知乎:https://zhuanlan.zhihu.com/p/29809609

  • CSDN:http://blog.csdn.net/c406495762/article/details/78123502

本次实战内容有:

  • 网络小说下载(静态网站)-biqukan

  • 优美壁纸下载(动态网站)-unsplash

  • 爱奇艺VIP视频下载

10、douyin.py:抖音App视频下载

抖音App的视频下载,就是普通的App爬取。

原理说明:个人网站:

http://cuijiahua.com/blog/2018/03/spider-5.html

11、douyin_pro:抖音App视频下载(升级版)

抖音App的视频下载,添加视频解析网站,支持无水印视频下载,使用第三方平台解析。

原理说明:个人网站:

http://cuijiahua.com/blog/2018/03/spider-5.html

12、douyin_pro_2:抖音App视频下载(升级版2)

抖音App的视频下载,添加视频解析网站,支持无水印视频下载,通过url解析,无需第三方平台。

原理说明:个人网站:

http://cuijiahua.com/blog/2018/03/spider-5.html

动态示意图:

13、geetest.py:GEETEST验证码破解

爬虫最大的敌人之一是什么?没错,验证码!Geetest作为提供验证码服务的行家,市场占有率还是蛮高的。遇到Geetest提供的滑动验证码怎么破?授人予鱼不如授人予渔,接下来就为大家呈现本教程的精彩内容。

原理说明:

http://www.cuijiahua.com/blog/2017/11/spider_2_geetest.html

动态示意图:

14、12306.py:用Python抢火车票简单代码

可以自己慢慢丰富,蛮简单,有爬虫基础很好操作,没有原理说明。

15、baiwan:百万英雄辅助答题

效果图:

原理说明:http://cuijiahua.com/blog/2018/01/spider_3.html

功能介绍:

  • 服务器端,使用Python(baiwan.py)通过抓包获得的接口获取答题数据,解析之后通过百度知道搜索接口匹配答案,将最终匹配的结果写入文件(file.txt)。

  • 手机抓包不会的朋友,可以看下我的早期手机APP抓包教程。

  • Node.js(app.js)每隔1s读取一次file.txt文件,并将读取结果通过socket.io推送给客户端(index.html)。

  • 亲测答题延时在3s左右。

  • 声明:没做过后端和前端,花了一天时间,现学现卖弄好的,javascript也是现看现用,百度的程序,调试调试而已。可能有很多用法比较low的地方,用法不对,请勿见怪,有大牛感兴趣,可以自行完善。

16、Netease:根据歌单下载网易云音乐

效果图:

功能介绍:根据music_list.txt文件里的歌单的信息下载网易云音乐,将自己喜欢的音乐进行批量下载。

17、bilibili:B站视频和弹幕批量下载

使用说明:

   python bilibili.py -d 猫 -k 猫 -p 10

三个参数:
       -d    保存视频的文件夹名
       -k    B站搜索的关键字
       -p    下载搜索结果前多少页

更多爬虫,关注下面公号,
后台回复:爬虫,获取全套代码。
 推荐阅
Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/106473
 
506 次点击