社区所有版块导航
Python
python开源   Django   Python   DjangoApp   pycharm  
DATA
docker   Elasticsearch  
aigc
aigc   chatgpt  
WEB开发
linux   MongoDB   Redis   DATABASE   NGINX   其他Web框架   web工具   zookeeper   tornado   NoSql   Bootstrap   js   peewee   Git   bottle   IE   MQ   Jquery  
机器学习
机器学习算法  
Python88.com
反馈   公告   社区推广  
产品
短视频  
印度
印度  
Py学习  »  Git

GitHub出了一款爬虫神器!还给出了详细教程!

Python爱好者社区 • 5 年前 • 904 次点击  

转自:菜鸟学Python



对于做爬虫和数据分析方向的小伙伴来说,对于数据的获取是十分重要的,尤其是关于大数据分析的数据,非常难以获取,最近小编在浏览Github时,就发现了一个宝库——gopup。是由一个国内的大神开源的python库,该库包含了大量的大数据分析相关的数据,一起来看看吧。




01.神器GoPup

项目的地址为:https://github.com/justinzm/gopup。该库所采集的数据都是公开的数据源,作者也指出了通过该库所获取的数据主要目的是用于学术的研究。


该项目所涉及到的数据库包含了微博指数数据、百度指数数据、头条指数数据、新经济公司、生活数据、疫情数据等信息。

可以看到,上述的数据中,都包含了大量的大数据分析数据,可以通过该项目库直接获取来使用。gopup的安装也十分的便捷,在终端运行pip install gopup即可安装。


02.如何使用

接下来,我们通过程序来看一下如何使用gopup来获取数据。首先来看一下,百度指数的数据获取,程序和结果如下图所示:

上图中,可以看到,首先我们需要先在网页端登录百度指数,然后获取cookie数据,拿到cookie数据后,就可以调用gopup库的baidu_search_index函数来查询指定时间段内的指定关键词的搜索热度。这里我们搜索的就是2020年10月1号到2020年12月1号的62天的“口罩”搜索指数。返回的是DataFrame格式的数据。那么如何获得cookie呢?

首先打开百度指数网站并登录,然后点击F12进入开发者模式后,点击Network后,点击任意一个url的链接,翻到最下方就可以获取到cookie数据。


接下来我们来获取一下汽油和柴油的历史调价信息,程序和结果如下所示:

可以看到,对于调价信息,只需要一行代码即可帮助我们搞定。


gopup不仅仅可以抓取到生活信息,还可以帮助我们抓取影视信息方面的数据,例如实时的电影票房数据、实时电视剧播映指数、艺人商业价值等信息,程序和结果如下图所示:

上述的程序给出的是实时电视剧播映指数数据,可以看到,最近比较火的电视剧为张鲁一、段奕宏领衔主演的《大秦赋》和李易峰、金晨主演的《隐秘而伟大》。这两部剧在豆瓣上的评分都在8分以上,可谓是收视率和口碑的双丰收。


上图给出的是艺人商业价值的排行榜(详细的csv可以在文末获取),杨紫、易烊千玺和杨幂分列前三位,这份榜单是根据商业价值来进行排序,在专业热度、关注热度等信息方面,不同的明星热度排名也是不相同的。


03.详细的文档

作者在项目中不仅给出了安装方式,而且还出了中文文档(http://doc.gopup.cn/),大家可以直接到作者提供的中文文档中进行学习,作者给出的中文文档非常的详尽。

以百度的搜索数据为例,我们需要重点关注的有四个点,分别是目标地址、输入参数、输出参数和接口示例,其中接口示例给出了程序如何调用的详细说明,让大家一看就明白该如何使用。


还要注意的是,影视数据获取的程序,必须在Ubuntu环境下运行,否则js数据无法正确返回结果。


以上就是小编为大家带来的gopup库的介绍,大家也赶快安装gopup,发现更多更有趣的大数据应用吧。

感谢阅读

推荐阅读:

1:真实的上海IT圈:张江男vs漕河泾男

2:真实的北京IT圈:后厂村姑 vs 后厂村花?

3:为什么你的提问没人解答?

4:Python爱好者社区历史文章合集



重磅!Python交流群已成立


公众号运营至今,离不开小伙伴们的支持。
为了给小伙伴们提供一个互相交流的技术平台,特地开通了Python交流群。
群里有不少技术大神,不时会分享一些技术要点,更有一些资源收藏爱好者不时分享一些优质的学习资料。(免费,不卖课!)
需要进群的朋友,可长按扫描下方二维码。


▲长按扫码

Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/106056