Py学习  »  Git

GitHub出了一款爬虫神器!还给出了详细教程!

Python爱好者社区 • 3 年前 • 521 次点击  

转自:菜鸟学Python



对于做爬虫和数据分析方向的小伙伴来说,对于数据的获取是十分重要的,尤其是关于大数据分析的数据,非常难以获取,最近小编在浏览Github时,就发现了一个宝库——gopup。是由一个国内的大神开源的python库,该库包含了大量的大数据分析相关的数据,一起来看看吧。




01.神器GoPup

项目的地址为:https://github.com/justinzm/gopup。该库所采集的数据都是公开的数据源,作者也指出了通过该库所获取的数据主要目的是用于学术的研究。


该项目所涉及到的数据库包含了微博指数数据、百度指数数据、头条指数数据、新经济公司、生活数据、疫情数据等信息。

可以看到,上述的数据中,都包含了大量的大数据分析数据,可以通过该项目库直接获取来使用。gopup的安装也十分的便捷,在终端运行pip install gopup即可安装。


02.如何使用

接下来,我们通过程序来看一下如何使用gopup来获取数据。 首先来看一下,百度指数的数据获取,程序和结果如下图所示:

上图中,可以看到,首先我们需要先在网页端登录百度指数,然后获取cookie数据,拿到cookie数据后,就可以调用gopup库的baidu_search_index函数来查询指定时间段内的指定关键词的搜索热度。这里我们搜索的就是2020年10月1号到2020年12月1号的62天的“口罩”搜索指数。返回的是DataFrame格式的数据。那么如何获得cookie呢?

首先打开百度指数网站并登录,然后点击F12进入开发者模式后,点击Network后,点击任意一个url的链接,翻到最下方就可以获取到cookie数据。


接下来我们来获取一下汽油和柴油的历史调价信息,程序和结果如下所示:

可以看到,对于调价信息,只需要一行代码即可帮助我们搞定。


gopup不仅仅可以抓取到生活信息,还可以帮助我们抓取影视信息方面的数据,例如实时的电影票房数据、实时电视剧播映指数、艺人商业价值等信息,程序和结果如下图所示:

上述的程序给出的是实时电视剧播映指数数据,可以看到,最近比较火的电视剧为张鲁一、段奕宏领衔主演的《大秦赋》和李易峰、金晨主演的《隐秘而伟大》。这两部剧在豆瓣上的评分都在8分以上,可谓是收视率和口碑的双丰收。


上图给出的是艺人商业价值的排行榜(详细的csv可以在文末获取),杨紫、易烊千玺和杨幂分列前三位,这份榜单是根据商业价值来进行排序,在专业热度、关注热度等信息方面,不同的明星热度排名也是不相同的。


03.详细的文档

作者在项目中不仅给出了安装方式,而且还出了中文文档(http://doc.gopup.cn/),大家可以直接到作者提供的中文文档中进行学习,作者给出的中文文档非常的详尽。

以百度的搜索数据为例,我们需要重点关注的有四个点,分别是目标地址、输入参数、输出参数和接口示例,其中接口示例给出了程序如何调用的详细说明,让大家一看就明白该如何使用。


还要注意的是,影视数据获取的程序,必须在Ubuntu环境下运行,否则js数据无法正确返回结果。


以上就是小编为大家带来的gopup库的介绍,大家也赶快安装gopup,发现更多更有趣的大数据应用吧。

感谢阅读

推荐阅读:

1真实的上海IT圈:张江男vs漕河泾男

2:真实的北京IT圈:后厂村姑 vs 后厂村花?

3:为什么你的提问没人解答?

4:Python爱好者社区历史文章合集



重磅!Python交流已成立


公众号运营至今,离不开小伙伴们的支持。
为了给小伙伴们提供一个互相交流的技术平台,特地开通了Python交流群。
群里有不少技术大神,不时会分享一些技术要点,更有一些资源收藏爱好者不时分享一些优质的学习资料。(免费,不卖课!)
需要进群的朋友,可长按扫描下方二维码。


▲长按扫码

Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/106056
 
521 次点击