pythonPython 开发python爬虫实战

自学Python-实现批量抓取妹子图片

2016-05-08  本文已影响6027人  SteelZheng

本人是搞Java、Android开发的,有编程基础。python是刚刚起步学习,在看完《Head first python》这本书后,一直想做一个项目练练手,思来想去不知道做python什么项目好,看网上大家都在玩爬虫。所以自己也花了一个晚上的时间写了个抓取“妹子图片”的爬虫,养眼的福利噢 O(∩_∩)O。大家需要注意博主用的是Python3.x 。在2.7上多线程的实现与3.x不同,所以需要自己调整代码。

先上截图,看看成果:

如何执行: 命令行窗口: python GetMezi.py  图片地址  

即可。默认会在代码文件的同一级目录创建相册目录,并把图片放到对应的相册。

怎么样,看到这里,是不是也想自己动手打造一个爬图神器了。

那咱就言归正传,现在开始爬虫的设计:

python用到的库:BeautifulSoup、request

一、找个图片网站,分析它页面上的HTML源代码,提取HTML源代码中有用信息(图片链接、名称)

二、多线程并发下载图片到本地


分析网站,我们浏览器F12,进入开发者模式,通过箭头查找模式找到图片显示区域的父容器:

这个标签内有好多个标签,li标签内部有标签,我们要提取的内容就是href的地址(即相册地址),以及相册描述

光有相册的信息还不够,我们还要去相册的网页看一下,把相册里面的所有图片链接给提取出来。

分析该页面,我们发现它的html源代码中有<div class="pagenavi">这个地方就是相册内图片的导航区域(即

上下图页面,这里每一个图片显示在一个对应的页面)。

代码中,我们要把相册的图片总数给拿到,即上图“51”,表示最后一张图片。

它的每一张图片对应的网页都是有规律的:

http://www.mzitu.com/62728

http://www.mzitu.com/62728/2

.........

http://www.mzitu.com/62728/51

发现了吗,我们只需要拿到总图片个数,然后代码中拼接一下,生成51个网页路径即可

然后我们对分别对着51个页面解析html源代码,提取出图片的路径

代码我已经写好了,看官们可以访问代码仓:https://github.com/JadenTseng/python-get-girl-image

获取。


后续: 因为没有GUI图像化界面,就不能发给非程序员的小伙伴分享成果,自己也想接触一下python的图形化界面开发,于是就使用了PyQt来实现咱们的妹子图图形化界面版本,代码已经追加到了项目中。喜欢的小伙伴们可以start、fork。

上一张效果图给大家:


上一篇下一篇

猜你喜欢

热点阅读