Python爬虫爬取图虫网的图片

这是我第一个Python爬虫项目，Python基础太差，花了好久，下面详细的解释一下这个项目，因为是第一个项目，可能逻辑有些混乱，代码也不够简洁，欢迎指正，哈哈

之前看到好多文章关于爬取网页图片的，于是就找到了图虫网,爬取上面的星(xiao)空(jie)图(jie)

先说明一下，爬虫的基本流程

1. 构造url,然后请求此url
2. 根据返回的数据，分析响应的内容，找到图片的链接
3. 请求图片的链接，然后将它保存在本地

下面看一下要爬取的网页
图虫网
我们选择一个标签来查看，在浏览器中按住F12，调出开发者web开发工具箱

我们随意点开一个图集，开始分析一下

将url里面的数字放到第一张图片里面搜索一下，看一下是否能够查到

可以搜索到，所以考虑可以请求这个网页，然后获取这个网页中所有图集的url,然后在每个图集的url的网页里面找到每一张图片的链接，最后再下载

但是这个网页会在用用户不断的向下滚动时，不断地加载新的内容，这样就不好办了，就像下面这样（web开发工具里面选择网络）

可以在上面图片画红线的地方，发现一个小小的规律，就是这个链接，

https://tuchong.com/rest/tags/少女/posts?page=2&count=20&order=weekly

多此加载之后发现只有page=2这个数字2变化，于是有了转机，打开这个链接，会看到这个东西

这是一个json数据，不太了解这个，不过查资料后发现可以用Python中的json库进行检索。就是json.loads()将json编码的字符串转化为Python数据结构

进一步分析这个数据，可以发现在postList下面的，所有url字典对应的都是一个图集的url

好了，第一步搞定

然后就是每个图集中的图片的处理，在一个图集中，和前面一样的分析方法，
但是发现了一个比较有有意思的事情，就是在点击刷新的时候，页面会发现变化，如下图（我也不太清楚为什么，不是很了解前端的知识。）

我们就用下面的图来分析
审查一下图片我们就可以发现了

这个链接在原来的html源代码中，这样就可以用正则表达式来匹配出了。

到此为止，找到了每个标签下面的每个图集的链接，还有每个图集下面的每张图片的链接，思路清晰了，就可以来编写代码了

import os
import re
import json
import requests
import time
import urllib.parse
import random
import traceback

#定义要爬取的标签和正在爬取的页数
def UserUrl(theme,pagenum):
    url = "https://tuchong.com/rest/tags/%(theme)s/posts?page=%(pagenum)s&count=20&order=weekly" % {'theme': urllib.parse.quote(theme), 'pagenum': pagenum}
    #print(url)
    return url

#利用requests使用get方法请求url，使用User-Agent是为了防止被反爬，这样使得我们的爬取行为更像人的行为
def GetHtmltext(url):
    head = {
        "User-Agent": "Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/55.0.2883.87 Safari/537.36"
    }
    try:
        r = requests.get(url, headers=head, timeout=30)
        r.raise_for_status()  #如果返回的状态码不是200，就到except中
        return r
    except:
        pass

#定义获取一个pagenum页面中的所有图集的URL链接的函数
def PictureFatherUrl(user_url):
    try:
        raw_data = GetHtmltext(user_url)
        j_raw_data = json.loads(raw_data.text)   #将获取的网页转化为Python数据结构
        # print(j_raw_data)
        father_url = []                    #将每个图集的url定义为father_url的一个列表
        for i in j_raw_data['postList']:   #解析出的j_raw_data是一个多重字典，在这里先将postList字典的内容取出来
            father_url.append(i['url'])     #然后再取出键为“url”的值
        # print(father_url)
        # print(len(father_url))
        return father_url
    except:
        return

#定义获取一个图集中所有图片的url链接
def PictureUrl(url):
    try:
        html = GetHtmltext(url)
        #利用正则表达式来匹配
        url_list = list(re.findall('<img id="image\d+" class="multi-photo-image" src="([a-zA-z]+://[^\s]*)" alt="">', html.text))
        return url_list
    except:
        pass

#定义一个图集中所有图片的下载
def Download(url):
    url_list = PictureUrl(url)
    for i in url_list:
        r = GetHtmltext(i)
        file_name = os.path.join(save_path, i.split('/')[-1])
        # file_name = str(i)
        with open(file_name, 'wb') as f:
            f.write(r.content)
            f.close()
        time.sleep(random.uniform(0.3, 0.5))  #为防止被反爬，在这里random了0.3-0.5的数，然后在下载一张图片后，sleep一下
        print('save %s' % file_name)

#定义主函数
if __name__ == '__main__':
    theme = input("你选择的标签（如果你不知道有什么标签，去https://tuchong.com/explore/去看看有什么标签吧，输入不存在的标签无法下载哦）：")
    pagenum_all = int(input("你要爬取的页数(不要太贪心哦，数字太大会被封IP的）："))
    save_path = os.path.join(theme)
    m = 0
    if not os.path.exists(save_path):
        os.makedirs(save_path)
        print("我知道你没有创建保存路径，我把文件存在和此脚本同样的路径下的叫做“ %s ”的文件夹下面了" % theme)
    for i in range(1, pagenum_all+1):
        n = 0
        m += 1
        print("正在下载第%d页，一共%d页" % (m, pagenum_all))
        user_url = UserUrl(theme, i)
        father_url = PictureFatherUrl(user_url)
        for j in father_url:
            n += 1
            print("正在下载第%d套图，一共%d套图" % (n, len(father_url)))
            Download(j)
            time.sleep(random.randint(6, 10))  #同样为了反爬，也random了6-10之间的数，更真实的模拟人的操作