python搭建自己的代理ip池
2018-02-10 本文已影响149人
sergiojune
继上一篇说了反爬虫之后，我说今天这篇文章会搭建一个属于自己的代理ip池，所以，为了不食言，就写了这篇文章，那好废话不多说，进入正题
1.目标网站
爬取代理ip，这也需要找网页，这就得看看哪个网页提供这些代理ip了，本人知道了几个免费提供代理ip的网站，如下：
无忧代理ip
芝麻代理ip
西刺代理ip
云连代理ip
我选择了爬取西刺代理的网站。
2.分析网站结构
我们需要获取的高匿代理，按下F12打开开发者工具
上面我们要获取的数据是ip地址，端口和类型这三个就可以了，可以看到，这些数据都在一个tr标签里，但是有两个不同的tr标签，这样可以用正则表达式，利用相隔的html结构先把整个内容匹配下来，再把重要信息匹配下来，最后就把他弄成这个样子{'https': 'https://ip:端口'}存入列表即可，最后就随机获取一个ip，然后可以先判断是否有用，再拿来做你此时项目的代理ip，判断是否用的方法就是随便拿一个百度获取别的网站，加上代理ip发送get请求，看看status_code()的返回码是不是200，即可，就如下面这样
3.代码部分
1).匹配数据，并挑选数据存入列表
2).随机获取ip，并写好ip格式
我这里是把他存入列表，现抓现用，是因为我现在的爬虫项目都是很小的，只需要这些就可以了。
END
以上就是我简单搭建的代理ip池了，等到以后慢慢完善，你可以把他们存入你的数据库，然后要用的时候，就随机拿出来，先看看有没有用，没用的话就删除，有用就拿来用即可。
微信扫描下方可看更多文章以及福利资源
日常学python
