微信小程序> Python-如何通过免费代理搭建自己的IP池

Python-如何通过免费代理搭建自己的IP池

浏览量:1174 时间: 来源:浮生偷闲

1.目标网站

爬取代理ip,这也需要找网页,这就得看看哪个网页提供这些代理ip了,本人知道了几个免费提供代理ip的网站,如下:

无忧代理ip

芝麻代理ip

西刺代理ip

云连代理ip

我选择了爬取西刺代理的网站。

2.分析网站结构

我们需要获取的高匿代理,按下F12打开开发者工具

上面我们要获取的数据是ip地址,端口和类型这三个就可以了,可以看到,这些数据都在一个tr标签里,但是有两个不同的tr标签,这样可以用正则表达式,利用相隔的html结构先把整个内容匹配下来,再把重要信息匹配下来,最后就把他弄成这个样子{'https': 'https://ip:端口'}存入列表即可,最后就随机获取一个ip,然后可以先判断是否有用,再拿来做你此时项目的代理ip,判断是否用的方法就是随便拿一个百度获取别的网站,加上代理ip发送get请求,看看status_code()的返回码是不是200,即可,就如下面这样

3.代码部分

1).匹配数据,并挑选数据存入列表

2).随机获取ip,并写好ip格式

我这里是把他存入列表,现抓现用,是因为我现在的爬虫项目都是很小的,只需要这些就可以了。

END

以上就是我简单搭建的代理ip池了,等到以后慢慢完善,你可以把他们存入你的数据库,然后要用的时候,就随机拿出来,先看看有没有用,没用的话就删除,有用就拿来用即可。

作者:sergiojune

链接:https://www.jianshu.com/p/4e6edd01a91f

來源:简书

著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。

版权声明

即速应用倡导尊重与保护知识产权。如发现本站文章存在版权问题,烦请提供版权疑问、身份证明、版权证明、联系方式等发邮件至197452366@qq.com ,我们将及时处理。本站文章仅作分享交流用途,作者观点不等同于即速应用观点。用户与作者的任何交易与本站无关,请知悉。

产品经理

手机 : 13312967497

擅长 : 小程序流量变现

扫码领取礼包

最新资讯

热门模板

  • 头条
  • 搜狐
  • 微博
  • 百家
  • 一点资讯
  • 知乎