前言

Python爬虫要经历爬虫、爬虫被限制、爬虫反限制的过程。当然后续还要网页爬虫限制优化，爬虫再反限制的一系列道高一尺魔高一丈的过程。爬虫的初级阶段，添加headers和ip代理可以解决很多问题。

本人自己在爬取豆瓣读书的时候,就以为爬取次数过多,直接被封了IP.后来就研究了代理IP的问题.

(当时不知道什么情况,差点心态就崩了...),下面给大家介绍一下我自己代理IP爬取数据的问题,请大家指出不足之处.

问题

这是我的IP被封了,一开始好好的,我还以为是我的代码问题了

思路：

从网上查找了一些关于爬虫代理IP的资料,得到下面的思路

爬取一些IP,过滤掉不可用.

在requests的请求的proxies参数加入对应的IP.

继续爬取.

收工

好吧,都是废话,理论大家都懂,上面直接上代码...

思路有了,动手起来.

运行环境

Python 3.7, Pycharm

这些需要大家直接去搭建好环境...

准备工作

爬取IP地址的网站(国内高匿代理)

校验IP地址的网站

你之前被封IP的py爬虫脚本...

上面的网址看个人的情况来选取

爬取IP的完整代码

PS:简单的使用bs4获取IP和端口号,没有啥难度,里面增加了一个过滤不可用IP的逻辑

关键地方都有注释了

#!/usr/bin/env python3# -*- coding: utf-8 -*-# @Time : 2018/11/22 # @Author : liangk# @Site :# @File : auto_archive_ios.py# @Software: PyCharmimport requestsfrom bs4 import BeautifulSoupimport jsonclass GetIp(object): """抓取代理IP""" def __init__(self): """初始化变量""" self.url = 'http:///tag/' html = get_html(url) soup = BeautifulSoup(html, 'lxml') article_tag_list = soup.find_all(class_='tag-content-wrapper') tagCol_list = soup.find_all(class_='tagCol') for table in tagCol_list: """ 整理分析数据 """ sub_type_list = [] a = table.find_all('a') for book_type in a: sub_type_list.append(book_type.text) article_type_list.append(sub_type_list) for sub in article_type_list: for sub1 in sub: title = '==============' + sub1 + '==============' print(title) print(base_url + sub1 + '?start=0' + '&type=S') with open('book.text', 'a', encoding='utf-8') as f: f.write('\n' + title + '\n') f.write(url + '\n') for start in range(0, 2): # (start * 20) 分页是0 20 40 这样的 # type=S是按评价排序 url = base_url + sub1 + '?start=%s' % (start * 20) + '&type=S' html = get_html(url) soup = BeautifulSoup(html, 'lxml') li = soup.find_all(class_='subject-item') for div in li: info = div.find(class_='info').find('a') img = div.find(class_='pic').find('img') content = '书名:<%s>' % info['title'] + ' 书本图片:' + img['src'] + '\n' print(content) with open('book.text', 'a', encoding='utf-8') as f: f.write(content) end_time = datetime.datetime.now() print('耗时: ', (end_time - start_time).seconds)

为什么选择国内高匿代理!

总结

使用这样简单的代理IP,基本上就可以应付在爬爬爬着被封IP的情况了.而且没有使用自己的IP,间接的保护?!?!

大家有其他的更加快捷的方法，欢迎大家可以拿出来交流和讨论，谢谢。

好了，以上就是这篇文章的全部内容了，希望本文的内容对大家的学习或者工作具有一定的参考学习价值，谢谢大家对的支持。