Python爬虫Scrapy框架IP代理如何配置与调试

Python爬虫Scrapy框架IP代理如何配置与调试

这篇文章主要介绍Python爬虫Scrapy框架IP代理如何配置与调试，文中介绍的非常详细，具有一定的参考价值，感兴趣的小伙伴们一定要看完！

代理ip的逻辑在哪里

一个scrapy 的项目结构是这样的

scrapydownloadertest  # 项目文件夹      │  items.py       # 定义爬取结果存储的数据结构      │  middlewares.py  # 中间件（可以理解java的过滤器拦截器）      │  pipelines.py   # 数据管道，对获取到的数据做操作      │  settings.py   # 项目的配置文件      │  __init__.py   # 初始化逻辑      │      ├─spiders  # 放置 Spiders 的文件夹      │  │  httpProxyIp.py   # 爬取到结果后的处理类      │  │  __init__.py    # spider初始化逻辑  scrapy.py

从上可以发现，代理ip的设置肯定是在发送请求之前就要设置好，那么唯一符合条件的地方就是 middlewares.py ，所以关于代理的相关逻辑都写在这个里面。直接在其中添加如下代码：

# Scrapy 内置的 Downloader Middleware 为 Scrapy 供了基础的功能，  # 定义一个类，其中（object）可以不写，效果一样  class SimpleProxyMiddleware(object):      # 声明一个数组      proxyList = ['http://218.75.158.153:3128','http://188.226.141.61:8080']            # Downloader Middleware的核心方法，只有实现了其中一个或多个方法才算自定义了一个Downloader Middleware      def process_request(self, request, spider):          # 随机从其中选择一个，并去除左右两边空格          proxy = random.choice(self.proxyList).strip()          # 打印结果出来观察          print("this is request ip:" + proxy)          # 设置request的proxy属性的内容为代理ip          request.meta['proxy'] = proxy        # Downloader Middleware的核心方法，只有实现了其中一个或多个方法才算自定义了一个Downloader Middleware      def process_response(self, request, response, spider):          # 请求失败不等于200          if response.status != 200:              # 重新选择一个代理ip              proxy = random.choice(self.proxyList).strip()              print("this is response ip:" + proxy)              # 设置新的代理ip内容              request.mete['proxy'] = proxy              return request          return response

每个 Downloader Middleware 定义了一个或多个方法的类，核心的方法有如下三个：

• process_request(request, spider)

• process_response(request，response, spider)

• process_exception(request, exception, spider)

然后找到 setting.py 文件中的这块区域

修改如下，也就是取消注释，加上刚刚写的Middleware 类的路径

以上就已经配置好了一个简单的代理ip，此时来到 httpProxyIp.py 这个文件， 这个文件是我通过命令 scrapy genspider httpProxyIp icanhazip.com 生成的，创建成功内容如下：

# -*- coding: utf-8 -*-  import scrapy    class HttpproxyipSpider(scrapy.Spider):      name = 'httpProxyIp'      allowed_domains = ['icanhazip.com']      start_urls = ['http://icanhazip.com/']        def parse(self, response):          pass

我们修改一下，最终代码如下所示：

# -*- coding: utf-8 -*-  import scrapy  from scrapy.cmdline import execute    class HttpproxyipSpider(scrapy.Spider):      # spider 任务名      name = 'httpProxyIp'      # 允许访问的域名      allowed_domains = ['icanhazip.com']      # 起始爬取的url      start_urls = ['http://icanhazip.com/']        # spider 爬虫解析的方法，关于内容的解析都在这里完成; self表示实例的引用， response爬虫的结果      def parse(self, response):          print('代理后的ip: ', response.text)    # 这个是main函数也是整个程序入口的惯用写法  if __name__ == '__main__':      execute(['scrapy', 'crawl', 'httpbin'])

此时运行程序 scrapy crawl httpProxyIp 可以看到结果输出

很明显，这里没有打印出我们想要的结果，说明之前 proxyList = ['http://218.75.158.153:3128','http://188.226.141.61:8080'] 没有用，我们找找有没有可以用的，这里用免费的，所以找起来费点时间 免费代理ip

这样就完成了scrapy的代理设置和验证调试。

如何配置动态的代理ip

这里使用的是收费的代理ip了，你可以使用快代理或者阿布云等云服务商提供的服务，当你注册并缴费之后，会给你一个访问url和用户名密码，这里直接看代码吧！ 同样在 middlewares.py新建一个类

修改 setting.py 的 DOWNLOADER_MIDDLEWARES 内容

DOWNLOADER_MIDDLEWARES = {      # 注释掉之前的例子改用AbuyunProxyMiddleware      # 'scrapydownloadertest.middlewares.SimpleProxyMiddleware': 100,      'scrapydownloadertest.middlewares.AbuyunProxyMiddleware': 100,  }

其他地方不动，我们在启动看看，这里换种启动方式，因为使用的是PyCharm开发工具，所以可以直接

http://icanhazip.com/是一个显示当前访问者ip的网站，可以很方便的用来验证scrapy的代理ip 设置是否成功。

以上是“Python爬虫Scrapy框架IP代理如何配置与调试”这篇文章的所有内容，感谢各位的阅读！希望分享的内容对大家有帮助，更多相关知识，欢迎关注高防服务器网行业资讯频道！

[微信提示：高防服务器能助您降低 IT 成本，提升运维效率，使您更专注于核心业务创新。

[图文来源于网络，不代表本站立场，如有侵权，请联系高防服务器网删除]
[