相信许多朋友在爬虫工作者时常会碰到“您的请求过于频繁,请稍后再试”,这个时候心里莫名的一慌,爬虫代码完全没有问题呀,但是为何爬着爬着突然之间爬不动了呢?那么,很有可能,你的爬虫被识破了,轻则友好提示警告,重则将IP关入小黑屋。

那么,怎么办呢,有人认为用IP转换软件呀,专治各种不服。不错,用IP转换软件的确不失为一个解决问题的好办法。IP被封了就换新IP继续爬,或是用许多IP同时多线程爬,都很给力的。

于是,爬虫工作者用上了IP转换软件,重整旗鼓继续爬,但好景不长,没爬多久又被提示“您的请求过于频繁,请稍后再试”。再换IP还是被封,再换再封,封的越来越快,效率非常低下,这是为什么呢?

那是因为,你用的IP转换软件凑巧也是别人用于访问同样的网站的,并且用的还较频繁,这类情况一般出现在免费IP转换软件、普通IP转换软件或是开放IP转换软件,也有一些IP池比较小的共享IP池上。许多朋友总感觉IP池太大,我也用不了那多啊,不是浪费吗?能否给个小点的IP池,价格再降低一些呢。如此的念头是不对的,IP池小,用的人多,那么项目冲突的几率也就越大,因此我们在找IP转换软件的时候,在保证IP有效率的同时IP池越大越好的,如此能够保证IP的新鲜度。

因此 ,当您碰到“您的请求过于频繁,请稍后再试”时,不要慌,要镇定,检查下自己的爬虫策略,是否真的访问太过过于频繁地,检查下自己的IP转换软件是否真的较为干净,调整自己的策略,选择更加纯净的IP,就能有效的避免这个错误了。

IP转换软件请求过于频繁的原因是什么?相关推荐

  1. 安全狗服务器自动重启,关于解决安全狗“您的请求过于频繁,已被管理员设置拦截”方法...

    他们在使用安全狗后访问自己的网站或者访客在访问其他人的网站时经常会弹出"您的请求过于频繁,已被管理员设置拦截"的页面,如图所示 首先我们应该先看一下在防护日志中安全狗有何记录拦截信 ...

  2. ip转换软件在五八上能用吗?_交换机能当路由器用吗?浅谈交换器和路由器的区别...

    交换机(又名交换式集线器)作用可以简单的理解为将一些机器连接起来组成一个局域网.而路由器与交换机有明显区别,它的作用在于连接不同的网段并且找到网络中数据传输最合适的路径 ,可以说一般情况下个人用户需求 ...

  3. 通过分析nginx的日志来过滤出访问过于频繁的IP地址,然后添加到nginx的blockip.conf,并重启nginx...

    为什么80%的码农都做不了架构师?>>>    通过分析nginx的日志来过滤出访问过于频繁的IP地址,然后添加到nginx的blockip.conf,并重启nginx 脚本如下: ...

  4. fullgc频繁的原因_系统运行缓慢,CPU 100%,Full GC次数过多,这一招帮你全搞定

    处理过线上问题的同学基本上都会遇到系统突然运行缓慢,CPU 100%,以及Full GC次数过多的问题.当然,这些问题的最终导致的直观现象就是系统运行缓慢,并且有大量的报警.本文主要针对系统运行缓慢这 ...

  5. python微信发送消息过于频繁_微信发送信息频率上限?

    请问有人知道微信发送信息频率上限是多少吗? 自己的机器人碰到的问题... 希望大家可以来帮助讨论下 先谢过啦 简单介绍下背景: 功能上基本上就是群发,且群发的信息对不同人是不一样的. 然后希望能够越准 ...

  6. 网页UTF8转换GBK后出现问号?的原因

    网页UTF8转换GBK后出现问号"?"的原因 网页编码转换是进行网页解析和处理的第一步. 互联网上越来越多的网页采用UTF-8编码,UTF-8用1到6个字节编码UNICODE字符, ...

  7. 软件项目失败的心理原因

    这是一篇有关软件工程领域中事务状态的评论文章.它讨论了程序员的实际挑战和实际职责.它把程序员分为四个类别:聪明.强盗.无助和愚蠢,另外两个类别是天真和无知.它讨论了程序员必须如何熟悉特定领域,不仅能够 ...

  8. 介绍一下3D游戏开发的简单常识,以及最终幻想13游戏流程为什么会过于线性的原因。

    介绍一下3D游戏开发的简单常识,以及最终幻想13游戏流程为什么会过于线性的原因. (1) 回复 1楼 2012-01-25 14:10 举报 | keyblade2 坐等B青现身给LZ答疑解惑 回复 ...

  9. java频繁fullgc,fullgc过于频繁该怎么解决?(问题8)

    fullgc过于频繁有可能会造成oom,有可能不会. 首先明确一下,这篇文章的重点是分析后面一种情况,即应用在频繁的fullgc,但并没有出现oom. 我们来想一下为什么会出现fullgc,触发原因有 ...

最新文章

  1. Kotlin 中 Activity 跳转问题
  2. Swift - UIView的无损截图
  3. 美酒节成就及任务攻略指引
  4. oracle数据结构是什么意思,Oracle数据结构知多少(一)
  5. socket中的nagle算法
  6. Discuz x2.5目录结构注释
  7. ajax 如何使 dropdownlist 无刷新,Jquery实现无刷新DropDownList联动实现代码
  8. [导入]DataHelper
  9. 交通流特性(流速密)在断面、路段上的区别
  10. abab的四字成语_abab式的四字词语
  11. 从零开始搭建一个K8S的环境
  12. 强化学习基础入门级介绍
  13. APP与小程序各自优劣势
  14. graphviz基本使用及常见问题
  15. Firewall 防火墙常用命令
  16. C中%g(G)g格式符用法详解
  17. anc降噪是什么意思
  18. 个人微信小程序开发案例(附带源码以及教程,不懂后台小程序可提问)
  19. softmaxsigmoid
  20. 文献全文免费下载心得

热门文章

  1. 简述随路信令与公共信令
  2. GTX/GTH QPLL CPLL学习之Aurora
  3. 网络运维基础知识梳理
  4. 传智黑马java基础学习——day04(数组)
  5. intel和AMD CPU性能对比(2016年CPU天梯图)组装电脑必读!
  6. 国内外人工智能AI工具网站大全
  7. AC. Anu Has a Function
  8. 大学生计算机科技节策划书,大学生科技节之科技发明制作大赛策划书
  9. 2020年社招面试题
  10. 这瓶普普通通的六神花露水_凭什么能卖到500块?