爬虫动态IP和静态IP的区别
动态ip地址指的是在需要的时候才进行动态ip地址分配的方式。动态ip地址和静态ip地址是对应的。所谓动态就是指当你每一次上网时,运营商会随机分配一个动态ip地址,静态指的是固定分配一个动态ip地址,每次都用这一个地址。
对于动态IP来说,需要在连接网络时自动获取IP地址,以供用户正常上网,而静态IP是ISP或网络设备分配给用户的IP地址,可以直接连接上网,这样就不需要获取IP地址。可能现在很多用户对动态IP和静态IP的认识,还停留在获取IP或固定IP的概念上,下面就让小编来为大家介绍更多信息。
静态IP应该叫做固定IP,运营商给了你固定IP也会告诉你对应的掩码与网关,然后你可以把这个IP配置在本地连接里,这样你开机的时候就少了一个获取IP的过程,当然可以忽略不记。其实固定IP多数用于对外发布的服务器,大家都知道,我们打网页时输入的全是网址,而DNS服务器可以通过网址知道你的服务器IP,从而提供服务,如果你不用固定IP,而让服务器总是获取,那DNS就不知道把你的网址指向哪个IP了,也就提供不了服务了。
静态IP与动态IP的区别
那怎么还会存在静态IP的用户,而不是所有人来增加IP地址的使用灵活性,使用用动态IP呢?其实还是DNS的原因。当我们想访问百度的时候,我们就在浏览器输入地址,但是在网络中,数据传输是以IP作为原、目的地址,而不是一个网址域名,DNS作用就是将网站域名翻译成IP,方便用户记忆。 故为了不经常更新dns的记录,静态IP地址的优势作用就是凸显出来了。
动态IP并非是一个固定的IP,而是可以重新拨号后发生变化的,而动态域名则是提供的域名动态解析,以便用户在无法记住动态IP地址的时候y地址的时候用动态域名来连接网络。
静态IP则可以直接上网,该IP在ISP运营商装专线时会划分一个固定的IP地址,大大增加了连接网络的稳定和便捷性。从而避免了网络连接上的困扰。
以上就是静态IP和动态IP的不同,静态IP有一个不算缺点的缺点 ,就是费用会高一点,动态IP则会便宜点,但是各有各的好处,大家根据自己的用途可以自行选择。
爬虫使用动态代理IP
在数据信息变的越发重要的时候,咱们可以从许多场所去取得数据源,不过要控制好数据抓取的方式,今天介绍一下数据抓取怎么样可以避免出现IP封停问题。
爬虫如何解决IP封锁问题,本地根据程序抓取其他人网站内容,如遇封停IP,则可采用以下的方式处理:
1、技术处理:在程序中使用伪装术,不明目张胆的爬,使用代理,使用高级爬虫爬去数据信息
2、网络处理;封停IP后,本地IP不能访问该网站,不过设置了代理服务器后,浏览器可以访问该网站,可以在命令行加路由,一般格式为:routeaddIP地址mask子网掩码默认网关前提:把掩码要改成跟上面掩码一样。这个路由重新开机就没有了。可以routeadd-pIP地址mask子网掩码默认网关。这样的话,重新开机都在的。
使用ADSL拨号最大的的有点就是:IP不固定,重启下路由就可以换一个新的IP了。而且ISP拥有大量的IP,会分配到和之前相同的IP机率很低。一旦你发现目前的IP被封锁,便可以立刻呼叫相关的API将网络断线并重新拨号,取得新的IP继续执行。
3、简单处理,随时动态更换IP;如果在公司封停IP,则可考虑重启路由,重新获取公网IP,自动更改IP地址反爬虫封锁,支持多线程。
import requests
import random
# 要访问的目标页面
targetUrl = “http://httpbin.org/ip”
# 要访问的目标HTTPS页面
# targetUrl = “https://httpbin.org/ip”
# 代理服务器(产品官网 www.16yun.cn)
proxyHost = “t.16yun.cn”
proxyPort = “31111”
# 代理隧道验证信息
proxyUser = “username”
proxyPass = “password”
proxyMeta = “http://%(user)s:%(pass)s@%(host)s:%(port)s” % {
“host” : proxyHost,
“port” : proxyPort,
“user” : proxyUser,
“pass” : proxyPass,
}
# 设置 http和https访问都是用HTTP代理
proxies = {
“http” : proxyMeta,
“https” : proxyMeta,
}
# 设置IP切换头
tunnel = random.randint(1,10000)
headers = {“Proxy-Tunnel”: str(tunnel)}
resp = requests.get(targetUrl, proxies=proxies, headers=headers)
print resp.status_code
print resp.text
假如你想要能够帮助你爬虫的代理IP,建议使用亿牛云高质量爬虫代理。
爬虫动态IP和静态IP的区别相关推荐
- 静态ip和动态ip的区别_动态IP和静态IP有哪些区别?
代理IP的动态IP和静态IP有什么区别?现在还有许多人在问. 简单说动态IP会发生变化,像工号,到不同的公司你会得到不同的工号:而静态IP是不变的,和身份证号一样.这里神鸡IP代理来给大家详细说下. ...
- 动态ip、静态ip、pppoe拨号的区别
转载文章,仅供参考: 动态ip.静态ip.pppoe拨号的区别 - 电子发烧友网电子发烧友为您提供的动态ip.静态ip.pppoe拨号的区别,在设置无线路由器上网时,上方方式有pppoe拨号(宽带拨号 ...
- 动态IP与静态IP的区别
在互联网上,每一台电脑都拥有自己的ip,往往区分为动态ip和静态ip.很多新手用户往往都可能会混淆动态ip和静态ip的概念.那么,它们之间到底有哪些区别呢? 1.静态ip:在Internet上有千百万 ...
- 动态ip与静态ip的概念、区别、应用场景
动态ip与静态ip的区别 前言 一.介绍IP地址的概念和作用 1.1.IP地址的定义 1.2.IP地址的作用 二.动态IP和静态IP的区别 2.1.动态IP和静态IP的定义 2.2.动态IP和静态IP ...
- 你知道动态IP和静态IP的真正区别吗?点击查看详细解析!
一.动态IP和静态IP的基本概念 二.动态IP和静态IP的区别 三.动态IP和静态IP各自的优势 四.动态IP和静态IP的应用场景 五.总结 Aorta Cloud 厦门主动脉云科技 一.动态IP和静 ...
- 动态IP与静态ip的区别是什么
1.DHCP IP即动态ip,可以自动获取IP地址.静态ip上网又被称为固定IP地址上网,需要手动设置IP地址. 2.在网速上,动态ip和静态ip没有区别. 3.动态ip不是一个真实的IP地址,静态I ...
- 动态ip与静态ip的区别是什么?
动态ip和静态ip的区别在于: 动态ip可以自动获取IP地址,静态ip需要手动设置IP地址. 动态ip一般用于局域网内部或小型企业网中,静态ip一般用于大型企业网或骨干网等对安全性要求高的场合. 在网 ...
- 电脑ip地址设置_路由器动态IP和静态IP上网方式怎么设置【设置教程】
在我们设置路由器的过程中,路由器设置界面一般会给我们提供4种上网方式选项,分别是:"让路由器自动选择上网方式(推荐)"."PPPoE(ADSL虚拟拨号)".&q ...
- win7计算机静态ip,win7电脑动态IP和静态IP有什么差别?如何区分动态IP和静态IP
很多用户朋友不知道win7电脑动态IP和静态IP有什么差别?动态IP和静态IP的差别在于:动态IP需要在连接网络时自动获取IP地址以供用户正常上网,而静态IP是ISP在装机时分配给用户的IP地址,可以 ...
最新文章
- 基于jsp的网上商城_[源码和文档分享]基于S2SH框架的JSP和MySQL的网上商城系统
- java网络编程(二)
- 面向对象写单片机程序-程序分层
- 时间序列与R语言应用(part5)--移动平均MA模型及其可逆性
- ASP.NET_读写Cookie
- AI的下一拐点,图网络何以炙手可热?
- 毕设问题小记——No Dialect mapping for JDBC type:-1错误
- plsql数据库异常---plsql 登录后,提示数据库字符集(AL32UTF8)和客户端字符集(ZHS16GBK)不一致
- 工程师追查线上问题(或运维)常用的shell命令
- 动态链接库dll注册函数DllRegisterServer的调试
- 教你如何用python把玩守望先锋新英雄
- 球面投影 (立体和柱面的投影效果)
- 12/22从东京到布里斯班
- 数字图像处理中的车牌识别
- 扬声器程序设计(微机原理实验四)
- 打印机的4种色彩输出方式
- 微信小程序picker多列选择器:mode = multiSelector
- 介绍python中几种遍历列表的for循环方法
- 【C语言】N 阶矩阵的转置
- 计算机数据表格方框,WPS表格使用心得:不容小觑的小方框 -电脑资料
热门文章
- 反射feign接口,调用feign的方法
- 手机下载Python_黑客必看!如何使用手机来做渗透测试?
- 在IT业正确看待实习生岗位
- PremiumSoft Navicat for MySQL 12.1.19中文版下载安装和注册机激活教程
- 暴打JavaScript语法之getElementById()、getElementsByTagName()全能解释
- 【ZT】凡客诚品CPS广告付费模式研究
- stm32f4驱动enc28j60(吐槽篇)
- 透明背景的loading下载_让输入法键盘背景透明的方法
- Android中读取短信信息
- 分享几个实用性爆棚的网站,快放进收藏夹里吃灰吧!(三)