[python爬虫] BeautifulSoup设置Cookie解决网站拦截并爬取蚂蚁短租
我们在编写Python爬虫时,有时会遇到网站拒绝访问等反爬手段,比如这么我们想爬取蚂蚁短租数据,它则会提示“当前访问疑似黑客攻击,已被网站管理员设置为拦截”提示,如下图所示。此时我们需要采用设置Cookie来进行爬取,下面我们进行详细介绍。非常感谢我的学生承峰提供的思想,后浪推前浪啊!
一. 网站分析与爬虫拦截
当我们打开蚂蚁短租搜索贵阳市,反馈如下图所示结果。
网址为:http://www.mayi.com/guiyang/1/?map=n
我们可以看到短租房信息呈现一定规律分布,如下图所示,这也是我们要爬取的信息。
通过浏览器审查元素,我们可以看到需要爬取每条租房信息都位于<dd></dd>节点下。
![](/assets/blank.gif)
在定位房屋名称,如下图所示,位于<div class="room-detail clearfloat"></div>节点下。
![](/assets/blank.gif)
接下来我们写个简单的BeautifulSoup进行爬取。
# -*- coding: utf-8 -*-
import urllib
import re
from bs4 import BeautifulSoup
import codecsurl = 'http://www.mayi.com/guiyang/?map=no'
response=urllib.urlopen(url)
contents = response.read()
soup = BeautifulSoup(contents, "html.parser")
print soup.title
print soup
#短租房名称
for tag in soup.find_all('dd'):for name in tag.find_all(attrs={"class":"room-detail clearfloat"}):fname = name.find('p').get_text()print u'[短租房名称]', fname.replace('\n','').strip()
但很遗憾,报错了,说明蚂蚁金服防范措施还是挺到位的。
二. 设置Cookie的BeautifulSoup爬虫
添加消息头的代码如下所示,这里先给出代码和结果,再教大家如何获取Cookie。
# -*- coding: utf-8 -*-
import urllib2
import re
from bs4 import BeautifulSoup#爬虫函数
def gydzf(url):user_agent="Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/51.0.2704.103 Safari/537.36"headers={"User-Agent":user_agent}request=urllib2.Request(url,headers=headers)response=urllib2.urlopen(request)contents = response.read() soup = BeautifulSoup(contents, "html.parser")for tag in soup.find_all('dd'):#短租房名称for name in tag.find_all(attrs={"class":"room-detail clearfloat"}):fname = name.find('p').get_text()print u'[短租房名称]', fname.replace('\n','').strip()#短租房价格for price in tag.find_all(attrs={"class":"moy-b"}):string = price.find('p').get_text()fprice = re.sub("[¥]+".decode("utf8"), "".decode("utf8"),string)fprice = fprice[0:5]print u'[短租房价格]', fprice.replace('\n','').strip()#评分及评论人数for score in name.find('ul'):fscore = name.find('ul').get_text()print u'[短租房评分/评论/居住人数]', fscore.replace('\n','').strip() #网页链接url url_dzf = tag.find(attrs={"target":"_blank"})urls = url_dzf.attrs['href']print u'[网页链接]', urls.replace('\n','').strip()urlss = 'http://www.mayi.com' + urls + ''print urlss#主函数
if __name__ == '__main__':i = 1while i<10:print u'页码', iurl = 'http://www.mayi.com/guiyang/' + str(i) + '/?map=no'gydzf(url)i = i+1else:print u"结束"
输出结果如下图所示:
页码 1
[短租房名称] 大唐东原财富广场--城市简约复式民宿
[短租房价格] 298
[短租房评分/评论/居住人数] 5.0分·5条评论·二居·可住3人
[网页链接] /room/851634765
http://www.mayi.com/room/851634765
[短租房名称] 大唐东原财富广场--清新柠檬复式民宿
[短租房价格] 568
[短租房评分/评论/居住人数] 2条评论·三居·可住6人
[网页链接] /room/851634467
http://www.mayi.com/room/851634467...页码 9
[短租房名称] 【高铁北站公园旁】美式风情+超大舒适安逸
[短租房价格] 366
[短租房评分/评论/居住人数] 3条评论·二居·可住5人
[网页链接] /room/851018852
http://www.mayi.com/room/851018852
[短租房名称] 大营坡(中大国际购物中心附近)北欧小清新三室
[短租房价格] 298
[短租房评分/评论/居住人数] 三居·可住6人
[网页链接] /room/851647045
http://www.mayi.com/room/851647045
![](/assets/blank.gif)
接下来我们想获取详细信息,比如:http://www.mayi.com/room/851634467
我们需要获取租房地址及详细信息等。
![](/assets/blank.gif)
这里作者主要是提供分析Cookie的方法,使用浏览器打开网页,右键“检查”,然后再刷新网页。在“NetWork”中找到网页并点击,在弹出来的Headers中就隐藏这这些信息。
最常见的两个参数是Cookie和User-Agent,如下图所示:
![](/assets/blank.gif)
然后在Python代码中设置这些参数,再调用Urllib2.Request()提交请求即可,核心代码如下:
user_agent="Mozilla/5.0 (Windows NT 10.0; Win64; x64) ... Chrome/61.0.3163.100 Safari/537.36"
cookie="mediav=%7B%22eid%22%3A%22387123...b3574ef2-21b9-11e8-b39c-1bc4029c43b8"
headers={"User-Agent":user_agent,"Cookie":cookie}
request=urllib2.Request(url,headers=headers)
response=urllib2.urlopen(request)
contents = response.read()
soup = BeautifulSoup(contents, "html.parser")
for tag1 in soup.find_all(attrs={"class":"main"}):
....
注意,每小时Cookie会更新一次,我们需要手动修改Cookie值即可,就是上面代码的cookie变量和user_agent变量。完整代码如下所示:
# -*- coding: utf-8 -*-
import urllib2
import re
from bs4 import BeautifulSoup
import codecs
import csvc = open("ycf.csv","wb") #write 写
c.write(codecs.BOM_UTF8)
writer = csv.writer(c)
writer.writerow(["短租房名称","地址","价格","评分","可住人数","人均价格"])#爬取详细信息
def getInfo(url,fname,fprice,fscore,users):#通过浏览器开发者模式查看访问使用的user_agent及cookie设置访问头(headers)避免反爬虫,且每隔一段时间运行要根据开发者中的cookie更改代码中的cookieuser_agent="Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/61.0.3163.100 Safari/537.36"cookie="mediav=%7B%22eid%22%3A%22387123%22eb7; mayi_uuid=1582009990674274976491; sid=42200298656434922.85.130.130"headers={"User-Agent":user_agent,"Cookie":cookie}request=urllib2.Request(url,headers=headers)response=urllib2.urlopen(request)contents = response.read() soup = BeautifulSoup(contents, "html.parser")#短租房地址for tag1 in soup.find_all(attrs={"class":"main"}): print u'短租房地址:'for tag2 in tag1.find_all(attrs={"class":"desWord"}):address = tag2.find('p').get_text()print address#可住人数 print u'可住人数:'for tag4 in tag1.find_all(attrs={"class":"w258"}):yy = tag4.find('span').get_text()print yyfname = fname.encode("utf-8")address = address.encode("utf-8")fprice = fprice.encode("utf-8")fscore = fscore.encode("utf-8")fpeople = yy[2:3].encode("utf-8")ones = int(float(fprice))/int(float(fpeople))#存储至本地writer.writerow([fname,address,fprice,fscore,fpeople,ones])#爬虫函数
def gydzf(url):user_agent="Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/51.0.2704.103 Safari/537.36"headers={"User-Agent":user_agent}request=urllib2.Request(url,headers=headers)response=urllib2.urlopen(request)contents = response.read() soup = BeautifulSoup(contents, "html.parser")for tag in soup.find_all('dd'):#短租房名称for name in tag.find_all(attrs={"class":"room-detail clearfloat"}):fname = name.find('p').get_text()print u'[短租房名称]', fname.replace('\n','').strip()#短租房价格for price in tag.find_all(attrs={"class":"moy-b"}):string = price.find('p').get_text()fprice = re.sub("[¥]+".decode("utf8"), "".decode("utf8"),string)fprice = fprice[0:5]print u'[短租房价格]', fprice.replace('\n','').strip()#评分及评论人数for score in name.find('ul'):fscore = name.find('ul').get_text()print u'[短租房评分/评论/居住人数]', fscore.replace('\n','').strip() #网页链接url url_dzf = tag.find(attrs={"target":"_blank"})urls = url_dzf.attrs['href']print u'[网页链接]', urls.replace('\n','').strip()urlss = 'http://www.mayi.com' + urls + ''print urlssgetInfo(urlss,fname,fprice,fscore,user_agent)#主函数
if __name__ == '__main__': i = 0while i<33:print u'页码', (i+1)if(i==0):url = 'http://www.mayi.com/guiyang/?map=no'if(i>0):num = i+2 #除了第一页是空的,第二页开始按2顺序递增url = 'http://www.mayi.com/guiyang/' + str(num) + '/?map=no'gydzf(url)i=i+1c.close()
输出结果如下,存储本地CSV文件:
![](/assets/blank.gif)
同时,大家可以尝试Selenium爬取蚂蚁短租,应该也是可行的方法。最后希望文章对您有所帮助,如果存在不足之处,请海涵~
(By:Eastmount 2017-03-07 晚上7点 http://blog.csdn.net/eastmount/ )
[python爬虫] BeautifulSoup设置Cookie解决网站拦截并爬取蚂蚁短租相关推荐
- Python爬虫:设置Cookie解决网站拦截并爬取蚂蚁短租
我们在编写Python爬虫时,有时会遇到网站拒绝访问等反爬手段,比如这么我们想爬取蚂蚁短租数据,它则会提示"当前访问疑似黑客攻击,已被网站管理员设置为拦截"提示,如下图所示.此时我 ...
- python爬虫cookie池 与ip绑定_Python爬虫:设置Cookie解决网站拦截并爬取蚂蚁短租
前言 文的文字及图片来源于网络,仅供学习.交流使用,不具有任何商业用途,版权归原作者所有,如有问题请及时联系我们以作处理. 作者: Eastmount PS:如有需要Python学习资料的小伙伴可以加 ...
- python爬虫实战之图灵社区图书信息的爬取(找了久,才找到一个比较好爬取的网站)
python爬虫实战之图灵社区图书信息的爬取 程序的描述 目标 获取图灵社区(https://www.ituring.com.cn/book)中40本图书的书名 将获取的信息以列表的形式输出到屏幕上, ...
- Python爬虫入门 | 5 爬取小猪短租租房信息
小猪短租是一个租房网站,上面有很多优质的民宿出租信息,下面我们以成都地区的租房信息为例,来尝试爬取这些数据. 小猪短租(成都)页面:http://cd.xiaozhu.com/ 1.爬取租房标题 ...
- Python爬虫新手入门教学(十):爬取彼岸4K超清壁纸
前言 本文的文字及图片来源于网络,仅供学习.交流使用,不具有任何商业用途,如有问题请及时联系我们以作处理. Python爬虫.数据分析.网站开发等案例教程视频免费在线观看 https://space. ...
- Python爬虫新手入门教学(十七):爬取yy全站小视频
前言 本文的文字及图片来源于网络,仅供学习.交流使用,不具有任何商业用途,如有问题请及时联系我们以作处理. Python爬虫.数据分析.网站开发等案例教程视频免费在线观看 https://space. ...
- Python爬虫新手入门教学(十三):爬取高质量超清壁纸
前言 本文的文字及图片来源于网络,仅供学习.交流使用,不具有任何商业用途,如有问题请及时联系我们以作处理. Python爬虫.数据分析.网站开发等案例教程视频免费在线观看 https://space. ...
- python怎么爬取b站_【Python爬虫实例学习篇】——4、超详细爬取bilibili视频
[Python爬虫实例学习篇]--4.超详细爬取bilibili视频 由于经常在B站上学习,但无奈于家里网络太差,在线观看卡顿严重,于是萌生了下载视频的想法(如果只是单纯想下载视频,请用you-get ...
- Python爬虫新手入门教学(二):爬取小说
前言 本文的文字及图片来源于网络,仅供学习.交流使用,不具有任何商业用途,如有问题请及时联系我们以作处理. Python爬虫.数据分析.网站开发等案例教程视频免费在线观看 https://space. ...
最新文章
- 012-简单辅助元素
- [YTU ]_2736指针练习--输出最大值
- WannaCry勒索软件还在继续传播和感染中
- train和test的列分布差异(covariate shift)观察
- 物化视图是否可以exp导出_物化视图导出导入可能导致物化视图日志的失效
- java学习(120):set的iterator
- 【转载保存】Mysql主从同步报错集锦
- jmxtrans安装使用
- UPUPW数据库密码的修改
- 网站建设软件—***系统(DianCMS)1.0 发布
- java collections_[20]-Collections工具类
- 程序员到CTO必须注意的几个关键点
- Eclipse快捷键大全(转贴)
- pyinstaller spec文件详解
- 朋友圈可以修改可见范围了
- matlab计算一组数的函数值_matlab中怎么求一组数据概率最大的数
- InStr Split UBound 几个vb函数
- 第53章 SQL GROUP BY 语句教程
- Windows下动态内存分配方式http://whx.tzgt.gov.cn/newOperate/html/7/71/711/3938.html
- Sentinel限流