本博客用于个人学习与工作中的收获

前言

前两天被安排了一个没有接触过的爬取微信小程序中数据的任务,虽然我是连爬虫貌似都还没写过的实习仔,但是想着应该不难,那可不就信心满满地接下任务了。然后第一天,一整天都在查资料看python爬虫相关的东西,什么urllibBeautifulSoup,虽然一天下来我也就记得个流程了,但至少知道是个啥了,也算是个有收获(摸鱼)的一天了。

结果到了第二天搜索爬取微信小程序相关的内容,结果发现貌似不太对,微信小程序我好像直接拿不到地址啊,那我的urllib.request就没有用武之地了啊,这可咋办?通过查阅资料发现微信小程序虽然把地址啥的都封装起来了,但是好像可以通过FiddlerCharles 等抓包工具抓到数据包。行吧,那就马上安排起来!开整!要是抓到包了总可以拿到数据或者地址啥的了吧!

准备工作

  • 下载Fiddler Classic : Fiddler Classic | Original Web Capturing Tool for Windows官网下载就完事了,下载的时候邮件啥的随便填就完事了,安装也就选个位置下一步就行了

  • Fiddler中配置 Tool -> Options

  • 勾选之后证书安装等弹窗全点 即可

    这个端口号后面配置代理需要用到

微信小程序设置

  • 理论上微信小程序使用手机端,通过局域网代理的模式应该可以抓到包,但是经过尝试之后发现貌似抓不到啊~又是经过一般努力研究(百度查查查),发现抓取手机微信小程序上的包需要Android 系统的版本比较低(7 以下?没仔细查了),或者是使用iOS的也行,可是贫穷的我没有啊(ಥ_ಥ),那我就只好将目标转移到PC端的微信小程序啦

  • 电脑微信登录时选择使用代理进行登录,代理的地址可以将鼠标在Fiddler的右上角的Online上查看,端口即为上面设置的端口号

  • 但是,注意:这时候你可能出现打不开微信小程序或者是抓不到小程序的包的情况 ,可以先将目录 C:\Users\[你的用户名]\AppData\Roaming\Tencent\WeChat\XPlugin\Plugins\WMPFRuntime 下的文件先删除[微信先退出],注意【AppData】是隐藏目录哦。

  • 然后再次使用代理登录微信后打开小程序,打开小程序之后记得先将Fiddler的Cache和Cookies清除一下(不然可能会抓不到)

  • 然后按需访问小程序应该就可以抓到包进行一下相关爬取操作啦,实际效果如下,可以看到小程序的数据包中的内容了

PC端微信小程序使用Fiddler进行爬取抓包相关推荐

  1. 接口测试抓包大法:抓web端的包+抓PC端微信小程序的包

    接口测试现在作为一种主流的,简洁的测试方法,已经逐渐被渗透到功能测试和自动化测试的过程中去,成为测试的必备技能之一,现在就来总结一下工作中常用的抓包方法,供各位学习参考. chrome浏览器自带抓包工 ...

  2. 获取PC端微信小程序源码

    获取PC端微信小程序源码 参考文章链接 链接1 链接2 准备工具 解密工具 UnpackMiniApp.exe 下载链接 逆向工具 wxappUnpacker 下载链接1 下载链接2 整体流程 第 1 ...

  3. Fiddler抓取PC端微信小程序请求方法

    最近PC端的微信更新了,在微信中也可以打开相对应的小程序了,那么对于大多数测试同学来说要是可以在PC端打开小程序直接查看小程序发出的HTTPS请求报文,那么定位问题也就太方便了吧,我就是抱着这样的一个 ...

  4. pc端微信小程序抓包

    新版PC端微信更新了小程序的架构,所以全局抓包抓不到了. 临时解决方案: 1.退出微信 2.删除: C:\Users\Administrator\AppData\Roaming\Tencent\WeC ...

  5. fiddler抓取不了PC端微信小程序的包解决方法

    fiddler抓取不了微信小程序的包 最近突然遇到微信抓取不到小程序包,之前都是好的,但突然就凉凉了,经过不懈的查找终于在某个大佬的文章找到解决方法.原址在这里:https://mbd.baidu.c ...

  6. PC端微信小程序wxapkg解密

    sh点击上方↑↑↑蓝字[协议分析与还原]关注我们 " 解密PC端wxapkg文件." 用过微信pc版的应该都知道,PC上也可以使用微信小程序. 这个小程序用起来和手机端差不多,不过 ...

  7. mac 上用charles 抓包pc端微信小程序

    原因:个别电脑打开pc端小程序接口报错,需要查看具体请求参数排除原因 配置charles 1.选择菜单栏Help->SSL Proxying->Install Charles Root C ...

  8. [node.js]PC端微信小程序包解密

    原来发布在掘金,搬过来好了. 微信小程序在PC端是加密存储的,如果直接打开是看不到什么有用的信息的,需要经过解密才可以看到包内具体的内容.本文使用nodejs实现解密算法,主要涉及到crypto, c ...

  9. 爬去微信小程序服务器代码,Python爬取微信小程序通用方法代码实例详解

    背景介绍 最近遇到一个需求,大致就是要获取某个小程序上的数据.心想小程序本质上就是移动端加壳的浏览器,所以想到用Python去获取数据.在网上学习了一下如何实现后,记录一下我的实现过程以及所踩过的小坑 ...

最新文章

  1. au加载默认的输入和输出设备失败_Mac OS X的音频输入输出时如何调整音量
  2. 借助深度卷积神经网络对图片 GIF 视频进行超分辨率放大(即放大与降噪) 以及 对视频进行 插帧(即补帧).
  3. java data使用_@Data注解详解及使用方法-Fun言
  4. onethink不能安装到已经存在的数据库中的问题
  5. 跟踪了下CSDN博客之星的竞选数据,我就看看不评论,你怎么看?
  6. powerdesigner显示列描述信息
  7. 清华出品:一文看尽AI芯片两类瓶颈三大趋势,存储技术开拓新疆界 | 附全文...
  8. PaperWeekly 第28期 | 图像语义分割之特征整合和结构预测
  9. esxi.主机配置上联端口_为什么现代的电脑机箱仍然具有USB 2.0端口?
  10. [ES6] 细化ES6之 -- 块级作用域
  11. flink sink jdbc没有数据_No.2 为什么Flink无法实时写入MySQL?
  12. 2013台式计算机,显卡天梯图 2013最新台式机显卡天梯图
  13. Anthony Zee《Quantum Field Theory in a Nutshell (2nd)》(徐一鸿《简明量子场论(第二版)》)中文目录
  14. 怎么远程传输大文件?
  15. Vuex 命名空间 namespaced 介绍
  16. okr与项目管理区别?
  17. 元器件——瞬态抑制二极管TVS的选型应用总结(TVS的应用、TVS常用参数、TVS选型注意点、单向和双向TVS)
  18. 虚幻四C++入坑指南09:C++实现FPS游戏(3)Pitch Yaw Roll的作用 视角旋转 跳跃
  19. 【java.lang.ref】FinalReference Finalizer FinalizerThread
  20. andriod studio实现界面切换

热门文章

  1. Android 使用easeui 3.0 集成环信即时通讯 我踩过的坑
  2. 高仿APP——元贝驾考(三)ListView多ItemView
  3. C#学习之帧校验序列码FCS
  4. c语言流感,C/C++ “流感传染”算法问题
  5. codeforces 148 C. Terse princess(思维,构造)
  6. 5天破10亿的哪吒,为啥这么火,Python来分析 !
  7. SuperMap iMobile for Android许可介绍
  8. 企业智能化的路径、方法与领先实践 附下载
  9. 前端vue:节点、树以及虚拟 DOM
  10. HTML input去掉边框