我们在构建网络请求的时候,不可避免地要添加请求头(headers),以mdn学习区为例(https://developer.mozilla.org/zh-CN/docs/learn),我们的请求头是这样的:

一般来说,我们只要添加user-agentcookie就能满足绝大部分需求了,Python代码如下:

但是有些请求,我们要把特定的headers参数添加上才能获得正确的网络响应,不知道哪个参数是必要的情况下,就要先把所有参数都添加上,再逐个排除。

但是手动复制粘贴headers字典里的每一个键值对太费事了,一个不那么方便的解决方案:

  • 正则表达式或者直接字符串替换,把headers字符串拷贝下来,转化为字典

有没有把网络请求快速构建成Python代码的方法呢?这里给大家介绍两个:

  • 网站在线转换
  • Postman

抓取网站:https://developer.mozilla.org/zh-CN/docs/learn

网站在线转换

1,Chrome打开开发者选项(f12),network选项卡,刷新页面,获取请求,找到页面信息对应的请求 (通过请求的名称、后缀和response来判断)

2,右键,copy,copy as cURL (bash),注意不是【copy as cURL (cmd)】

3,打开网站,https://curl.trillworks.com/,粘贴cURL (bash)到左边curl command,右边会自动出Python代码

4,生成代码如下图

5,print(response.text) 就可以打印网页源代码啦!

Postman

1,下载postman (Chrome有个postman的插件,操作应该差不多)

2,打开postman,弹出的界面可以直接关掉

3,import,paste raw text,在Chrome里复制curl(bash),粘贴到下面的对话框里,点击import按钮

4,点击send,模拟网络请求,下方可查看源代码

5,确保源代码正常后,点击code

6,左上角可以选择编程语言,右上角复制到剪贴板

linux c语 curl代码_偷懒必备工具——一键生成爬虫代码相关推荐

  1. 我使用过的Linux命令之curl - 强大的网络传输工具

    我使用过的Linux命令之curl - 强大的网络传输工具 http://codingstandards.iteye.com/blog/807844 博客分类: Linux命令 LinuxTomcat ...

  2. html在线校验器,代码检查错误必备工具-HTML标签检测器

    很多人编写网站代码时,经常会忘记写开始或结束标签,虽然有些标签缺失对网站没有很大影响,但是站在优化角度,一个标签的错误可能会使你的网站在搜索引擎中的评分降低,从而影响关键词排名进度.但是一个网站已经写 ...

  3. android apk安装工具,安卓装机必备工具!一键批量安装应用apk

    原标题:安卓装机必备工具!一键批量安装应用apk 安卓如何批量安装App的apk安装包?这是很多朋友都遇到的问题.安卓可以通过apk安装电子市场所没有的App,不过有时候下载一堆apk安装包回来,还需 ...

  4. 可以一键生成crud的php框架,关于Laravel+vue+admin一键生成CRUD代码

    下面由Laravel框架教程栏目给大家介绍Laravel+vue+admin 一键生成CRUD代码,希望对需要的朋友有所帮助! Laravue Laravel+vue+admin 实现了JWT鉴权,动 ...

  5. python词频统计代码_机器学习必备宝典-《统计学习方法》的python代码实现及课件...

    <统计学习方法>可以说是机器学习的入门宝典,许多机器学习培训班.互联网企业的面试.笔试题目,很多都参考这本书.本站根据网上资料用python复现了课程内容,并提供本书的代码实现.课件下载. ...

  6. html插入flash代码_初学者必备Web开发APP,支持代码补全,一键插入代码,厉害了!...

    新手学前端神器,HTML代码补全功能太牛了! 讲过学习后端的许多优秀APP,这次来推荐一下前端用的软件. 前端,包含了HTML+CSS+JavaScript这一整套的流程,缺一不可. 其实,市面上用来 ...

  7. java cxf服务端代码_【JAVA】 cxf 生成 webservice 服务端代码

    CXF Apache CXF = Celtix + XFire.CXF 继承了 Celtix 和 XFire 两大开源项目的精华,提供了对 JAX-WS 全面的支持,并且提供了多种 Binding . ...

  8. html中看到php代码_如何在HTML中嵌入PHP代码

    如何在HTML中嵌入PHP代码 对于一个有经验的 PHP Web 开发者,在HTML中嵌入PHP代码是一件非常容易的事情.但是对于刚开始接触 PHP 编程语言的新手这就是一个问题.下面是小编为大家带来 ...

  9. 网页版的svn怎样同步代码_学会使用Hdlbits网页版Verilog代码仿真验证平台

    大家推荐一款网页版的 Verilog代码编辑仿真验证平台,这个平台是国外的一家开源FPGA学习网站,通过 "https://hdlbits.01xz.net/wiki/Main_Page&q ...

最新文章

  1. 解决:“Word遇到问题需要关闭。我们对此引起的不便表示抱歉” 的问题
  2. 最为一个领导,我该怎么领导
  3. 1.18 Java直接插入排序法
  4. processing python模式_python学习Processing
  5. mysql数据库系统配置文件_MySQL数据库(6)----配置文件 my.cnf 的使用
  6. 怎样为ubuntu eclipse 添加 GBK字符集
  7. ASP.Net Core 3.1 中使用JWT认证
  8. 掌握Android中的进程和线程
  9. flume监听服务器文件,flume监听服务器端口数据库
  10. lvs nginx-proxy nginx 取用户真实IP
  11. 机器学习实战 基于_资料 |《机器学习实战:基于 Scikit-Learn、Keras 和 TensorFlow(第二版)》...
  12. 组网学习之什么是链路冗余(二)
  13. 在MFC程序中使用XML文件配置工具栏
  14. 三、Android开启wifi热点
  15. 更改C盘用户名的惨痛教训
  16. 计算机睡眠重启后无法识别网络,电脑睡眠后唤醒电脑没有反应
  17. 从互联网角度出发,慧算账受客户追捧
  18. 19071 递归实现指数型枚举
  19. winrar正确破解方法
  20. L2正则化—tensorflow实现

热门文章

  1. python网络编辑 socket篇
  2. Spark Executor解析
  3. PAT乙类1005之继续(3n+1)猜想 (25 分)
  4. Spring Cloud源码分析(四)Zuul:核心过滤器
  5. 阿里P8架构师谈:分布式架构设计12精讲
  6. 金融行业如何用大数据构建精准用户画像?
  7. Android官方开发文档Training系列课程中文版:线程执行操作之线程池操作
  8. 企业咨询:常用分析和咨询方法列表
  9. 【LeetCode】4月1日打卡-Day17-括号匹配/嵌套深度
  10. PNAS新研究:剑桥学者发现,有些 AI 模型无法被计算