为了让你更好地体验 Serverless 带来的变革,这节课我们以 Serverless 版本的"Hello World"实操例子进行展示。鉴于我的熟悉程度,我选择了阿里云,当然,你也可以选择你熟悉的云服务商

Servless 实践案例

另外,需要注意的是,如果你是跟着我一步步实操练习的,那么开通云服务可能会产生少量费用,遇到充值提示你要自行考虑一下。当然,如果你不着急体验,我觉得看我的视频演示也已经足够了。

我们从上面的演示也看到了,会用 Serverless 这个目标我觉得不难实现,但这不是我们这节课的终极目的。今天我就想带着你打开这个 FaaS "Hello World"应用的引擎盖,来看看它内部到底是如何运行的。为什么要急着给你讲原理呢?因为如果你不理解原理的话,后面在应用 Serverless 化的时候就无从下手了。

FaaS 是怎么运行的?

现在大家都觉得 Serverless 是个新东西,是个新风口,刚才在演示的视频里你也能看到,它确实很方便。但你也不用把它想得多复杂,运行应用的那套逻辑还没有变化,Serverless 只是用技术手段帮我们屏蔽了复杂性,这点它和其他的云技术没有任何差别。

你可以想想,在 Serverless 出现之前,我们要部署这样一个"Hello World"应用得何等繁琐。首先为了运行我们的应用,我们要在服务端构建代码的运行环境:我们要购买虚拟机服务,初始化虚拟机运行环境,安装我们需要的应用运行环境,尽量和本地开发环境保持一致;紧接着为了让用户能够访问我们刚刚启动的应用,我们需要购买域名,用虚拟机 IP 注册域名;配置 Nginx,启动 Nginx;最后我们还需要上传应用代码,启动应用。

你可以闭上眼睛想想是不是我说的这样,当然,为了方便你理解,我还画了张图。前面 5 步都准备好了,用户在第 6 步才能成功访问到我们的应用。

与上面传统流程形成鲜明对比的是,我们刚刚的 Serverless 部署只需要简单的 3 步,而且目前这样操作下来,没有产生任何费用。上一课我们讲过,Serverless 是对服务端运维体系的极端抽象。注意,这句话里面有个关键词,“抽象”,我没有用“革新”“颠覆”之类的词语,也就是说,用户 HTTP 数据请求的全链路,并没有质的改变,Serverless 只是将全链路的模型简化了。

具体来说,之前我们需要在服务端构建代码的运行环境,而 FaaS 应用将这一步抽象为函数服务;之前我们需要负载均衡和反向代理,而 FaaS 应用将这一步抽象为 HTTP 函数触发器;之前我们需要上传代码和启动应用,而 FaaS 应用将这一步抽象为函数代码。

触发器、函数服务……咦,是不是发现开始出现了一些陌生名词?不用着急,还是对照着上面这张图,我给你再串下"Hello World"这个纯 FaaS 应用的数据请求链条。理解了这些链条,你自然就理解了这几个新名词的背景了。

咱们先从图的右边开始看,图上我标注了次序。当用户第一次访问 HTTP 函数触发器时,函数触发器就会 Hold 住用户的 HTTP 请求,并产生一个 HTTP Request 事件通知函数服务。

紧接着函数服务就会检查有没有闲置的函数实例;如果没有函数实例,就去函数代码仓库中拉取你的代码;初始化并启动一个函数实例,执行这个函数,传入这个 HTTP Request 对象作为函数的参数,执行函数。

再进一步,函数执行的结果 HTTP Response 返回函数触发器,函数触发器再将结果返回给等待的用户客户端。如果你还记得的话,我们刚刚的视频演示,你可以看到我们的纯 FaaS "Hello World"应用例子中,默认创建了 3 个服务。

  • 第一个"GreetingServiceGreetingFunctionhttpTrigger"函数触发器,函数触发器是所有请求的统一入口,当请求发生时,它会触发事件通知函数服务,并且等待函数服务执行返回后,将结果返回给等待的请求。
  • 第二个"GreetingService"函数服务,当函数触发器通知的“事件”到来,它会查看当前有没有闲置的函数实例,如果有则调用函数实例处理;如果没有,则会创建函数实例,等实例创建完毕后,再调用函数实例处理事件。
  • 第三个"GreetingServiceGreetingFunction"函数代码,“函数服务”在第一次实例化函数时,就会从这个代码仓库中拉取代码,并构建函数实例。

理解了 FaaS 应用调用链路,我想你可能会问:“真够复杂,折腾来折腾去,怎么感觉它的这套简化逻辑很像以前新浪的 SAE 或者 Heroku 那样的 NoOps 应用托管 PaaS 平台?”不知道你是不是有这样的问题,反正我当时第一次接触 Serverless 时就有类似的疑问。

其实,FaaS 与应用托管 PaaS 平台对比,最大的区别在于资源利用率,这也是 FaaS 最大的创新点。FaaS 的应用实例可以缩容到 0,而应用托管 PaaS 平台则至少要维持 1 台服务器或容器。

你注意看的话,在上面"Hello World"例子中,函数在第一次调用之前,实际的服务器占用为 0。因为直到用户第一次 HTTP 数据请求过来时,函数服务才被 HTTP 事件触发,启动函数实例。也就是说没有用户请求时,函数服务没有任何的函数实例,也就不占用任何的服务器资源。而应用托管 PaaS 平台,创建应用实例的过程通常需要几十秒,为了保证你的服务可用性,必须一直维持着至少一台服务器运行你的应用实例。

打个比方的话,FaaS 就有点像我们的声控灯,有人的时候它可以很快亮起来,没人的时候又可以关着。对比传统的需要人手动开关的灯,声控灯最大的优势肯定就是省电了。但你想想,能省电的前提是有人的时候,声控灯能够找到比较好的方式快速亮起来。

FaaS 也是这样,它优势背后的关键点是可以极速启动。那它是怎么做的呢?要理解极速启动背后的逻辑,这里我就要引入冷启动的概念了。

FaaS 为什么可以极速启动?

冷启动本来是 PC 上的概念,它是指关闭电源后,PC 再启动仍然需要重新加载 BIOS 表,也就是从硬件驱动开始启动,因此启动速度很慢。

现在的云服务商,线上物理服务器断电重启几乎是不太可能的。FaaS 中的冷启动是指从调用函数开始到函数实例准备完成的整个过程。冷启动我们关注的是启动时间,启动时间越短,我们对资源的利用率就越高。现在的云服务商,基于不同的语言特性,冷启动平均耗时基本在 100~700 毫秒之间。得益于 Google 的 JavaScript 引擎 Just In Time 特性,Node.js 在冷启动方面速度是最快的。

100~700 毫秒的冷启动时间,我不知道你听到这个数据的时候是不是震惊了一下。

下面这张图是 FaaS 应用冷启动的过程。其中,蓝色部分是云服务商负责的,红色部分由你负责,而函数代码初始化,一人一半。也就是说蓝色部分在冷启动时候的耗时你不用关心,而红色部分就是你的函数耗时。至于资源调度是要做什么,你可以先忽略,我后面会提到。

例如从刚才演示视频的云服务控制台我们可以看到,"Hello World"的单次函数耗时是 0.0125 CU-S,也就是说耗时 12.5 毫秒,实际我们抓数据包来看,除去建立连接的时间,我们整个 HTTPS 请求到完全返回结果需要 100 毫秒。我们负责的红色部分耗时是 12.5 毫秒,也就是说云服务商负责的蓝色部分耗时是 87.5 毫秒。

注意,FaaS 服务从 0 开始,启动并执行完一个函数,只需要 100 毫秒。这也是为什么 FaaS 敢缩容到 0 的主要原因。通常我们打开一个网页有个关键指标,响应时间在 1 秒以内,都算优秀。这么一对比,100 毫秒的启动时间,对于网页的秒开率影响真的极小。

而且可以肯定的是,云服务商还会不停地优化自己负责的部分,毕竟启动速度越快对资源的利用率就越高,例如冷启动过程中耗时比较长的是下载函数代码。所以一旦你更新代码,云服务商就会偷偷开始调度资源,下载你的代码构建函数实例的镜像。请求第一次访问时,云服务商就可以利用构建好的缓存镜像,直接跳过冷启动的下载函数代码步骤,从镜像启动容器,这个也叫预热冷启动。所以如果我们有些业务场景对响应时间比较敏感,我们就可以通过预热冷启动或预留实例策略,加速或绕过冷启动时间。

了解了冷启动的概念,我们再看看为什么 FaaS 可以极速启动,而应用托管平台 PaaS 不行?

首先应用托管平台 PaaS 为了适应用户的多样性,必须支持多语言兼容,还要提供传统后台服务,例如 MySQL、Redis。

这也意味着,应用托管平台 PaaS 在初始化环境时,有大量依赖和多语言版本需要兼容,而且兼容多种用户的应用代码往往也会增加应用构建过程的时间。所以通常应用托管平台 PaaS 无法抽象出轻量的可复用的层级,只能选择服务器或容器方案,从操作系统层开始构建应用实例。

FaaS 设计之初就牺牲了用户的可控性和应用场景,来简化代码模型,并且通过分层结构进一步提升资源的利用率。学到这里,我们得来看看隐藏在 FaaS 冷启动中最重要的革新技术:分层结构。

FaaS 是怎么分层的?

你的 FaaS 实例执行时,就如上图所示,至少是 3 层结构:容器、运行时 Runtime、具体函数代码。容器你可以理解为操作系统 OS。代码要运行,总需要和硬件打交道,容器就是模拟出内核和硬件信息,让你的代码和 Runtime 可以在里面运行。容器的信息包括内存大小、OS 版本、CPU 信息、环境变量等等。目前的 FaaS 实现方案中,容器方案可能是 Docker 容器、VM 虚拟机,甚至 Sandbox 沙盒环境。

运行时 Runtime [2],就是你的函数执行时的上下文 context。Runtime 的信息包括代码运行的语言和版本,例如 Node.js v10,Python3.6;可调用对象,例如 aliyun SDK;系统信息,例如环境变量等等。

关于 FaaS 的 3 层结构,你可以这么想象:容器层就像是 Windows 操作系统;Runtime 就像是 Windows 里面的播放器暴风影音;你的代码就像是放在 U 盘里的电影。

这样分层有什么好处呢?容器层适用性更广,云服务商可以预热大量的容器实例,将物理服务器的计算资源碎片化。Runtime 的实例适用性较低,可以少量预热;容器和 Runtime 固定后,下载你的代码就可以执行了。通过分层,我们可以做到资源统筹优化,这样就能让你的代码快速低成本地被执行。

理解了分层,我们再回想一下 FaaS 分层对应冷启动的过程,其实你就不难理解云服务商负责的就是容器和 Runtime 的准备阶段了。而开发者自己负责的则是函数执行阶段。一旦容器 &Runtime 启动后,就会维持一段时间,这段时间内的这个函数实例就可以直接处理用户数据请求。当一段时间内没有用户请求事件发生(各个云服务商维持实例的时间和策略不同),则会销毁这个函数实例。具体你可以看下下面这张图,以辅助你理解。

通过一个案例,理解FaaS的运行逻辑相关推荐

  1. 通过一个案例理解 JWT

    原文出自:https://www.pandashen.com JWT 简述 JWT(json web token)是为了在网络应用环境之间传递声明而基于 json 的开放标准,JWT 的声明一般被采用 ...

  2. JVM 调优实战--一个案例理解常用工具(命令)

    测试代码 import java.math.BigDecimal; import java.util.ArrayList; import java.util.Date; import java.uti ...

  3. 一个量化快牛策略的运行逻辑

    你还在看电脑面前盯盘看K线吗? 你还在为一次亏损寝食难安,为一次盈利欣喜若狂吗? 如果是,那也许你就OUT了.随着量化交易的蓬勃发展,一群统计狗.程序猿们已经开始使用计算机模型进行交易了,这些程序用不 ...

  4. 从一个案例看系统优化

    10月27日,由子衿技术团队首席架构师白鳝(徐戟)老师在"DBA+南京群"进行了一次关于"从一个案例看系统优化"的线上主题分享.小编特别整理出其中精华内容,供大 ...

  5. 【权限设计】一个案例,三个角色,简单说下B端产品的权限设计

    入行以来也接触过一些B端产品,这些产品之中权限管理是重中之重,权限管理不仅仅是整个系统的一个小小的模块,它一直贯穿整个系统,从登陆到操作到最后的登出.说它相当的复杂真不为过. 对于权限,如果从控制力来 ...

  6. 采用ODC改善软件质量:一个案例研究

    采用ODC改善软件质量:一个案例研究 点击:265       更新时间:2007-7-17 11:39:42     作者:Yang Gu 出处:IBM   本文内容包括: 软件开发中典型的质量问题 ...

  7. Vue一个案例引发「内容分发slot」的最全总结

    今天我们继续来说说 Vue,目前一直在自学 Vue 然后也开始做一个项目实战,我一直认为在实战中去发现问题然后解决问题的学习方式是最好的,所以我在学习一些 Vue 的理论之后,就开始自己利用业余时间做 ...

  8. 17个案例印证5大生死逻辑

    解密中国互联网:17个案例印证5大生死逻辑(转) 1.中国互联网的构成 如之前冯大辉总结,中国互联网分三个层面:第一层面是媒体上的互联网,也就是大众容易识别和认识的互联网:第二层面是草根互联网,这是中 ...

  9. 入门案例理解 —— 命令模式(Command Pattern)

    目录 前言 一.命令模式[what] 二. 命令模式场景 三. 命令模式UML图 四.入门案例分析 ~ ~ (无使用命令模式) 五.传统设计方案 有哪些不足? 六.使用命令模式改造该项目 六.命令模式 ...

最新文章

  1. 【图】2015年Google搜索引擎排名算法(完整版)
  2. 关于hadoop与jstl冲突的jar包
  3. git提交后的自动化流程构建
  4. chrome 开发者工具,查看元素 hover 样式
  5. html+dom+深入,DOM 深入学习 - 1
  6. 自己配置python环境_windows下python环境的配置
  7. 阿里天池供应链需求预测比赛小结
  8. Linux中locate命令查找文件位置
  9. 梦想cad控件 android,梦想CAD控件 2018.7.26更新
  10. mycat实例(1)
  11. git clone 非空目录
  12. Java验证图片格式
  13. 【2021年度总结】:23岁的流水账
  14. 【推理引擎】ONNXRuntime 的架构设计
  15. 北京专科计算机学校排名及分数线,北京专科大学排名及分数线
  16. 基于JAVA框架的电脑测评系统计算机毕业设计源码+系统+mysql数据库+lw文档+部署
  17. SuperMap GIS BIM类型数据处理 QA
  18. Windows系统安装搭建ios开发环境
  19. 2022-05-25 网工进阶(七)OSPF-影响邻居关系建立的因素、路由撤销、路由汇总、路由过滤、Silent-Interface、报文认证
  20. python处理日值气象数据

热门文章

  1. [Python教程入门教程]Python五子棋小游戏实例分享
  2. Linux忘记登陆密码之破解Linux密码
  3. 汉字转换格式以及截取(此例为:CP936格式转化为utf-8并截取)
  4. 直播预告 | NeurIPS 专场三 青年科学家专场
  5. vue 数组动态刷新失败
  6. Three.js地球开发—4.Three.js渲染场景保存成贴图
  7. python抛出异常的关键字_Python异常处理总结
  8. python异常处理输入不是整数_Python异常处理(二)
  9. C语言中清空数组的方法(VS2013)
  10. 火车订票系统(c语言)