Cascade:自动化测试“旅程”
\
本文要点
\
- 当我们的团队规模更大、过程更为繁多并采用了微服务架构时,系统测试的难度增加了。 \
- 测试的推进过程也截然不同。相比于单元测试环境中,我们缺乏测试特定功能点的手段。 \
- 我们受困于代价非常大的网络调用。除非将技术栈均质化并从中抽出网络调用,否则我们无法摆脱该问题。 \
- 处理状态机需要新的工具。 \
- 我们应该用好这些天生丽质的状态机。
\
在过去……
\
生活就是一个不断面对障碍的过程。我们跳过了一个障碍,紧接着就要去面对下一个障碍。IT行业尤为如此,这一行业仅用了二十到三十年时间就步入了成熟。当然在此期间,每个从业人员也都步入了“敏捷”时代。“测试”概念是敏捷的基本组件,是当前处于成熟状态的IT行业中的关键创新之所在。\
在我刚开始从事开发时,我经常会为了如何避免在代码中引入缺陷,而呆呆地面对各代码块。害怕引入了软件缺陷,我就会名誉扫地,更不用说在物质上的损失了。另一方面,如果我经过一番努力正确地实现了改进,那么只能说我适合于完成份内的工作。问题在于,要无任何风险地实现改进,开发人员必须对系统中的方方面面了如指掌。在团队工作的情况下,此要求绝对是难以企及的。一种可行的做法是在交付功能中尽可能少地做出更改,即完全避免重构!毕竟,虽然开发人员可能会在重构问题上表现出谢天谢地,但是如果出了任何差错,尽管你会向产品负责人(Product Owner)解释说重构能改进代码的质量,只是对产品交付的底线有负面的影响,这时开发人员就会将像碰上瘟疫一样对你敬而远之。\
做一些测试如何?
\
现在我们添加一些测试
\
编写测试是为了寻求一种方法去验证我们代码的工作情况。测试为我们提供了很好的框架或方法,允许我们在并不具备完整知识的情况下做出改进。如果在我们之前的开发人员已经将他们的知识适当地抽取到测试中,那么通过运行这些测试就可以确认我们的编码工作并未破坏任何事情。这听上去很好,但是测试的效能远非如此。测试因为其更多的特性而被开发人员赏识。首先,测试可用于教学目的。测试不仅能告诉我们代码是可以工作的,而且给出了如何使用代码的例子!我们现在具有了对代码中的需求文档化的天然之所,这些文档将与代码并存。其次,测试可与代码共存,并可重复使用。我们可以在每次更改后运行测试。我们可以将开发从某一个稳定点处开始,进而引入一些改进,并结束于另一个稳定点处。这并非是一个新理念。在我学习计算机科学时,那些最聪明的学生就很快地学会了一种称为“迭代开发”的开发方法,即从细微之处着手,让事情工作起来,进而迭代地做扩展。永远不要试图一次性地编写完成整个解决方案。现在我们具有测试,并且我们的测试能自动地告知开发已处于一个稳定点处。我们可以称完成了一个“绿色”的构建,这意味着一个代码块版本已经可接受,并被共享,或是部署和使用。\
但是运行测试是可选
\
代码开发的情况相对要好一些。我们可以更改并重构代码,极大地改进代码库的质量。因此我们不可避免地会陷入下一个系列的问题中:尽管我们可以处理开发人员在过去所做出的更改,但是如何对待开发人员当前所做的更改呢?\
我们必须作为一个团队开展工作。只要我们在每次更改后就运行测试,并只将好的代码提及给源代码控制系统,那么不会出现任何问题。但是问题在于,开发人员或者是永恒的乐观主义者,或者仅是懒惰。我们可能会认为,这么微小的更改当然不会造成任何破坏,所以让我们直接跳过本机测试,提交到源代码控制系统吧。当然,这种做法不可避免地引入了一些并未构建的更改,进而导致失败的测试。其它开发人员也会看到所做的更改并犯了所有同样的错误。更糟的是,他们是在毫不知情的情况下犯了同样的错误。为此,他们将不得不深挖源代码控制系统,分析测试的失败。每位采用了更新的开发人员不得不做这些工作。因此由我们所引入的软件缺陷会被多次的修正。如果团队就此文件进行一次交流,那么只需要一名开发人员去修正问题,而其它开发人员等待修正后结果即可。\
持续集成通过设置系统而改变了这种状况,系统被设置为无论开发人员是否提交代码都自动运行测试。代码将在所有的代码更改后得以验证,并且不再依赖于那些约束开发人员的纪律。具体做法类似于多线程软件开发,我们将一个“编码信号灯”引入到开发方法中,该信号灯将协调多位开发人员对代码的并发更改。当构建给出“绿灯”时,开发人员可以更新代码块。而当构建给出“红灯”时,最后的更改产生了一些破坏,因此最好避免如此。\
但事实上信号灯并未起作用。问题在于还存在着第三种状态,即一个构建可以是“当前正在构建”的状态。这是一个灰色地带,开发人员并不了解有事情出错了。禁止将构建提交到红灯状态的最初考虑是降低修复被破坏构建的复杂度,而非意在最大化开发人员的生产力。是否可以做一次更新?如果你愿意去面对任何潜在的问题,那当然可以。是否可以提交代码?当然可以,只要正在进行构建并非处于红灯状态。这些策略是逐渐形成的,是由那些寻求以合作方式开展工作的团队所制定的,而非预先设计好的。\
因此,构建所占用的时间越来越长。\
破坏规则的魔掌
\
假定我们当前正在构建一个应用,并承诺遵循降低构建时间这一理念。但是过了六个月后,测试就拖垮了我们。现在构建时间从半个小时变成了一个小时。我们的团队具有十名开发人员,幸运的是我们每天只做一次提交。每个人都开始认识到,他们的大部分时间消耗在诸如将代码加入项目等事情上,而非用于实际的代码开发。在每次构建变成绿灯状态时,就会发生一次竞争!开发人员放任自流并犬牙交错地相互提交。构建会变成红灯状态,这时不会有人想到通过深挖最近五次的提交而发现问题。噢,我说错了,现在已经是六次的提交了,深挖六次提交去发现问题。每个人都认识到这在方法上是存在问题的。Scrum Master不愿认同在红灯状态构建上的提交是不可避免的。他们会停止编码信号灯,选定一位开发人员用一周的时间去将红灯状态的构建转变为绿灯状态。当临近发布时,他们就对主代码做一个分支,然后开发人员和测试人员再用一周时间,力图给出一些按说是可以“交付”并工作的代码。\
究竟是哪里完全做错了?
\
我们看一下最新进展,当前很多团队都在经历这样的问题。那么潜在的解决方案是什么?让我们将问题从组成上分解为两个子问题:\
- 过多的开发人员试图去访问同一代码块。 \
- 代码验证需要过长的时间,信号灯不能尽快地清空。
如果能缓解其中任一子问题,那么该问题就会迎刃而解。\
将开发人员分为团队
\
让我们首先看一下第一个子问题:过多的开发人员工作于同一个代码库上。首先,我们当然完全有理由雇用很多的开发人员。这是出于加快开发的考虑。将开发人员遣送回家无助于我们解决问题。这在某种方式上回避了问题。我们需要的是在保持生产效率的同时,降低对代码库或持续集成流水线的争用。我们想要减少的是开发人员之间的相互等待问题。\
还有另一种方法。我们可以将一个代码库分解为多个代码库,每个代码库对应不同的工作团队。在并发编程的情况下,这种做法可以移除单一互斥锁,并以多重锁取而代之,进而降低了竞争,减少了开发人员的等待。虽然我们解决了一个问题,但是又引入了另一个问题。我们现在有多个不同的可交付软件,它们可以是微服务或是软件库,但都是经过独立测试的。这些可交付软件共享同一个合约。但是测试无法看到整体的视图。我们无法确定这些组件间的相互交互情况,因为它们现在都是独立的系统,具有独立的测试集。现在我们的测试的包容性和可枚举性更低,作为验收测试(Acceptance Test)最终对产品负责人(Product Owner)和用户的用处更低。\
因此我们引入了第二阶段的持续集成流水线。该流水线将可交付软件组合在一起,给出试验系统运行的测试。为管理这些测试,我们引入了一个新的团队,并对测试起了新的名字,称为“端到端的测试”、“烟雾测试”或“验收测试”。\
现在问题所有改变,应该说发生了相当大的改变。我们试图去集成的组件现在更像是一些黑箱组件。对于能在何种程度上控制这些测试的内在运行机制,我们现在失去了控制。在此层面上,我们的测试是更高层级的测试,它实现代价比我们以前使用的单元测试更大,并需要很长的运行时间。\
现在我们切分了代码库,并发现不同的团队再次具有了组件开发的能力,但是在将各个组件集成在一起时,我们又回到了老问题上。测试需要很长的运行时间。可以说,我们只是推迟了这个问题的发生。顺此思路,将系统组件化正是微服务的特点。这本身是一个好做法,但是对于解决我们的问题有些画蛇添足,因此我们又再次回到了同一问题上。\
面对房间中动作迟缓的大象
\
那么构建为什么会如此之慢?问题的核心在于网络调用(或磁盘访问)要比方法调用要慢很多。一次网络调用至少用时20毫秒,但是方法调用代价非常低,以至于可以在同样的时间中做上百万次的方法调用。因此不少人认为,应使用单元测试替代集成测试(这里我指的是所有采用网络调用的测试)。虽然这一做法可以解决问题,但是我们还应该看到,房间里面还塞入了另外一头大象。单元测试并非集成测试,其差别在于单元测试遗留下大部分的最终系统未测试。但是,单元测试的确对开发人员编写的代码做了测试。考虑到“配置也是一种代码”,那么在配置Spring、数据库、Nginx等时,为什么我们会很高兴不用对配置做测试,但却一贯坚持应测试开发人员所编写的所有Java代码?为什么语言是针对特定关注的,而配置却不是呢?要是这样的话,我们需要一种能确保语言中类型安全的编译器。事实上并不存在用于配置的编译器,如果有需要做测试,那么它必须是无类型配置吗?要将集成测试替换为单元测试的想法,就是想要做更少的测试。单元测试具有其自身的功能,其中最重要的就是用于良好软件开发过程的开发工具。从最终用户的价值上看,它们是不可替代的。\
争论还存在另一个方面。在单元测试环境中,我们可以从任一开始状态设置测试。我们可以访问模拟对象(Mock)和桩程序(Stub),并可以操纵测试的流程,使之聚焦于想要测试的特定功能点上。这种能力可以通过使用控制反转(IoC)承担,也可以通过重载方法(例如,抽象工厂方法模式)实现。使用集成测试时,我们的控制能力很少。虽然我们可以通过在网络层使用WireMock等工具访问Mock和Stub,但是我们不能注入代码到这些组件中。因此我们强制以状态机方式与系统交互。必须遍历多个系统状态才能到达所需测试的特定需求阶段,并必须反复地做网络调用。毫无疑问,这些测试的代价非常之大!\
现在我们有了完整的测试循环。开发团队也具有了生产力,但是我们所分享的合约上具有了更多的风险。不同的可交付软件组合现在落在了另一个的团队上,无法运行于可做方法调用的单元测试环境中。我们必须要做网络调用并测试状态机。当前在流水线中,软件开发中的阻塞之处只是向下移动了,但是依然存在。\
现在让我们转向“旅程”方法
\
让我们再看一下这些测试。我们自一开始以来,就已在很大程度上改进了整体过程。我们构建了我们可以做的所有单元测试,这些单一测试运行快速。但是现在我们具有了微服务和多个不同的团队,并集成了第三方组件和商业软件,现在我们想要证明所有这一切都工作正常。我们知道,要证明所有系统集成在一起工作正常,这并非能像对单一功能点那样是可以验证的事情。我们必须通过一系列不同的步骤将这一联邦系统运行一遍。\
举个例子,假定我们正在为网店开发一个结算过程。我们采用了不同的微服务处理不同的功能,譬如一个微服务处理购物车,另一个微服务处理产品在网店中的展示,还有一个微服务处理广告等。所有这些组件共享同一个合约,但是开发是独立的。我们需要编写一个执行整个过程的测试。在单元测试场景下,我们可以独立测试每个特性。例如,我们可以测试一个商品是否可以放入到购物车中,或是可以测试购物车中的所有商品的总价是否适当。但是现在我们需要测试的是微服务和Web门户。例如,在测试购物车的功能是否完全正确前,我们要将商品置于购物车中。这意味着,我们需要浏览网站定点击商品条目,将它们添加到购物车中。上述所有操作一并构成了一种新类型的测试,我将其称为“旅程”测试(Journey Test)。通常我们必须将这些组件看作是黑箱,并采用实现代价很大的过程。\
在下表中,我们并排列出了一些“旅程”。其中的每个步骤使用一个字母表示,大致表示了访问一个Web网页并做点击的操作。表中列出了五个不同的“旅程”,除了“旅程5”之外,其它都是从A页面开始,并跳转到C页面。依此类推……\
(点击放大图像)
\
这些“旅程”的运行大约需要30秒时间。\
那好,下面让我们仔细查看这些“旅程”,其中将会揭示出如下重要特性。\
- 它们是高度重复的。这主要是由于所有“旅程”在结束时的步骤激增,即步骤F、G和H。 \
- 步骤B和D相比于步骤F,它们的开始方式不同,或是受影响的方式不同,但是终止的方式一样。
其中显然存在一些低效之处。我们可以整合“旅程”测试。在下表中,我就将五个“旅程”减少为三个。\
(点击放大图像)
\
通过明确各“旅程”的测试范畴,我们实现了与上表同样的功能覆盖。这可节省约40%的时间。如果能在整个测试集上获得同样的性能增益,潜在可将30秒的构建优化为22秒。以我个人经验看,可做智能组合的“旅程”测试能给出更加显著的性能增益。\
因此,测试者的工作现在变成将测试整合为一个有效的测试脚本并加以管理。但是依然有一些问题需要考虑:\
- 如何调用这些测试?测试不再聚集于特定的需求,而是一趟运行就适合多个需求。 \
- 如何识别间隙?如何知道有哪些遗漏? \
- 如何识别冗余的脚本?如果出现了新的需求,我们如何知道应在哪里插入这些新断言?
为此,我编写了一个称为“Cascade”的测试框架,目的就是管理这些复杂性。\
有新的问题?我们有新的工具!
\
那么Cascade是如何解决这些问题的?\
我们将构成一个过程的每个步骤分别定义为独立的类。进而Cascade框架将可从中管理并生成测试。\
在Cascade的源代码中,提供了一些关于如何使用的例子。第一个例子给出了如何使用Cascade测试一个网络银行网站。\
我们必须选定测试开始点。在本例中,我们将打开浏览器加载登陆页面。在GitHub上可以查看工作代码例子。
@Step\public class OpenLandingPage {\ @Supplies\ private WebDriver webDriver;\\ @Given\ public void given() {\ webDriver = new ChromeDriver();\ }\\ @When\ public void when() {\ webDriver.get(\"http://localhost:8080\");\ }\\ @Then\ public void then() {\ assertEquals(\"Tabby Banking\
Cascade:自动化测试“旅程”相关推荐
- selenium自动化测试_为什么在生产中进行Selenium自动化测试对于您的下一个版本至关重要?...
selenium自动化测试 您是否认为仅仅是因为您的Web应用程序在过渡环境中以飞快的速度通过,它对于生产环境也将是相同的? 您可能需要重新考虑! 特别是,如果我们指的是跨浏览器测试 ,则需要确保跨各 ...
- 自动部署 管道 ci cd_自动化测试在CI CD管道中的作用
自动部署 管道 ci cd 业界广泛采用的软件开发实践:持续集成和持续部署可确保良好地交付产品并经常交付. 常规代码提交需要常规/连续测试,而如果忽略它,则可能导致非弹性基础结构. 如何交付坚固的CI ...
- 自动化测试在CI CD管道中的作用
业界广泛采用的软件开发实践:持续集成和持续部署可确保良好地交付产品并经常交付. 常规代码提交需要常规/连续测试,而如果忽略它,则可能导致基础架构无法恢复. 如何交付坚固的CI CD管道? 对于许多公司 ...
- adb命令安装apk到手机_安装在手机上自动化测试apk-傻猴
介绍一款安卓app 自动化测试工具傻猴APP,其实就是monkey测试,差别就是不连接电脑,不需要输入命令,报告自动生成. 工具原理: 1.手机通过socket 与电脑建立连接,向电脑发送相关的adb ...
- 【华为云实战开发】14.如何使用Node爬虫利器Puppteer进行自动化测试
文:华为云DevCloud 乐少 1.背景 1.1 前端自动化测试较少 前端浏览器众多导致页面兼容性问题比较多,另外界面变化比较快,一个月内可能页面改版两三次,这样导致对前端自动化测试较少,大家也不是 ...
- 新手测试周报范文_作为新手自动化测试人员,我应该避免的14个错误
新手测试周报范文 当您开始作为自动化测试员的旅程时,错误肯定会发生. 如果您不参加Selenium自动化测试脚本的深入研究而参加自动化网站测试,也可能会发生这种情况. 虽然可以从错误中学习,但最好还是 ...
- 自动化测试工程师_所以你想成为一名测试自动化工程师
自动化测试工程师 I see many people and personally have several friends and acquaintances that are interested ...
- 开源电商Sylius如何执行自动化测试
请注意SQL部分处理单价为小数的运算技巧, 使用放大单价100倍的方式来存储商品的单价, 显示在网页上缩小100倍还原输出即可,避免浮点数运算. 你还不知道数据库直接存储小数来进行算术运算的坑, 证明 ...
- 将自动化测试推向极限
目录 翻译内容 Pushing the limits 推动极限 The promise of artificial intelligence in automated testing 人工智能在自动化 ...
- 人工智能 自动化测试_测试中的AI:第三波自动化
人工智能 自动化测试 敏捷方法论的发展迫使企业进行创新并以闪电般的速度交付. 在交付周期时间减少的同时,提供积极的用户体验并保持竞争优势所需的技术复杂性也在增加,而我们引入引人注目的创新的速度也在增加 ...
最新文章
- linux中rm删除的文件是否可以恢复,Linux下用rm删除的文件的恢复方法
- 成功解决UnicodeDecodeError: 'gbk' codec can't decode byte 0xab in position 28: illegal multibyte sequenc
- Spark:如何替换sc.parallelize(List(item1,item2)).collect().foreach(row={})为并行?
- Linux网络编程——黑马程序员笔记
- 在考生文件夹存有JAVA3_注意:下面出现的“考生文件夹”均为%USER%在考生文件夹下存有文件名为J_网考网(Netkao.com)...
- NanShan作者:风景未变人已变
- python 程序bug解决方案
- oracle 创建字段自增长——两种实现方式汇总(转)
- impala查询数据与hive的查询数据比对(数据的校验)
- STM32 F4 General-purpose Timers for Periodic Interrupts
- python 多线程,进程的理解
- 【渝粤教育】国家开放大学2018年春季 8601-22T燃气工程概论 参考试题
- 【脑电信号】基于matlab小波变换脑电信号特征提取【含Matlab源码 511期】
- mysql驱动包放在ecplise哪里_eclipse导入mysql jdbc驱动包的具体步骤及注意事项
- Angular导入导出Excel控件简介
- PMP专题练习-整合管理
- ZBlogPHP评论验证码无法显示
- Qt读取文本文件乱码的问题
- php逆波兰表达式,PHP实现逆波兰式 - 计算工资时用
- MD5加密和SHA256加密
热门文章
- 论文翻译:2021_Performance optimizations on deep noise suppression models
- 微积分(四)——多元函数微分总结
- 《赖氏经典英语语法》第一集
- html 横屏滚动字幕,手机知识:手机横屏滚动字幕
- 如何使用树莓派 连接千寻开发板开发高精度应用
- Shopee平台很火爆,但是产品价格设置的不合理,努力都是白费的
- Hexo NexT主题自定义背景图片
- [Codeforces] AIM Tech Round 5 (rated, Div. 1 + Div. 2) 总结+题解
- uniapp 日期选择器_uni-app开始时间与结束时间(结束时间大于开始时间)picker编写...
- itunes备份是整个手机备份吗_iTunes备份道理我都懂,但我依然不想备份的?