背景

性能测试中,我们经常选择TP90、TP95、TP99等指标项作为性能对比的参考水位, 在本文中,我们给出一种计算 TP90、TP95 和 TP99 等水位线的方法,首先我们解释一下TP90、TP95、TP99的含义.

• TP90: 即 90% 的数据都满足某一条件.
• TP95: 即 95% 的数据都满足某一条件.
• TP99: 即 99% 的数据都满足某一条件.

我们之所以说其“满足某一条件”，是因为在计算的时候，我们既可以向前计算也可以向后计算，例如：

1, 2, 3, …, 98, 99, 100

如上所示，这是一个从 1 至 100 的数列，如果我们想计算其 TP99 的值，其方法为用数列中数值的总个数乘以 99%，即100 * 99% = 99，显然在这个数列中有两个数值满足这个 99 的概念，分别为：
• 2: 即数列中 99% 的数值都大于等于2
• 99: 即数列中 99% 的数值都小于等于99
因此，TP90、TP95 或者 TP99 等水位线是有两种含义的，具体选择哪一种，我们可以按需求自己选择。

设计思路

如果我们要计算 TP90、TP95 或者 TP99 等水位线的值，其前提就是需要我们将所有的待计算数据保存并进行排序。首先我们应该用什么数据结构来存储这一系列的值呢？数组？或者列表？实际上，无论我们选择哪一种数据结构，我们都不能假设其长度无限大，因为内存空间是有限的，而且数据结构也有理论上的最大值，但是我们要存储的值的个数却可能是无限的。因此，我们就需要利用有限长度的数据结构存储更多的数值。在这里，数据结构我们选择TreeMap，以计算耗时的 TP90、TP95 或者 TP99 等水位线为例：
<1,1><5,3><6,1><2,2>< 3,3><4,2><7,2><9,3><10,3>

TreeMap<Long,Long>: key为耗时,value为该耗时下的数据个数,TreeMap是红黑色树数据结构实现,可在初始化时指定其key的排序规则(从小到大):
TreeMap<Long, Long> treeMap = new TreeMap<>(Comparator.naturalOrder());

TreeMap<Long, Long> treeMap = new TreeMap<>(Comparator.naturalOrder());

排序后的数据如下:
<1,1> <2,2> < 3,3> <4,2> <5,3> <6,1> <7,2> <9,3> <10,3>
排序完成后我们需要对总的数据量计进行统计,即对TreeMap的value的数据个数进行循环累加统计:

Long total=treeMap.values().stream().mapToLong(o->o).sum();
total:20

接下来完成对TP90、TP95和TP99的index计算:

Double idx90= Math.ceil((double)total*90/100);
idx90:19
Double idx95= Math.ceil((double)total*95/100);
idx95:20
Double idx99= Math.ceil((double)total*99/100);
idx99:20

此时我们可以看到TP90的index为19,TP95和TP99的index为20,根据TreeMap的耗时分部情况如下:
那如何将index和我们的区间数据进行映射找寻出该区间对应的耗时呢? 我们可以通过对treeMap数据进行一次recordMap转换,recordMap key记录耗时的第一个idx,value则为该耗时数值:

TreeMap<Long, Long> transMap = new TreeMap<>(Comparator.naturalOrder());
AtomicReference<Long> idx= new AtomicReference<>(0l);
treeMap.forEach((key,value)->{transMap.put(idx.get(),key);idx.updateAndGet(v -> v + value);
});

则转换后的数据如下:

{0=1, 1=2, 3=3, 6=4, 8=5, 11=6, 12=7, 14=9, 17=10}

然后可以通过java8提供的floorEntry返回小于或等于给定的键的值映射:

Long total=treeMap.values().stream().mapToLong(o->o).sum();
Double idx90= Math.ceil((double)total*90/100);
Double idx95= Math.ceil((double)total*95/100);
Double idx99= Math.ceil((double)total*99/100);
Map.Entry<Long, Long> idx90Entry = transMap.floorEntry(idx90.longValue());
Map.Entry<Long, Long> idx95Entry = transMap.floorEntry(idx95.longValue());
Map.Entry<Long, Long> idx99Entry = transMap.floorEntry(idx99.longValue());Long TP90=idx90Entry.getValue();
Long TP95=idx95Entry.getValue();
Long TP99=idx99Entry.getValue();

代码实现

整体代码实现如下:

@Test
public void test03(){TreeMap<Long, Long> treeMap = new TreeMap<>(Comparator.naturalOrder());// <1,1> <5,3> <6,1> <2,2> <3,3> <4,2> <7,2> <9,3> <10,3>treeMap.put(1l,1l);treeMap.put(5l,3l);treeMap.put(6l,1l);treeMap.put(2l,2l);treeMap.put(3l,100l);treeMap.put(4l,2l);treeMap.put(7l,2l);treeMap.put(9l,3l);treeMap.put(10l,3l);TreeMap<Long, Long> transMap = new TreeMap<>(Comparator.naturalOrder());AtomicReference<Long> idx= new AtomicReference<>(0l);treeMap.forEach((key,value)->{transMap.put(idx.get(),key);idx.updateAndGet(v -> v + value);});Long total=treeMap.values().stream().mapToLong(o->o).sum();Double idx90= Math.ceil((double)total*90/100);Double idx95= Math.ceil((double)total*95/100);Double idx99= Math.ceil((double)total*99/100);Map.Entry<Long, Long> idx90Entry = transMap.floorEntry(idx90.longValue());Map.Entry<Long, Long> idx95Entry = transMap.floorEntry(idx95.longValue());Map.Entry<Long, Long> idx99Entry = transMap.floorEntry(idx99.longValue());Long TP90=idx90Entry.getValue();Long TP95=idx95Entry.getValue();Long TP99=idx99Entry.getValue();System.out.println("TP90:"+TP90+", TP95:"+TP95+", TP99:"+TP99);
}

转载请注明:https://blog.csdn.net/u012472945/article/details/105611155

高并发监控[一]:TP90、TP99耗时监控设计与实现相关推荐

oom 如何避免高并发_【面试题】如何设计一个高并发系统？
面试题如何设计一个高并发系统? 原文链接:https://github.com/doocs/advanced-java/blob/master/docs/high-concurrency/high- ...
高并发大数据量的数据库的设计与优化
1.可以使用静态页面的地方,使用静态页面,减少页面解析时间. 2.尽量使用缓存技术来做.用户缓存.页面缓存等一切缓存,使用特定的机制进行刷新.利用消耗内存空间来换取用户的效率.同时减少数据库的访问次数 ...
java高并发多线程架构_《Java高并发编程详解-多线程架构与设计》线程安全与数据同步...
定义共享资源:多个线程对同一资源访问(读写) 线程安全:多个线程对同一资源访问的数据是一致的. Synchronized使用同步方法同步代码块深入 synchronized关键字 p66-67 ...
一周爆肝上线百万高并发系统！你给我解释解释什么叫牛逼？
作者:木子鱼皮链接:https://www.nowcoder.com/discuss/368998 本文是个人(腾讯广告全栈毕业生)从零开始一周紧急上线百万高并发系统的相关经验.思路及感悟,在此记录 ...
MySQL的性能优化及自动化运维实践与Mysql高并发优化
首先,我们来看看DBA的具体工作,我觉得 DBA 真的很忙:备份和恢复.监控状态.集群搭建与扩容.数据迁移和高可用,这是我们 DBA 的功能. 了解这些功能以后要对体系结构有更加深入的了解,你不知道怎 ...
读书笔记：《亿级流量网站架构核心技术 -- 跟开涛学搭建高可用高并发系统》
from <亿级流量网站架构核心技术 – 跟开涛学搭建高可用高并发系统> 概述一个好的设计要做到,解决现有的需求和问题,把控实现和进度风险,预测和规划未来,不要过度设计,从迭代中演进和完 ...
高并发编程_高并发编程系列：7大并发容器详解（附面试题和企业编程指南）...
不知道从什么时候起,在Java编程中,经常听到Java集合类,同步容器.并发容器,高并发编程成为当下程序员需要去了解掌握的技术之一,那么他们有哪些具体分类,以及各自之间的区别和优劣呢? 只有把这些梳理 ...
互联网高并发架构设计模式
2019独角兽企业重金招聘Python工程师标准>>> 前言随着互联网的快速发展,很多传统行业都开始将原有的产品互联网化移动化,这其中就涉及到对原有系统的改造,因为之前大部分时间都 ...
5000并发的qps是多少_高并发架构设计
点击蓝字,关注我们 01 概述高并发(High Concurrency)是互联网分布式系统架构设计中必须考虑的因素之一,它通常是指,通过设计保证系统能够同时并行处理很多请求. 高并发一方面可以提高资 ...

高并发监控[一]:TP90、TP99耗时监控设计与实现

高并发监控[一]:TP90、TP99耗时监控设计与实现

背景

设计思路

代码实现

高并发监控[一]:TP90、TP99耗时监控设计与实现相关推荐

最新文章

热门文章