常见的限流算法及其原理剖析
1 何谓限流
限流,顾名思义,便是限制流量的意思。系统规定在一段时间内只能进入这么多的流量,如果超过限额的话,那就不好意思了,我这个系统接受不了。通过限流算法,我们可以控制系统的 qps,更好地对系统提供保护。
本文致力于介绍几种我们常用的限流算法,同时会对其原理进行一定程度的剖析,希望大家能有所收获。
2 计数器算法
算法原理
计数器算法是最简单的限流算法,假设我们规定 A 接口在1小时之内的访问次数不能超过1000次,我们可以在开始时设置一个计数器,只有有一个请求进来,计数器的值就加一。如果计数器的值大于1000,而且该次请求与第一次请求的间隔时间小于1小时,说明请求过多,需要执行拒绝策略;如果该次请求与第一次请求的间隔时间大于1小时,直接重置计数器即可。
存在的问题
该算法虽然比较简单,但是存在一个临界问题。
假设存在一个恶意用户,在第一个小时的最后一秒发送了1000个请求,又在第二个小时的第一秒再次发送了1000个请求,通过在时间窗口的重置节点处突发请求,瞬间超过我们的速率限制。恶意用户可能通过这个算法的漏洞,在一个较短的时间内制造大量的流量,来压垮我们的应用。
实现方法
使用 redis 的 incr 原子自增性。
3 滑动窗口算法
算法原理
计数器算法由于其存在的临界问题,统计的精度过低,可能在时间窗口的重置节点处接收大量流量,为解决这个问题,我们引入了滑动窗口算法。
我们依然使用上面的例子,把一个时间窗口设置为1小时,然后我们再对时间窗口进行划分。例如,我们把时间窗口划分为60格,即每一分钟代表一格,每过一分钟,时间窗口都会往右滑动一格,每一格都有自己的计数器。
对临界问题的解决
我们上面探讨过这个一个情节,一个恶意用户在第一个小时的最后一秒发送了1000个请求,又在第二个小时的第一秒再次发送了1000个请求。在滑动窗口算法中,最后一秒到达的1000个请求会在一个格子中,第一秒到达的1000的请求会在一个格子中,当新的一分钟到来时,时间窗口会向右移动一格,时间窗口的总请求数量一定超标(因为时间窗口包括了最近的这两个格子,这时至少有2000个请求),所以触发限流操作。
计数器算法其实就是只有一格的滑动窗口算法,当滑动窗口算法的格子划分越多,限流的统计就越精确。
4 令牌桶算法
请求在被处理之前,需要首先获取一个令牌,才能执行接下来的业务逻辑,处理完业务逻辑需要将令牌删除。令牌桶是一个存放令牌的地方,它会根据限流大小,会按照一定的速率向桶中添加令牌。
令牌桶会设置最大的放置令牌限制,当令牌桶满了,新添加的令牌会被直接丢弃;令牌桶也有最低限额,当令牌数到达最低限额时,请求处理完之后将不会删除令牌。
5 漏桶算法
所谓漏桶,顾名思义,便是一个漏水的桶,我们往这个桶加水的速率可能是任意的,但桶漏水的速度是必然恒定的。如果流入水的速率过快,已经超过桶的容量大小,那水便会直接流出(被丢弃)。漏桶算法便是在此基础上设计的。
所谓漏桶算法,便是当访问请求到达时,直接放置进入漏桶,如漏桶当前容量已到达限流上限,则触发限流策略。漏桶会以固定的速率释放访问请求,直到漏桶为空。
6 聊聊令牌桶算法与漏桶算法的区别
漏桶算法可以限制数据的平均传输速率,而令牌桶算法除了能够限制数据的平均传输速率外,还能够允许某种程度的突发传输。因为在令牌桶算法中,只要令牌桶中存在令牌,那么就允许突发地传输数据直到达到用户配置的门限,所以它适合于具有突发特性的流量。
参考:三种常见的限流算法
常见的限流算法及其原理剖析相关推荐
- 常见的限流算法的原理以及优缺点
原文网址:常见的限流算法的原理以及优缺点_IT利刃出鞘的博客-CSDN博客 简介 说明 本文介绍限流常用的算法及其优缺点. 常用的限流算法有: 计数器(固定窗口)算法 滑动窗口算法 漏桶算法 令牌桶算 ...
- 常见的限流算法与实现
限流的实现 常见的限流算法: 限流是对某一时间窗口内的请求数进行限制,保持系统的可用性和稳定性,防止因流量暴增而导致的系统运行缓慢或宕机. 常见的限流算法有三种: 计数器限流(固定窗口) 原理: 时间 ...
- 什么是限流?为什么会限流呢?常见的限流算法【固定窗口限流、滑动窗口限流、漏桶限流、令牌桶限流】是什么呢?
什么是限流?为什么会限流呢?常见的限流算法[固定窗口限流.滑动窗口限流.漏桶限流.令牌桶限流]是什么呢? 什么是限流? 为什么会限流? 1. 固定窗口限流算法 1.1 什么是固定窗口限流算法 1.2 ...
- 你知道常见的限流算法有哪些吗?
我们常见的限流算法有四种:计数器(固定窗口)算法.滑动窗口算法.漏桶算法.令牌桶算法. 为什么要限流 资源是有限的,我们的系统的处理能力也是有限的,对于那些已经超出系统处理能力的请求我们应该尽可能早的 ...
- java中常见的限流算法详细解析
目录 前言 1. 验证限流以及容器限流 2. 服务端限流 2.1 固定时间窗口 2.2 滑动时间窗口 2.3 漏桶算法 2.4 令牌桶算法 前言 以下的文章参考了一些具体的资料加深了解 B站:Java ...
- 常见的限流算法和应用场景
1.计数器模式 假设以1分钟作为一个固定窗口,窗口流量限制为100.那么1分钟的最后1s进来100个流量,下一个窗口的第一秒进来了100个流量,其实1分钟内流量是超出系统能承受范围的. 所以,计数器模 ...
- 常见的几种限流算法代码实现(JAVA)
最近在学习Sentinel组件需要了解限流算法相关的知识,正好在微信公众号上看到了一篇不错的文章,在此记录一下以下是原文链接. 年轻人,来手撸几种常见的限流算法! 限流算法接口 public inte ...
- 【云原生】服务限流熔断概述、常见限流算法
文章目录 1.服务雪崩 1)服务熔断 2)服务降级 3)服务熔断降级的几种常见方案 1> 平均响应时间 2> 异常比例 3> 异常数量 2.限流概述 1)为什么要有限流? 2)DDo ...
- 搞懂限流算法这一篇就够了
点击上方"方志朋",选择"设为星标" 回复"666"获取新整理的面试文章 TL;DR(too long don't read) 限流算法:计 ...
最新文章
- 刘永鑫:20分钟讲解微生物组数据分析与可视化实战
- 语音识别可以直接编码吗
- 关于 ORA-01033: ORACLE initialization or shutdown in progress
- 监测磁盘文件是否被修改程序
- 如何用cocoapods 来管理项目中的第三方框架?
- rfid5-写成platform驱动
- colab长时间处于正在连接
- 秀秀自己电脑上的好东西
- springboot yml对于list列表配置方式
- MATLAB————用reshape()函数将矩阵转换为张量
- 4位格雷码的顺序编码_格雷码的编码和译码算法.doc
- ps柔光在哪的相关介绍:图层面板和工具属性栏的柔光模式
- 金边富贵竹的养护方法
- 深度 | 蚂蚁金融科技全面开放战略背后的“硬实力”
- 23-高级路由:BGP配置(MPLS-解决路由黑洞)
- android和harmonyos对比,HarmonyOS真的是安卓换壳吗?它究竟是一个怎样的系统?
- v-loam源码阅读(一)视觉特征
- [python] fileinput模块
- 艾宾浩斯记忆曲线(遗忘曲线)
- 苹果开发者谈APP store现状:二八效应严重 人员浮躁