限流系列：guava rateLimiter

原创 已于 2025-05-26 14:41:04 修改 · 661 阅读 · 6
标签
#guava #java #rateLimiter
于 2025-05-26 13:51:24 首次发布

目录

令牌桶算法

Guava-RateLimiter

数据模型

示例

大致流程

acquire

reserve

​​​​​​​reserveAndGetWaitLength

​​​​​​​reserveEarliestAvailable

​​​​​​​resync

​​​​​​​doSetRate

令牌桶算法

       令牌桶算法就是以固定速率生成令牌放入桶中，每个请求都需要从桶中获取令牌，没有获取到令牌的请求会被阻塞限流（桶中的令牌不够的时候）；只要能从桶里取出令牌就能通过。

       当令牌消耗速度小于生成的速度时，令牌桶内就会预存这些未消耗的令牌（直到桶的上限）；当有突发流量进来时，可以直接从桶中取出令牌，而不会被限流，从而支持突发流量的快速处理。

Guava-RateLimiter

       不管是令牌桶算法还是漏桶算法都可以用延迟计算的方式来实现，延迟计算指的是不需要单独的线程来定时生成令牌或者从漏桶中定时取出请求，而是由调用限流器的线程自己去计算是否有足够的令牌以及需要sleep的时间，延迟计算的方式可以节省一个线程资源。

       Guava 的 RateLimiter 是一个用于控制访问速率的工具类，常用于限流（如每秒处理请求的数量）。它基于令牌桶算法实现。

​​​​​​​数据模型

英文名称

中文名称

备注

permitsPerSecond

每秒允许许可数量

桶容量

maxBurstSeconds * permitsPerSecond默认 maxBurstSeconds=1

示例

// 创建一个每秒允许 10 
最低0.47元/天 解锁文章
常见限流算法和Guava RateLimiter实现
热门推荐
曾经“等你生日那天”都遥远得像未来，如今却可欢愉的挥手说“下个十年见”
01-17 86万+
本文探讨了限流（Rate Limiting）的基本原理及常见算法，包括令牌桶算法、漏桶算法和固定窗口算法，并分析了它们在分布式系统中的应用。通过具体示例介绍了Guava的RateLimiter组件的使用，阐述了如何在高并发场景下实现流量控制。限流策略不仅能保障系统稳定性，还能有效防止过载和滥用。掌握合适的限流算法，有助于提升系统的性能和可用性，确保在流量波动时维持服务质量。
guava之限流RateLimiter
sinat_14913533的博客
05-07 1万+
常用的限流方式和场景有： 限制总并发数（比如数据库连接池、线程池） 限制瞬时并发数（如nginx的limitconn模块，用来限制瞬时并发连接数，Java的Semaphore也可以实现） 限制时间窗口内的平均速率（如Guava的RateLimiter、nginx的limitreq模块，限制每秒的平均速率） 其他：比如如限制远程接口调用速率、限制MQ的消费速率。另外还可以根据网络连接数、网络流量、CPU或内存负载等来限流。 我们常说的限流，其实更多的都是指时间窗口内的平均速率，所以往往这种限流方式成了
guava限流器RateLimiter使用简介(Springboot实现)
justlpf的专栏
07-18 1万+
令牌产生的稳定速率，只是这里的速率是转换成了两个令牌生产之间的时间间隔(毫秒)。之所以是稳定速率，是因为SmoothWarmUp，在预热阶段产生令牌的速率会低于这个值。RateLimiter初始化的时候，传入的permitsPerSecond表示的是每秒产生的产生的令牌个数，也就是说令牌的生产速率的时间单位就给固定了，那么stableIntervalMicros = 1s/permitsPerSecond。
Guava RateLimiter深度解析：非阻塞令牌桶限流原理与跑批实战
最新发布
TS5218的博客
04-12 446
摘要： Google Guava的RateLimiter基于令牌桶算法变种实现，通过非阻塞获取机制和预热机制有效控制资源访问速率。其核心原理采用时间驱动计算令牌数量，通过状态变量动态管理令牌分配，支持突发流量和冷启动平滑过渡。在跑批场景中，RateLimiter可灵活控制任务提交或完成速率，保护下游资源。通过tryAcquire快速路径和无锁设计优化高并发性能，是应对大流量场景的轻量级解决方案。
Guava之RateLimiter限流
BugRoot的博客
05-12 3374
RateLimter是什么，我们为什么需要用到它，以物流系统作为例子：比如系统有一个物流信息查询接口，提供给第三方调用，接口暴露在公网，会出现什么问题，大致讲下如下问题： 1、大量正常用户高频访问导致服务器宕机 2、恶意用户高频访问导致服务器宕机 3、网络爬虫等等 限流常见方案： 1：Nginx限流 2：Tomcat限流 3：漏桶算法 4：令牌算法等等 这里不多介绍，只介绍下RateLimter的令牌算法。 其它的后续文章会加上。 需要引入第三方组件库 <dependency> &lt
Guava-RateLimiter详解
大叶子不小的博客
10-19 2883
修饰符和类型方法和描述doubleacquire()从RateLimiter获取一个许可，该方法会被阻塞直到获取到请求double从RateLimiter获取指定许可数，该方法会被阻塞直到获取到请求create(double permitsPerSecond)根据指定的稳定吞吐率创建RateLimiter，这里的吞吐率是指每秒多少许可数（通常是指QPS，每秒多少查询）
限流-Guava-RateLimiter
迷路剑客个人博客
11-21 3102
转载声明 本文大量内容系转载自以下文章，有删改，并参考其他文档资料加入了一些内容： 使用Guava RateLimiter限流以及源码解析 作者：人在码途 转载仅为方便学习查看，一切权利属于原作者，本人只是做了整理和排版，如果带来不便请联系我删除。 1 前言 在开发高并发系统时有三把利器用来保护系统：缓存、降级和限流 缓存 缓存的目的是提升系统访问速度和增大系统处理容量。 降级 降级是当服务...
Guava系列之限流RateLimiter
果子爸聊技术
06-19 9585
限流方案，了解一下
RateLimiter限流
玲珑骰子安红豆，入骨相思知不知
03-27 9302
限流背景 在早期的计算机领域，限流技术（time limiting）被用做控制网络接口收发通信数据的速率。可以用来优化性能，减少延迟和提高带宽等。现在在互联网领域，也借鉴了这个概念，用来为服务控制请求的速率，如双十一的限流，12306的抢票等。即使在细粒度的软件架构中，也有类似的概念。 系统在使用下游资源时，需要考虑下游对资源受限，处理能力，在下游资源无法或者短时间内无法提升处理性能的情况下，可以使用限流器或者类似保护机制，避免下游服务崩溃造成整体服务的不可用。 限流相关概念 在介绍限流之前先介绍几
Guava限速器RateLimiter
llg___的博客
06-19 1364
项目中一个方法中用了两个不同的限流器RateLimiter对象，多线程调用这个方法，突然想到会不会死锁，但一分析就知道不会，这是令牌，不是锁🔒，令牌不存在释放不释放的问题，令牌一直在生产新的，被卡住的地方，总会因为得到令牌而继续往下执行，这和死锁是有本质区别的。预热期3秒，也就是说，在开始的 3 秒内，令牌生成速率会从一个较低的值逐步提升到 5 个 / 秒，最终的效果是每秒5个令牌，预热型的限流器，多用在冷启动系统上，如数据库、Redis等，框架默认的冷因子3.0。
限流原理解读之guava中的RateLimiter
A_991128a的博客
02-17 1732
RateLimiter有两种新建的方式1.创建Bursty方式2.创建WarmingUp方式> 以下源码来自 guava-17.0。
Guava限频器RateLimiter的使用示例
铁锚的CSDN博客
05-29 2312
本文介绍了Guava工具库中的RateLimiter限流器以及使用示例，以及如何防止限流器误拦截。
Guava RateLimiter：原理、源码和思想
taomeechildren的博客
07-01 2349
Guava RateLimiter使用了令牌桶算法来实现QPS限流。那么你是否好奇令牌桶算法到底是什么，RateLimiter是如何实现令牌桶算法的，其中又有哪些思想值得我们学习？本文将通过将对Guava RateLimiter进行原理、源码和思想三方面的解读。
【限流】——RateLimiter限流方案
山山来驰的博客
11-29 2105
背景 在说限流方案之前我们需要知道在什么样的场景下需要限流，以前我们都是应用部署在单台机器上，但是随着流量的增大单台服务已经扛不住压力了，所以就变成了新的的集群部署，将流量压力分担到多台机器上，来提高吞吐量，但是互联网企业嘛，在一些节日或者特殊的日子里会搞一些抢购的活动，这个并发压力可能是平时的很多倍吧，按照正常的思路来说我们增加机器横向扩展吧，可是平时的话流量没有这么大，购买这些机器其实是非常...
常用限流算法与Guava RateLimiter解析
半路雨歌
07-22 1111
在分布式系统中，应对高并发访问时，缓存、限流、降级是保护系统正常运行的常用方法。当请求量突发暴涨时，如果不加以限制访问，则可能导致整个系统崩溃，服务不可用。同时有一些业务场景，比如短信验证码，或者其它第三方API调用，也需要提供必要的访问限制支持。还有一些资源消耗过大的请求，比如数据导出等（参考 记一次线上Java服务CPU 100%处理过程 ），也有限制访问频率的需求。 常见的限流算法有令牌桶算法，漏桶算法，与计数器算法。本文主要对三个算法的基本原理及Google Guava包中令牌桶算法的实现RateL
Guava RateLimiter的限流机制详解
wouderw的博客
11-18 400
令牌桶算法的工作原理就像一个存储固定数量令牌的桶，令牌以固定的速率添加到其中。当桶中存储的令牌超过最大数量后，新的令牌将被丢弃或拒绝。入站请求的速率不受限制，但当入站请求的累计数量超过桶的最大容量时，新的入站请求将被拒绝。例如，如果我们需要限制一个方法同时调用的并发数小于100，我们可以通过Semaphore. 如果我们想将一个方法在一段时间内被调用的平均次数限制在 100 以内，我们需要使用RateLimiter.例如，在限时抢购的情况下，限流可以保护您自己的系统和下游系统不被巨大的流量淹没。
Guava单机限流框架-RateLimiter
weixin_42845647的博客
06-18 1164
​ 在当前微服务的大环境下，大部分的服务一般都是通过接入分布式限流框架来实现限流、熔断、降级，但大型的分布式框架有时显得过于”重量”，在一些小型系统或单机Demo级别的应用开发中，其实可以考虑单机型的限流框架，例如今天的主角——RateLimiter。​ RateLimiter是Google Guava下的一款单机轻量级别的小框架、小工具。​...
并发编程经典案例分析：高性能限流器Guava RateLimiter
Java_supermanNO1的博客
03-21 635
Guava 是Google 开源的 Java 类库，提供了一个工具类 RateLimiter。我们先来看看 RateLimiter的使用，让你对限流有个感官的印象。假设我们有一个线程池，它每秒只能处理两个任务，如果提交的任务过快，可能导致系统不稳定，这个时候就需要用到限流。 在下面的示例代码中，我们创建了一个流速为 2 个请求 / 秒的限流器，这里的流速该怎么理解呢？直观地看，2 个请求 / 秒指的是每秒最多允许 2 个请求通过限流器，其实在Guava中，流速还有更深一层的意思：是一种匀速的概念，2 个请求
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值