ICode9

精准搜索请尝试: 精确搜索
首页 > 编程语言> 文章详细

Java限流——RateLimiter使用

2021-02-25 10:03:31  阅读:300  来源: 互联网

标签:返回 令牌 Java RateLimiter 算法 限流 limiter 漏桶


概要

在大数据量高并发访问时,经常会出现服务或接口面对暴涨的请求而不可用的情况,甚至引发连锁反映导致整个系统崩溃。此时你需要使用的技术手段之一就是限流,当请求达到一定的并发数或速率,就进行等待、排队、降级、拒绝服务等。在限流时,常见的两种算法是漏桶和令牌桶算法算法。

限流算法

令牌桶(Token Bucket)、漏桶(leaky bucket)和计数器算法是最常用的三种限流的算法。

1. 令牌桶算法

令牌桶算法的原理是系统会以一个恒定的速度往桶里放入令牌,而如果请求需要被处理,则需要先从桶里获取一个令牌,当桶里没有令牌可取时,则拒绝服务。 当桶满时,新添加的令牌被丢弃或拒绝。

优点:能处理瞬间增大的流量,比如现在正常情况下每秒产生5个令牌,在预制了5个令牌,如果一瞬间流量为一秒8个令牌,首先这一秒正常能生成5个令牌,在加上预制了5个令牌,所以可以处理这个瞬间流量

public class RateLimiterDemo {
    // 每秒生成5个令牌,预制5个令牌
    private static RateLimiter limiter = RateLimiter.create(5);
    
 
    public static void exec() {
        // limiter.acquire() 表示消费一个令牌。当桶中有足够的令牌时,则直接返回0,否则阻塞,直到 
        // 有可用的令牌数才返回,返回的值为阻塞的时间
        // limiter.acquire(1); // 如果没有令牌则阻塞
        if(limiter.tryAcquire()) { // 有令牌则返回true
            // 处理核心逻辑
        } else {
       
            // 可以放到队列里等待,也可以直接拒接请求,返回错误界面(稍后重试等)
        }
    }
}

漏桶算法

它的主要目的是控制数据注入到网络的速率,平滑网络上的突发流量,数据可以以任意速度流入到漏桶中。漏桶算法提供了一种机制,通过它,突发流量可以被整形以便为网络提供一个稳定的流量。 漏桶可以看作是一个带有常量服务时间的单服务器队列,如果漏桶为空,则不需要流出水滴,如果漏桶(包缓存)溢出,那么水滴会被溢出丢弃。

缺点:处理不了瞬间增大的流量

public class RateLimiterDemo {
   
    // 10-预热时间 TimeUtil.MILLISECONDS-时间单位  5-速率
    private static RateLimiter limiter = RateLimiter.create(5, 10, TimeUtil.MILLISECONDS);
    
 
    public static void exec() {
        // limiter.acquire() 表示消费一个令牌。当桶中有足够的令牌时,则直接返回0,否则阻塞,直到 
        // 有可用的令牌数才返回,返回的值为阻塞的时间
        // limiter.acquire(1); // 如果没有令牌则阻塞
        if(limiter.tryAcquire()) { // 有令牌则返回true
            // 处理核心逻辑
        } else {
       
            // 可以放到队列里等待,也可以直接拒接请求,返回错误界面(稍后重试等)
        }
    }
}
View Code

 

概要

在大数据量高并发访问时,经常会出现服务或接口面对暴涨的请求而不可用的情况,甚至引发连锁反映导致整个系统崩溃。此时你需要使用的技术手段之一就是限流,当请求达到一定的并发数或速率,就进行等待、排队、降级、拒绝服务等。在限流时,常见的两种算法是漏桶和令牌桶算法算法。

限流算法

令牌桶(Token Bucket)、漏桶(leaky bucket)和计数器算法是最常用的三种限流的算法。

1. 令牌桶算法

令牌桶算法的原理是系统会以一个恒定的速度往桶里放入令牌,而如果请求需要被处理,则需要先从桶里获取一个令牌,当桶里没有令牌可取时,则拒绝服务。 当桶满时,新添加的令牌被丢弃或拒绝。

优点:能处理瞬间增大的流量,比如现在正常情况下每秒产生5个令牌,在预制了5个令牌,如果一瞬间流量为一秒8个令牌,首先这一秒正常能生成5个令牌,在加上预制了5个令牌,所以可以处理这个瞬间流量

  1.   public class RateLimiterDemo {
  2.   // 每秒生成5个令牌,预制5个令牌
  3.   private static RateLimiter limiter = RateLimiter.create(5);
  4.    
  5.    
  6.   public static void exec() {
  7.   // limiter.acquire() 表示消费一个令牌。当桶中有足够的令牌时,则直接返回0,否则阻塞,直到
  8.   // 有可用的令牌数才返回,返回的值为阻塞的时间
  9.   // limiter.acquire(1); // 如果没有令牌则阻塞
  10.   if(limiter.tryAcquire()) { // 有令牌则返回true
  11.   // 处理核心逻辑
  12.   } else {
  13.    
  14.   // 可以放到队列里等待,也可以直接拒接请求,返回错误界面(稍后重试等)
  15.   }
  16.   }
  17.   }

漏桶算法

它的主要目的是控制数据注入到网络的速率,平滑网络上的突发流量,数据可以以任意速度流入到漏桶中。漏桶算法提供了一种机制,通过它,突发流量可以被整形以便为网络提供一个稳定的流量。 漏桶可以看作是一个带有常量服务时间的单服务器队列,如果漏桶为空,则不需要流出水滴,如果漏桶(包缓存)溢出,那么水滴会被溢出丢弃。

缺点:处理不了瞬间增大的流量

  1.   public class RateLimiterDemo {
  2.    
  3.   // 10-预热时间 TimeUtil.MILLISECONDS-时间单位 5-速率
  4.   private static RateLimiter limiter = RateLimiter.create(5, 10, TimeUtil.MILLISECONDS);
  5.    
  6.    
  7.   public static void exec() {
  8.   // limiter.acquire() 表示消费一个令牌。当桶中有足够的令牌时,则直接返回0,否则阻塞,直到
  9.   // 有可用的令牌数才返回,返回的值为阻塞的时间
  10.   // limiter.acquire(1); // 如果没有令牌则阻塞
  11.   if(limiter.tryAcquire()) { // 有令牌则返回true
  12.   // 处理核心逻辑
  13.   } else {
  14.    
  15.   // 可以放到队列里等待,也可以直接拒接请求,返回错误界面(稍后重试等)
  16.   }
  17.   }
  18.   }

 

标签:返回,令牌,Java,RateLimiter,算法,限流,limiter,漏桶
来源: https://www.cnblogs.com/youngdeng/p/14445297.html

本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享;
2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关;
3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关;
4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除;
5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。

专注分享技术,共同学习,共同进步。侵权联系[81616952@qq.com]

Copyright (C)ICode9.com, All Rights Reserved.

ICode9版权所有