ICode9

精准搜索请尝试: 精确搜索
首页 > 编程语言> 文章详细

Sentinel(四)限流算法-令牌桶算法

2022-06-10 13:05:34  阅读:153  来源: 互联网

标签:count 令牌 int warningToken 算法 限流 coldFactor Sentinel Guava


Sentinel中使用的令牌桶算法,是参考着Guava中的令牌桶算法来的。所以在此之前有必要分析下Guava中的限流算法。参见https://www.cnblogs.com/krock/p/16347965.html

这里直接看Sentinel中如何进行预热限流的。

流控规则看 FlowRuleChecker#passLocalCheck

 

 

 关于预热的看WarmUpRateLimiterController,这里的预热,虽然是参考Guava中的算法,但是有一点是不一样的,就是Guava中控制的是两个请求的时间间隔internal,而sentinel这里控制的是QPS,

所以在sentinel中使用的一些Guava中的计算公式,需要把QPS和internal进行转换。

首先看下怎么初始化的:

public WarmUpRateLimiterController(double count, int warmUpPeriodSec, int timeOutMs, int coldFactor) {
        // 调用父类的初始化方法
        super(count, warmUpPeriodSec, coldFactor);
        // 控制台配置的超时时间
        this.timeoutInMs = timeOutMs;
    }

 

protected double count;
private int coldFactor;
protected int warningToken = 0;
private int maxToken;
protected double slope;
// 构造函数会调用方法,其中coldFactor这个和Guava中的固定值一样是 3.0
private void construct(double count, int warmUpPeriodInSec, int coldFactor) {

if (coldFactor <= 1) {
throw new IllegalArgumentException("Cold factor should be larger than 1");
}

this.count = count;

this.coldFactor = coldFactor;

// Guava中的令牌阈值的计算,其中 stableInterval 是两个请求的时间间隔,也就是释放一个令牌的时间
// 在Sentinel这里,需要把 stableInterval 变成QPS,也就是每秒释放的令牌数 两个是倒数的关系
// thresholdPermits = 0.5 * warmupPeriod / stableInterval.
// warningToken = 100;
// 所以这里的计算公式,就是Guava那边来的
warningToken = (int)(warmUpPeriodInSec * count) / (coldFactor - 1);
// Guava中计算桶中最大的令牌数量 ,其中那个 coldInterval = coldFactor *stableInterval
// 所以提取公因子之后下面的公式变成 :maxPermits = thresholdPermits + 2 * warmupPeriod /
// (1.0+coldFactor)* stableInterval
// 所以才有了 maxToken的计算公式
// / maxPermits = thresholdPermits + 2 * warmupPeriod /
// (stableInterval + coldInterval)
// maxToken = 200
maxToken = warningToken + (int)(2 * warmUpPeriodInSec * count / (1.0 + coldFactor));

// slope
// 斜率,Guava中warmup时间段内的斜率
// slope = (coldIntervalMicros - stableIntervalMicros) / (maxPermits
// - thresholdPermits);
// 同样经过上面讲述的换算也可以得到
slope = (coldFactor - 1.0) / count / (maxToken - warningToken);
}
 

 

初始化后,看下限流时候是怎么做的

public boolean canPass(Node node, int acquireCount, boolean prioritized) {
        //上一个时间窗口内通过请求数量
        long previousQps = (long) node.previousPassQps();
        //同步桶的令牌数量
        syncToken(previousQps);

        long currentTime = TimeUtil.currentTimeMillis();

        long restToken = storedTokens.get();
        long costTime = 0;
        long expectedTime = 0;
        if (restToken >= warningToken) {
            long aboveToken = restToken - warningToken;

            // current interval = restToken*slope+1/count
            // 计算当前两个请求之间的间隔,也就是消耗一个令牌的时间
            // 参考Guava中的那个图,数学运算就是 x轴上的差值 乘上斜率 得到纵坐标的差值
            double warmingQps = Math.nextUp(1.0 / (aboveToken * slope + 1.0 / count));
            // 上面最新的Qps计算出来之后 请求的令牌 除以 QPS 就可以得出需要的花费的时间
            costTime = Math.round(1.0 * (acquireCount) / warmingQps * 1000);
        } else {
            // 如果小于 warningToken  还不需要预热  所以QPS是固定 count
            costTime = Math.round(1.0 * (acquireCount) / count * 1000);
        }
        // 期望的通过时间
        expectedTime = costTime + latestPassedTime.get();

        // 当前时间大于了期望时间表示可以放行
        if (expectedTime <= currentTime) {
            latestPassedTime.set(currentTime);
            return true;
        } else {
            // 计算等待的时间
            long waitTime = costTime + latestPassedTime.get() - currentTime;
            // 如果等待时间超过我们配置的超时时间,直接拒绝
            if (waitTime > timeoutInMs) {
                return false;
            } else {
                // 如果不超过超时时间,则进行等待
                long oldTime = latestPassedTime.addAndGet(costTime);
                try {
                    waitTime = oldTime - TimeUtil.currentTimeMillis();
                    if (waitTime > timeoutInMs) {
                        latestPassedTime.addAndGet(-costTime);
                        return false;
                    }
                    if (waitTime > 0) {
                        Thread.sleep(waitTime);
                    }
                    return true;
                } catch (InterruptedException e) {
                }
            }
        }
        return false;
    }

 

思想还是沿用的Guava中的算法,只是用QPS转换了一下。

 

标签:count,令牌,int,warningToken,算法,限流,coldFactor,Sentinel,Guava
来源: https://www.cnblogs.com/krock/p/16347889.html

本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享;
2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关;
3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关;
4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除;
5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。

专注分享技术,共同学习,共同进步。侵权联系[81616952@qq.com]

Copyright (C)ICode9.com, All Rights Reserved.

ICode9版权所有