广告位联系
返回顶部
分享到

java实现单机限流的介绍

java 来源:互联网 作者:F11站长开发者 发布时间:2022-08-12 15:37:08 人浏览
摘要

何时使用限流: 比如你希望自己的应用程序 QPS不要超过1000,那么RateLimiter设置1000的速率后,就会每秒往桶里 扔1000个令牌,RateLimiter经常用于限制对一些物理资源或者逻辑资源的访 问速

何时使用限流:

比如你希望自己的应用程序 QPS不要超过1000,那么RateLimiter设置1000的速率后,就会每秒往桶里 扔1000个令牌,RateLimiter经常用于限制对一些物理资源或者逻辑资源的访 问速率。

简介:

对于单机版的限流,可以使用Google 开源的 Guava项目,这个项目提供了Google在Java项目中使用一些核心库,包含集合(Collections),缓存(Caching),并发编程库(Concurrency),常用注解(Common annotations),String操作,I/O操作方面的众多非常实用的函数。

这个项目也包含了限流的功能,其原理是根据令牌桶算法来实现。

提供了两种限流策略:

● 平滑突发限流(SmoothBursty)
● 平滑预热限流(SmoothWarmingUp)实现。

依赖:

1

2

3

4

5

<dependency>

  <groupId>com.google.guava</groupId>

  <artifactId>guava</artifactId>

  <version>29.0-jre</version>

</dependency>

方法描述:

Java技术迷

模拟场景(示例):

场景一:

当我们希望某一个接口每秒的访问量不超过10次

1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

17

18

19

20

21

22

23

24

25

26

27

28

29

30

31

32

33

34

35

36

37

38

39

40

41

42

43

44

45

46

47

48

49

50

51

52

53

54

55

56

57

58

59

60

61

62

63

64

65

66

67

68

69

70

71

72

73

74

75

76

77

78

79

80

81

82

83

84

85

86

87

88

89

90

91

92

93

94

95

96

97

98

99

100

101

102

103

104

package org.xhs.test;

 

import org.apache.curator.shaded.com.google.common.util.concurrent.RateLimiter;

 

import java.util.ArrayList;

import java.util.List;

import java.util.Map;

import java.util.concurrent.*;

 

 

/**

 * @Author: hu.chen

 * @Description:

 **/

public class Test {

 

    /**

     * 存储接口名和令牌生成器的对应关系

     */

   private static Map<String, RateLimiter> interfaces = new ConcurrentHashMap<>();

    

    /**

     * 线程池

     */

    private static ExecutorService threadPool = new ThreadPoolExecutor(10,15,3,TimeUnit.SECONDS,new ArrayBlockingQueue<>(100));

 

    public static void main(String[] args) throws InterruptedException {

 

        List<UserRequest> tasks = new ArrayList<UserRequest>();

        // 准备工作,先初始化 10个线程(用户),这10个用户同时访问一个接口

        for (int i = 1; i <= 12; i++) {

            String ip = "127.0.0." + i;

            String userName="chenhu_"+i;

            String interfaceName="user/find_";

            tasks.add(new UserRequest(ip,userName,interfaceName));

        }

 

 

        // 先初始化好令牌生成器

        for (UserRequest request : tasks) {

            // 根据接口名限流

            RateLimiter rateLimiter = interfaces.get(request.getInterfaceName());

 

            if(rateLimiter==null){

                // 创建一个令牌生成器,每秒产生10个令牌

                synchronized (interfaces) {

                    if(rateLimiter==null) {

                        rateLimiter = RateLimiter.create(10);

                        // 将这个令牌生成器和具体的接口进行绑定

                        interfaces.put(request.getInterfaceName(),rateLimiter);

                    }

                }

            }

        }

 

        // 休眠一秒,让令牌生成器先生成令牌

        Thread.sleep(1000);

 

        for (UserRequest request : tasks) {

            // 根据接口名限流

            RateLimiter rateLimiter = interfaces.get(request.getInterfaceName());

 

 

            // 获取令牌桶中一个令牌,如果获取不到,则等待 timeout 时间,如果还获取不到,则返回false,反之则返回true

            // timeout设置为0,表示不等待

            if(rateLimiter.tryAcquire(1,0,TimeUnit.SECONDS)){

 

                // 得到令牌,处理请求

                threadPool.execute(()->{

                    System.err.println("接口:"+request.getInterfaceName()+" 访问还未达到上限,"+request.getUserName()+"可以访问");

                });

            }else {

                // 已经等待了10秒还获取不到令牌,进行其他业务处理

                System.err.println("当前时间访问失败,"+request.getUserName()+"无法获取令牌");

            }

        }

    }

 

    private static class UserRequest {

        /**

         * 请求用户ip

         */

        private String ip;

 

        /**

         * 用户名

         */

        private String userName;

 

        /**

         * 请求的接口名

         */

        private String interfaceName;

        public UserRequest(String ip, String userName, String interfaceName) {

            this.ip = ip;

            this.userName = userName;

            this.interfaceName = interfaceName;

        }

        public String getIp() {return ip;}

 

        public String getUserName() { return userName;}

        public String getInterfaceName() {return interfaceName;}

    }

}

场景二:

当我们希望某一个用户或者ip,每秒的访问量不超过10

1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

17

18

19

20

21

22

23

24

25

26

27

28

29

30

31

32

33

34

35

36

37

38

39

40

41

42

43

44

45

46

47

48

49

50

51

52

53

54

55

56

57

58

59

60

61

62

63

64

65

66

67

68

69

70

71

72

73

74

75

76

77

78

79

80

81

82

83

84

85

86

87

88

89

90

91

92

93

94

95

96

97

98

99

100

101

102

103

104

package org.xhs.test;

 

import org.apache.curator.shaded.com.google.common.util.concurrent.RateLimiter;

 

import java.util.ArrayList;

import java.util.List;

import java.util.Map;

import java.util.concurrent.*;

 

 

/**

 * @Author: hu.chen

 * @Description:

 **/

public class Test {

 

    /**

     * 存储用户名和令牌生成器的对应关系

     */

   private static Map<String, RateLimiter> interfaces = new ConcurrentHashMap<>();

 

    /**

     * 线程池

     */

    private static ExecutorService threadPool = new ThreadPoolExecutor(10,15,3,TimeUnit.SECONDS,new ArrayBlockingQueue<>(100));

 

    public static void main(String[] args) throws InterruptedException {

 

        List<UserRequest> tasks = new ArrayList<UserRequest>();

        // 准备工作,先初始化 10个线程(用户),这10个用户同时访问一个接口

        for (int i = 1; i <= 12; i++) {

            String ip = "127.0.0." + i;

            String userName="chenhu_";

            String interfaceName="user/find_"+i;

            tasks.add(new UserRequest(ip,userName,interfaceName));

        }

 

 

        // 先初始化好令牌生成器

        for (UserRequest request : tasks) {

            // 根据接口名限流

            RateLimiter rateLimiter = interfaces.get(request.getUserName());

 

            if(rateLimiter==null){

                // 创建一个令牌生成器,每秒产生5个令牌

                synchronized (interfaces) {

                    if(rateLimiter==null) {

                        rateLimiter = RateLimiter.create(10);

                        // 将这个令牌生成器和具体的接口进行绑定

                        interfaces.put(request.getUserName(),rateLimiter);

                    }

                }

            }

        }

 

        // 休眠一秒,让令牌生成器先生成令牌

        Thread.sleep(1000);

 

        for (UserRequest request : tasks) {

            // 根据接口名限流

            RateLimiter rateLimiter = interfaces.get(request.getUserName());

 

 

            // 获取令牌桶中一个令牌,如果获取不到,则等待 timeout 时间,如果还获取不到,则返回false,反之则返回true

            // timeout设置为0,表示不等待

            if(rateLimiter.tryAcquire(1,0,TimeUnit.SECONDS)){

 

                // 得到令牌,处理请求

                threadPool.execute(()->{

                    System.err.println("用户:"+request.getUserName()+" 当前时间访问次数还未达到上限,可以访问");

                });

            }else {

                // 已经等待了10秒还获取不到令牌,进行其他业务处理

                System.err.println("当前时间访问失败,"+request.getUserName()+"无法获取令牌");

            }

        }

    }

 

    private static class UserRequest {

        /**

         * 请求用户ip

         */

        private String ip;

 

        /**

         * 用户名

         */

        private String userName;

 

        /**

         * 请求的接口名

         */

        private String interfaceName;

        public UserRequest(String ip, String userName, String interfaceName) {

            this.ip = ip;

            this.userName = userName;

            this.interfaceName = interfaceName;

        }

        public String getIp() {return ip;}

 

        public String getUserName() { return userName;}

        public String getInterfaceName() {return interfaceName;}

    }

}


版权声明 : 本文内容来源于互联网或用户自行发布贡献,该文观点仅代表原作者本人。本站仅提供信息存储空间服务和不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权, 违法违规的内容, 请发送邮件至2530232025#qq.cn(#换@)举报,一经查实,本站将立刻删除。
原文链接 : https://blog.csdn.net/qq_45794943/article/details/122619879
相关文章
  • SpringBoot自定义错误处理逻辑介绍

    SpringBoot自定义错误处理逻辑介绍
    1. 自定义错误页面 将自定义错误页面放在 templates 的 error 文件夹下,SpringBoot 精确匹配错误信息,使用 4xx.html 或者 5xx.html 页面可以打印错误
  • Java实现手写一个线程池的代码

    Java实现手写一个线程池的代码
    线程池技术想必大家都不陌生把,相信在平时的工作中没有少用,而且这也是面试频率非常高的一个知识点,那么大家知道它的实现原理和
  • Java实现断点续传功能的代码

    Java实现断点续传功能的代码
    题目实现:网络资源的断点续传功能。 二、解题思路 获取要下载的资源网址 显示网络资源的大小 上次读取到的字节位置以及未读取的字节
  • 你可知HashMap为什么是线程不安全的
    HashMap 的线程不安全 HashMap 的线程不安全主要体现在下面两个方面 在 jdk 1.7 中,当并发执行扩容操作时会造成环形链和数据丢失的情况 在
  • ArrayList的动态扩容机制的介绍

    ArrayList的动态扩容机制的介绍
    对于 ArrayList 的动态扩容机制想必大家都听说过,之前的文章中也谈到过,不过由于时间久远,早已忘却。 所以利用这篇文章做做笔记,加
  • JVM基础之字节码的增强技术介绍

    JVM基础之字节码的增强技术介绍
    字节码增强技术 在上文中,着重介绍了字节码的结构,这为我们了解字节码增强技术的实现打下了基础。字节码增强技术就是一类对现有字
  • Java中的字节码增强技术

    Java中的字节码增强技术
    1.字节码增强技术 字节码增强技术就是一类对现有字节码进行修改或者动态生成全新字节码文件的技术。 参考地址 2.常见技术 技术分类 类
  • Redis BloomFilter布隆过滤器原理与实现

    Redis BloomFilter布隆过滤器原理与实现
    Bloom Filter 概念 布隆过滤器(英语:Bloom Filter)是1970年由一个叫布隆的小伙子提出的。它实际上是一个很长的二进制向量和一系列随机映射
  • Java C++算法题解leetcode801使序列递增的最小交换次

    Java C++算法题解leetcode801使序列递增的最小交换次
    题目要求 思路:状态机DP 实现一:状态机 Java 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 class Solution { public int minSwap(int[] nums1, int[] nums2) { int n
  • Mybatis结果集映射与生命周期介绍

    Mybatis结果集映射与生命周期介绍
    一、ResultMap结果集映射 1、设计思想 对简单的语句做到零配置,对于复杂一点的语句,只需要描述语句之间的关系就行了 2、resultMap的应用场
  • 本站所有内容来源于互联网或用户自行发布,本站仅提供信息存储空间服务,不拥有版权,不承担法律责任。如有侵犯您的权益,请您联系站长处理!
  • Copyright © 2017-2022 F11.CN All Rights Reserved. F11站长开发者网 版权所有 | 苏ICP备2022031554号-1 | 51LA统计