草庐IT

[开源项目]可观测、易使用的SpringBoot线程池

字母哥博客 2023-04-16 原文

在开发spring boot应用服务的时候,难免会使用到异步任务及线程池。spring boot的线程池是可以自定义的,所以我们经常会在项目里面看到类似于下面这样的代码

@Bean
public Executor taskExecutor() {
    ThreadPoolTaskExecutor executor = new ThreadPoolTaskExecutor();
    executor.setCorePoolSize(config.getCorePoolSize());
    executor.setMaxPoolSize(config.getMaxPoolSize());
    executor.setQueueCapacity(config.getQueueCapacity());
    executor.setThreadNamePrefix("TaskExecutePool-");
    executor.setRejectedExecutionHandler(new ThreadPoolExecutor.CallerRunsPolicy());
    executor.setWaitForTasksToCompleteOnShutdown(true);
    executor.initialize();
    return executor;
}

使用起来很方便,但是这样做有几个问题:

  • 开发人员在代码里面随意定义线程池,开发人员A自定义一个线程池,开发人员B自定义一个线程池。线程池的资源的使用没有规划与合理的安排,后期维护的成本升高。
  • 一旦发现线程池数量不足或资源满载,很难调整配置,只能调整代码,重新部署。
  • 多人编写代码,很难统计那个服务里面存在线程池,有几个线程池。
  • 如果不去跟踪代码,你很难知道它的使用情况。定义了50个线程,存不存在资源浪费?存不存在资源等待?

为了解决上述的问题,我开发了一个Spring Boot Starter(开源项目地址:https://gitee.com/hanxt/zimug-monitor-threadpool ),方便集成到Spring Boot项目里面去。目标是:在不改变SpringBoot线程池的核心实现的基础上,使其可视化、易观测、易配置、易使用

需要说明的是:zimug-monitor-threadpool并未改变SpringBoot线程池的实现,只是在其基础上添加了初始化阶段的配置自动化加载,运行时的状态监控。所以任何有关Spring Boot线程池运行时性能的讨论,都与本文及其实现无关。

一、易集成、易配置

通过上文的项目地址获取源码,然后maven编译install本地m2仓库。然后通过下面的maven坐标引入

<dependency>
    <groupId>com.zimug</groupId>
    <artifactId>zimug-monitor-threadpool</artifactId>
    <version>1.0</version>
</dependency>

如下配置spring boot YAML(application.yml)所示,配置了两个线程池,分别是test、test2。当thread-pool.enable=true的时候线程池配置生效。

thread-pool:
  enable: true
  poolLists:
    - poolId: test    #线程池唯一标识
      poolName: 测试1   #线程池的中文描述,比如线程池给谁用?
      coreSize: 5  #线程池初始化核心线程数量
      maxSize: 10  #线程池最大线程容量
      queueCapacity: 10  #线程池等待队列的容量
    - poolId: test2
      poolName: 测试2
      coreSize: 5
      maxSize: 10
      queueCapacity: 10

通过下面的这张图理解上面的配置信息

  • 当线程任务数量core_size被活跃任务线程占满之后,线程任务会被放入等待队列(queueCapacity=10)
  • 当等待队列queueCapacity也被占满之后,才会扩大线程池的容量
  • 线程池的容量最大扩展到maxSize。如果maxSize和queueCapacity都满了,任务就阻塞了。

二、易使用

使用方式和SpringBoot 代码方式自定义线程池的使用方式是一样的。使用@Async注解的值是test,调用该注解标识的函数就会放入上文中配置的test线程池里面去执行。

@Component
public class TestTask {
    @Async("test")   //注意这里,test是线程池配置的poolId
    public Future<String> test() throws Exception {
        System.out.println("当前线程:" + Thread.currentThread().getName());
        return new AsyncResult<>("测试任务");
    }
}

三、可视化易观测

在项目中引入zimug-monitor-threadpool之后,进行线程池配置,使用线程池。访问服务的/pool.html即可获取当前SpringBoot服务的线程池配置信息,以及运行时状态信息。

  • 线程池ID、描述、初始化线程数、最大线程数、任务等待队列的容量是上文中yaml静态配置
  • 当前线程池的容量,即:线程池当前的线程数量(活跃+非活跃线程数总和)
  • 当前活跃线程数,即:正在运行程序任务的线程数量
  • 线程池活跃线程的最大峰值,如果该值等于初始化线程数,说明曾经出现了任务等待,即:任务放入等待队列,效率较低。如果该值大于初始化线程数,说明任务等待队列曾经满载,需要扩容。如果该值接近等于最大线程数,就需要扩大最大线程数的值。
  • 当前任务等待队列剩余的容量,剩的越少,说明正在等待执行的任务就越多。

四、实现原理

zimug-monitor-threadpool的实现原理也非常简单,简单说一下原理,具体实现参考源码。

  • 首先通过SpringBoot加载yaml配置信息,配置加载完成之后自定义实现配置自动化加载。这个实现原理及实现方法网上到处都是,我就不写了。
  • 将配置信息加载之后new 一个ThreadPoolTaskExecutor 对象,并通过Spring的ConfigurableBeanFactory将线程池对象的bean注册到Spring上下文环境中,bean的id是poolId配置。就可以提供给运行时任务使用了。
configurableBeanFactory.registerSingleton(pool.getPoolId(), taskExecutor);
  • 待需要监测线程池运行时状态的时候,再把线程池对象通过getBean方法获取到,从而获取运行时信息返回给前台请求。
ThreadPoolTaskExecutor memThreadPool = (ThreadPoolTaskExecutor) applicationContext.getBean(poolModel.getPoolId());

字母哥博客:zimug.com

有关[开源项目]可观测、易使用的SpringBoot线程池的更多相关文章

  1. ruby - 如何在 buildr 项目中使用 Ruby 代码? - 2

    如何在buildr项目中使用Ruby?我在很多不同的项目中使用过Ruby、JRuby、Java和Clojure。我目前正在使用我的标准Ruby开发一个模拟应用程序,我想尝试使用Clojure后端(我确实喜欢功能代码)以及JRubygui和测试套件。我还可以看到在未来的不同项目中使用Scala作为后端。我想我要为我的项目尝试一下buildr(http://buildr.apache.org/),但我注意到buildr似乎没有设置为在项目中使用JRuby代码本身!这看起来有点傻,因为该工具旨在统一通用的JVM语言并且是在ruby中构建的。除了将输出的jar包含在一个独特的、仅限ruby​​

  2. ruby-on-rails - 项目升级后 Pow 不会更改 ruby​​ 版本 - 2

    我在我的Rails项目中使用Pow和powifygem。现在我尝试升级我的ruby​​版本(从1.9.3到2.0.0,我使用RVM)当我切换ruby​​版本、安装所有gem依赖项时,我通过运行railss并访问localhost:3000确保该应用程序正常运行以前,我通过使用pow访问http://my_app.dev来浏览我的应用程序。升级后,由于错误Bundler::RubyVersionMismatch:YourRubyversionis1.9.3,butyourGemfilespecified2.0.0,此url不起作用我尝试过的:重新创建pow应用程序重启pow服务器更新战俘

  3. ruby-on-rails - 新 Rails 项目 : 'bundle install' can't install rails in gemfile - 2

    我已经像这样安装了一个新的Rails项目:$railsnewsite它执行并到达:bundleinstall但是当它似乎尝试安装依赖项时我得到了这个错误Gem::Ext::BuildError:ERROR:Failedtobuildgemnativeextension./System/Library/Frameworks/Ruby.framework/Versions/2.0/usr/bin/rubyextconf.rbcheckingforlibkern/OSAtomic.h...yescreatingMakefilemake"DESTDIR="cleanmake"DESTDIR="

  4. ruby - RuntimeError(自动加载常量 Apps 多线程时检测到循环依赖 - 2

    我收到这个错误:RuntimeError(自动加载常量Apps时检测到循环依赖当我使用多线程时。下面是我的代码。为什么会这样?我尝试多线程的原因是因为我正在编写一个HTML抓取应用程序。对Nokogiri::HTML(open())的调用是一个同步阻塞调用,需要1秒才能返回,我有100,000多个页面要访问,所以我试图运行多个线程来解决这个问题。有更好的方法吗?classToolsController0)app.website=array.join(',')putsapp.websiteelseapp.website="NONE"endapp.saveapps=Apps.order("

  5. Ruby 从大范围中获取第 n 个项目 - 2

    假设我有这个范围:("aaaaa".."zzzzz")如何在不事先/每次生成整个项目的情况下从范围中获取第N个项目? 最佳答案 一种快速简便的方法:("aaaaa".."zzzzz").first(42).last#==>"aaabp"如果出于某种原因你不得不一遍又一遍地这样做,或者如果你需要避免为前N个元素构建中间数组,你可以这样写:moduleEnumerabledefskip(n)returnto_enum:skip,nunlessblock_given?each_with_indexdo|item,index|yieldit

  6. ruby - 如何让Ruby捕获线程中的语法错误 - 2

    我正在尝试使用ruby​​编写一个双线程客户端,一个线程从套接字读取数据并将其打印出来,另一个线程读取本地数据并将其发送到远程服务器。我发现的问题是Ruby似乎无法捕获线程内的错误,这是一个示例:#!/usr/bin/rubyThread.new{loop{$stdout.puts"hi"abc.putsefsleep1}}loop{sleep1}显然,如果我在线程外键入abc.putsef,代码将永远不会运行,因为Ruby将报告“undefinedvariableabc”。但是,如果它在一个线程内,则没有错误报告。我的问题是,如何让Ruby捕获这样的错误?或者至少,报告线程中的错误?

  7. ruby - 如何在 ruby​​ 中运行后台线程? - 2

    我是ruby​​的新手,我认为重新构建一个我用C#编写的简单聊天程序是个好主意。我正在使用Ruby2.0.0MRI(Matz的Ruby实现)。问题是我想在服务器运行时为简单的服务器命令提供I/O。这是从示例中获取的服务器。我添加了使用gets()获取输入的命令方法。我希望此方法在后台作为线程运行,但该线程正在阻塞另一个线程。require'socket'#Getsocketsfromstdlibserver=TCPServer.open(2000)#Sockettolistenonport2000defcommandsx=1whilex==1exitProgram=gets.chomp

  8. ruby - Rails 开发服务器、PDFKit 和多线程 - 2

    我有一个使用PDFKit呈现网页的pdf版本的Rails应用程序。我使用Thin作为开发服务器。问题是当我处于开发模式时。当我使用“bundleexecrailss”启动我的服务器并尝试呈现任何PDF时,整个过程会陷入僵局,因为当您呈现PDF时,会向服务器请求一些额外的资源,如图像和css,看起来只有一个线程.如何配置Rails开发服务器以运行多个工作线程?非常感谢。 最佳答案 我找到的最简单的解决方案是unicorn.geminstallunicorn创建一个unicorn.conf:worker_processes3然后使用它:

  9. ruby - 如何在 Ruby 字符串中插入项目符号字符? - 2

    我正在尝试创建一个带有项目符号字符的Ruby1.9.3字符串。str="•"+"helloworld"但是,当我输入它时,我收到有关非ASCII字符的语法错误。我该怎么做? 最佳答案 你可以把Unicode字符放在那里。str="\u2022"+"helloworld" 关于ruby-如何在Ruby字符串中插入项目符号字符?,我们在StackOverflow上找到一个类似的问题: https://stackoverflow.com/questions/1195

  10. ruby - 在 Rails 项目中测试本地版本的 gem - 2

    我的Rails站点使用了一个确实不是很好的gem。每次我需要做一些新的事情时,我最终不得不花费与向实际Rails项目添加代码一样多的时间来为gem添加功能。但我不介意,我将我的Gemfile设置为指向我的gem的GitHub分支(我尝试提交PR,但维护者似乎已经下台)。问题是我真的没有找到一种合理的方法来测试我添加到gem的新东西。在railsc中测试它会特别好,但我能想到的唯一方法是a)更改~/.rvm/gems/.../foo。rb,这看起来不对或者b)升级版本,推送到Github,然后运行​​bundleup,这除了耗时之外显然是一场灾难,因为我不确定我所做的promise是否正

随机推荐