似乎 Quartz 调度程序每秒可以运行的作业数是有限制的。在我们的场景中，我们每秒大约有 20 个作业以 24x7 的速度启动，而 quartz 每秒可以很好地处理多达 10 个作业(对于 JDBC 支持的 JobStore，具有 100 个 quartz 线程和 100 个数据库连接池大小)，但是，当我们将其增加到 20每秒作业数， quartz 变得非常非常慢，并且其触发的作业与实际预定时间相比非常晚，导致许多失火并最终显着降低系统的整体性能。一个有趣的事实是，这种延迟触发的 JobExecutionContext.getScheduledFireTime().getTime() 会比预定时间晚 10-20 分钟甚至更多。
在不影响作业的预定时间的情况下， quartz 调度器每秒可以运行多少个作业？对于这种负载， quartz 线程的最佳数量应该是多少？
还是我在这里遗漏了什么？
我们有近 10k 个项目(分为 2 个或更多类别，在当前情况下我们有 2 个类别)我们需要以给定的频率进行一些处理，例如15、30、60... 分钟，这些项目应该在该频率内以每分钟给定的 throttle 进行处理。例如让我们说 60 分钟的频率，每个类别的 5k 个项目应该以每分钟 500 个项目的 throttle 进行处理。因此，理想情况下，这些项目应在一天中每小时的前 10 (5000/500) 分钟内处理，每分钟有 500 个项目要处理，这些项目均匀分布在每分钟的每一秒，因此我们将有大约 8-一个类别每秒 9 个项目。
现在为了实现这一点，我们使用 Quartz 作为调度程序，它触发作业来处理这些项目。但是，我们不会在 Job.execute 方法中处理每个项目，因为涉及 web 服务调用的每个项目处理需要 5-50 秒(平均为 30 秒)。我们宁愿为 JMS 队列上的每个项目处理推送一条消息，并由单独的服务器机器处理这些作业。我注意到 Job.execute 方法所用的时间不超过 30 毫秒。
Solaris Sparc 64 位服务器，带 8/16 核/线程 cpu，用于调度程序，带 16GB RAM，我们在调度程序集群中有两台这样的机器。
最佳答案
在之前的项目中，我遇到了同样的问题。在我们的例子中，Quartz 在一秒的粒度上表现良好。亚秒级调度是一种延伸，正如您所观察到的，失火经常发生，系统变得不可靠。
通过创建 2 级调度解决了这个问题:Quartz 将调度 n 个连续作业的作业“集”。对于集群 Quartz，这意味着系统中的给定服务器将“设置”执行此作业。然后集合中的 n 个任务被“微调度器”接受:基本上是一个计时工具，它使用 native JDK API 进一步将作业计时到 10 毫秒的粒度。
为了处理单个作业，我们使用了主从设计，其中主负责将作业按计划交付(节流)到多线程工作池。
如果我今天必须再次这样做，我会依赖 ScheduledThreadPoolExecutor管理“微调度”。对于您的情况，它看起来像这样:
ScheduledThreadPoolExecutor scheduledExecutor;
...
scheduledExecutor = new ScheduledThreadPoolExecutor(THREAD_POOL_SIZE);
...
// Evenly spread the execution of a set of tasks over a period of time
public void schedule(Set<Task> taskSet, long timePeriod, TimeUnit timeUnit) {
if (taskSet.isEmpty()) return; // or indicate some failure ...
long period = TimeUnit.MILLISECOND.convert(timePeriod, timeUnit);
long delay = period/taskSet.size();
long accumulativeDelay = 0;
for (Task task:taskSet) {
scheduledExecutor.schedule(task, accumulativeDelay, TimeUnit.MILLISECOND);
accumulativeDelay += delay;
}
}
这让您大致了解如何使用 JDK 工具来微计划任务。 (免责声明:您需要为生产环境使其健壮，例如检查失败的任务、管理重试(如果支持)等...)。
通过一些测试和调优，我们发现了 Quartz 作业和一组计划作业数量之间的最佳平衡。
我们通过这种方式实现了 100 倍的吞吐量提升。网络带宽是我们的实际限制。
关于java - quartz 性能，我们在Stack Overflow上找到一个类似的问题： https://stackoverflow.com/questions/11565993/
我真的很习惯使用Ruby编写以下代码:my_hash={}my_hash['test']=1Java中对应的数据结构是什么？ 最佳答案 HashMapmap=newHashMap();map.put("test",1);我假设？ 关于java-等价于Java中的RubyHash，我们在StackOverflow上找到一个类似的问题： https://stackoverflow.com/questions/22737685/
我正在尝试使用boilerpipe来自JRuby。我看过guide从JRuby调用Java，并成功地将它与另一个Java包一起使用，但无法弄清楚为什么同样的东西不能用于boilerpipe。我正在尝试基本上从JRuby中执行与此Java等效的操作:URLurl=newURL("http://www.example.com/some-location/index.html");Stringtext=ArticleExtractor.INSTANCE.getText(url);在JRuby中试过这个:require'java'url=java.net.URL.new("http://www
我只想对我一直在思考的这个问题有其他意见，例如我有classuser_controller和classuserclassUserattr_accessor:name,:usernameendclassUserController//dosomethingaboutanythingaboutusersend问题是我的User类中是否应该有逻辑user=User.newuser.do_something(user1)oritshouldbeuser_controller=UserController.newuser_controller.do_something(user1,user2)我
什么是ruby的rack或python的Java的wsgi？还有一个路由库。 最佳答案 来自Python标准PEP333:Bycontrast,althoughJavahasjustasmanywebapplicationframeworksavailable,Java's"servlet"APImakesitpossibleforapplicationswrittenwithanyJavawebapplicationframeworktoruninanywebserverthatsupportstheservletAPI.ht
这篇文章是继上一篇文章“Observability：从零开始创建Java微服务并监控它（一）”的续篇。在上一篇文章中，我们讲述了如何创建一个Javaweb应用，并使用Filebeat来收集应用所生成的日志。在今天的文章中，我来详述如何收集应用的指标，使用APM来监控应用并监督web服务的在线情况。源码可以在地址 https://github.com/liu-xiao-guo/java_observability 进行下载。摄入指标指标被视为可以随时更改的时间点值。当前请求的数量可以改变任何毫秒。你可能有1000个请求的峰值，然后一切都回到一个请求。这也意味着这些指标可能不准确，你还想提取最小/
HashMap中为什么引入红黑树，而不是AVL树呢1.概述开始学习这个知识点之前我们需要知道，在JDK1.8以及之前，针对HashMap有什么不同。JDK1.7的时候，HashMap的底层实现是数组+链表JDK1.8的时候，HashMap的底层实现是数组+链表+红黑树我们要思考一个问题，为什么要从链表转为红黑树呢。首先先让我们了解下链表有什么不好？？？2.链表上述的截图其实就是链表的结构，我们来看下链表的增删改查的时间复杂度增：因为链表不是线性结构，所以每次添加的时候，只需要移动一个节点，所以可以理解为复杂度是N(1)删：算法时间复杂度跟增保持一致查：既然是非线性结构，所以查询某一个节点的时候
遍历文件夹我们通常是使用递归进行操作，这种方式比较简单，也比较容易理解。本文为大家介绍另一种不使用递归的方式，由于没有使用递归，只用到了循环和集合，所以效率更高一些！一、使用递归遍历文件夹整体思路1、使用File封装初始目录，2、打印这个目录3、获取这个目录下所有的子文件和子目录的数组。4、遍历这个数组，取出每个File对象4-1、如果File是否是一个文件，打印4-2、否则就是一个目录，递归调用代码实现publicclassSearchFile{publicstaticvoidmain(String[]args){//初始目录Filedir=newFile("d:/Dev");Datebeg
我基本上来自Java背景并且努力理解Ruby中的模运算。(5%3)(-5%3)(5%-3)(-5%-3)Java中的上述操作产生，2个-22个-2但在Ruby中，相同的表达式会产生21个-1-2.Ruby在逻辑上有多擅长这个？模块操作在Ruby中是如何实现的？如果将同一个操作定义为一个web服务，两个服务如何匹配逻辑。 最佳答案 在Java中，模运算的结果与被除数的符号相同。在Ruby中，它与除数的符号相同。remainder()在Ruby中与被除数的符号相同。您可能还想引用modulooperation.
Java的Collections.unmodifiableList和Collections.unmodifiableMap在Ruby标准API中是否有等价物？ 最佳答案 使用freeze应用程序接口(interface):Preventsfurthermodificationstoobj.ARuntimeErrorwillberaisedifmodificationisattempted.Thereisnowaytounfreezeafrozenobject.SeealsoObject#frozen?.Thismethodretur
我正在使用Ruby解决一些ProjectEuler问题，特别是这里我要讨论的问题25(Fibonacci数列中包含1000位数字的第一项的索引是多少？)。起初，我使用的是Ruby2.2.3，我将问题编码为:number=3a=1b=2whileb.to_s.length但后来我发现2.4.2版本有一个名为digits的方法，这正是我需要的。我转换为代码:whileb.digits.length当我比较这两种方法时，digits慢得多。时间./025/problem025.rb0.13s用户0.02s系统80%cpu0.190总计./025/problem025.rb2.19s用户0.0