在工作中,很多高并发的场景中,我们会用到队列来实现大量的任务请求。当任务需要某些特殊资源的时候,我们还需要合理的分配资源,让队列中的任务高效且有序完成任务。熟悉分布式的话,应该了解yarn的任务调度算法。本文主要用java实现一个FIFO(先进先出调度器),这也是常见的一种调度方式。
主要实现的逻辑可以归纳为:
1、任务队列主要是单队列,所有任务按照顺序进入队列后,也会按照顺序执行。
2、如果任务无法获得资源,则将任务塞回队列原位置。
Maven依赖如下:
<dependency>
<groupId>org.projectlombok</groupId>
<artifactId>lombok</artifactId>
<optional>true</optional>
</dependency>
<dependency>
<groupId>cn.hutool</groupId>
<artifactId>hutool-all</artifactId>
<version>5.5.2</version>
</dependency>
具体的原理就不细说了,通过代码我们看看FIFO任务调度策略是什么玩的吧。下面的代码也可以作为参考。我们会使用到一个双向阻塞队列LinkedBlockingDeque。后面的代码说明会提到。
package ai.guiji.csdn.dispatch;
import cn.hutool.core.thread.ThreadUtil;
import lombok.Builder;
import lombok.Data;
import lombok.extern.slf4j.Slf4j;
import org.springframework.scheduling.concurrent.CustomizableThreadFactory;
import java.util.Random;
import java.util.concurrent.*;
import java.util.concurrent.atomic.AtomicInteger;
import java.util.stream.IntStream;
/**
* @Program: csdn @ClassName: FIFODemo @Author: 剑客阿良_ALiang @Date: 2021-12-24 21:21 @Description:
* fifo队列 @Version: V1.0
*/
@Slf4j
public class FIFODemo {
private static final LinkedBlockingDeque<Task> TASK_QUEUE = new LinkedBlockingDeque<>();
private static final ConcurrentHashMap<Integer, LinkedBlockingQueue<Resource>> RESOURCE_MAP =
new ConcurrentHashMap<>();
private static final ExecutorService TASK_POOL =
new ThreadPoolExecutor(
8,
16,
0L,
TimeUnit.MILLISECONDS,
new LinkedBlockingQueue<>(),
new CustomizableThreadFactory("TASK-THREAD-"),
new ThreadPoolExecutor.AbortPolicy());
private static final ScheduledExecutorService ENGINE_POOL =
Executors.newSingleThreadScheduledExecutor(new CustomizableThreadFactory("ENGINE-"));
private static final AtomicInteger CODE_BUILDER = new AtomicInteger(0);
@Data
@Builder
private static class Resource {
private Integer rId;
private Type type;
}
@Data
@Builder
private static class Task implements Runnable {
private Integer tId;
private Runnable work;
private Type type;
private Resource resource;
@Override
public void run() {
log.info("[{}]任务,使用资源编号:[{}]", tId, resource.getRId());
try {
work.run();
} catch (Exception exception) {
exception.printStackTrace();
} finally {
log.info("[{}]任务结束,回归资源", tId);
returnResource(resource);
}
}
}
private enum Type {
/** 资源类型 */
A("A资源", 1),
B("B资源", 2),
C("C资源", 3);
private final String desc;
private final Integer code;
Type(String desc, Integer code) {
this.desc = desc;
this.code = code;
}
public String getDesc() {
return desc;
}
public Integer getCode() {
return code;
}
}
public static void initResource() {
Random random = new Random();
int aCount = random.nextInt(10) + 1;
int bCount = random.nextInt(10) + 1;
int cCount = random.nextInt(10) + 1;
RESOURCE_MAP.put(Type.A.getCode(), new LinkedBlockingQueue<>());
RESOURCE_MAP.put(Type.B.getCode(), new LinkedBlockingQueue<>());
RESOURCE_MAP.put(Type.C.getCode(), new LinkedBlockingQueue<>());
IntStream.rangeClosed(1, aCount)
.forEach(
a ->
RESOURCE_MAP
.get(Type.A.getCode())
.add(Resource.builder().rId(a).type(Type.A).build()));
IntStream.rangeClosed(1, bCount)
.forEach(
a ->
RESOURCE_MAP
.get(Type.B.getCode())
.add(Resource.builder().rId(a).type(Type.B).build()));
IntStream.rangeClosed(1, cCount)
.forEach(
a ->
RESOURCE_MAP
.get(Type.C.getCode())
.add(Resource.builder().rId(a).type(Type.C).build()));
log.info("初始化资源A数量:{},资源B数量:{},资源C数量:{}", aCount, bCount, cCount);
}
public static Resource extractResource(Type type) {
return RESOURCE_MAP.get(type.getCode()).poll();
}
public static void returnResource(Resource resource) {
log.info("开始归还资源,rId:{},资源类型:{}", resource.getRId(), resource.getType().getDesc());
RESOURCE_MAP.get(resource.getType().code).add(resource);
log.info("归还资源完成,rId:{},资源类型:{}", resource.getRId(), resource.getType().getDesc());
}
public static void enginDo() {
ENGINE_POOL.scheduleAtFixedRate(
() -> {
Task task = TASK_QUEUE.poll();
if (task == null) {
log.info("任务队列为空,无需要执行的任务");
} else {
Resource resource = extractResource(task.getType());
if (resource == null) {
log.info("[{}]任务无法获取[{}],返回队列", task.getTId(), task.getType().getDesc());
TASK_QUEUE.addFirst(task);
} else {
task.setResource(resource);
TASK_POOL.submit(task);
}
}
},
0,
1,
TimeUnit.SECONDS);
}
public static void addTask(Runnable runnable, Type type) {
Integer tId = CODE_BUILDER.incrementAndGet();
Task task = Task.builder().tId(tId).type(type).work(runnable).build();
log.info("提交任务[{}]到任务队列", tId);
TASK_QUEUE.add(task);
}
public static void main(String[] args) {
initResource();
enginDo();
Random random = new Random();
ThreadUtil.sleep(5000);
IntStream.range(0, 10)
.forEach(
a -> addTask(() -> ThreadUtil.sleep(random.nextInt(10) + 1, TimeUnit.SECONDS), Type.A));
IntStream.range(0, 10)
.forEach(
a -> addTask(() -> ThreadUtil.sleep(random.nextInt(10) + 1, TimeUnit.SECONDS), Type.B));
IntStream.range(0, 10)
.forEach(
a -> addTask(() -> ThreadUtil.sleep(random.nextInt(10) + 1, TimeUnit.SECONDS), Type.C));
}
}



我们可以通过结果发现任务有序调度,使用完任务后回归队列。
在工作中如果有用到的话,可以参考参考,本文主要是分享。
分享:
when you really think about it? one of the hardest lessons in life is letting go. whether it`s guilt anger love or loss. Change is never easy .We fight to hold on, and we fight to let go.
——我也不知道来自哪,偶然看到的一句话。
如果本文对你有帮助的话,点个赞吧,谢谢!

本人CSDN主页地址:剑客阿良_ALiang的主页
一起学习,一起进步。
我正在学习如何使用Nokogiri,根据这段代码我遇到了一些问题:require'rubygems'require'mechanize'post_agent=WWW::Mechanize.newpost_page=post_agent.get('http://www.vbulletin.org/forum/showthread.php?t=230708')puts"\nabsolutepathwithtbodygivesnil"putspost_page.parser.xpath('/html/body/div/div/div/div/div/table/tbody/tr/td/div
我有一个Ruby程序,它使用rubyzip压缩XML文件的目录树。gem。我的问题是文件开始变得很重,我想提高压缩级别,因为压缩时间不是问题。我在rubyzipdocumentation中找不到一种为创建的ZIP文件指定压缩级别的方法。有人知道如何更改此设置吗?是否有另一个允许指定压缩级别的Ruby库? 最佳答案 这是我通过查看rubyzip内部创建的代码。level=Zlib::BEST_COMPRESSIONZip::ZipOutputStream.open(zip_file)do|zip|Dir.glob("**/*")d
类classAprivatedeffooputs:fooendpublicdefbarputs:barendprivatedefzimputs:zimendprotecteddefdibputs:dibendendA的实例a=A.new测试a.foorescueputs:faila.barrescueputs:faila.zimrescueputs:faila.dibrescueputs:faila.gazrescueputs:fail测试输出failbarfailfailfail.发送测试[:foo,:bar,:zim,:dib,:gaz].each{|m|a.send(m)resc
很好奇,就使用rubyonrails自动化单元测试而言,你们正在做什么?您是否创建了一个脚本来在cron中运行rake作业并将结果邮寄给您?git中的预提交Hook?只是手动调用?我完全理解测试,但想知道在错误发生之前捕获错误的最佳实践是什么。让我们理所当然地认为测试本身是完美无缺的,并且可以正常工作。下一步是什么以确保他们在正确的时间将可能有害的结果传达给您? 最佳答案 不确定您到底想听什么,但是有几个级别的自动代码库控制:在处理某项功能时,您可以使用类似autotest的内容获得关于哪些有效,哪些无效的即时反馈。要确保您的提
假设我做了一个模块如下:m=Module.newdoclassCendend三个问题:除了对m的引用之外,还有什么方法可以访问C和m中的其他内容?我可以在创建匿名模块后为其命名吗(就像我输入“module...”一样)?如何在使用完匿名模块后将其删除,使其定义的常量不再存在? 最佳答案 三个答案:是的,使用ObjectSpace.此代码使c引用你的类(class)C不引用m:c=nilObjectSpace.each_object{|obj|c=objif(Class===objandobj.name=~/::C$/)}当然这取决于
我试图在一个项目中使用rake,如果我把所有东西都放到Rakefile中,它会很大并且很难读取/找到东西,所以我试着将每个命名空间放在lib/rake中它自己的文件中,我添加了这个到我的rake文件的顶部:Dir['#{File.dirname(__FILE__)}/lib/rake/*.rake'].map{|f|requiref}它加载文件没问题,但没有任务。我现在只有一个.rake文件作为测试,名为“servers.rake”,它看起来像这样:namespace:serverdotask:testdoputs"test"endend所以当我运行rakeserver:testid时
我正在尝试使用ruby和Savon来使用网络服务。测试服务为http://www.webservicex.net/WS/WSDetails.aspx?WSID=9&CATID=2require'rubygems'require'savon'client=Savon::Client.new"http://www.webservicex.net/stockquote.asmx?WSDL"client.get_quotedo|soap|soap.body={:symbol=>"AAPL"}end返回SOAP异常。检查soap信封,在我看来soap请求没有正确的命名空间。任何人都可以建议我
关闭。这个问题是opinion-based.它目前不接受答案。想要改进这个问题?更新问题,以便editingthispost可以用事实和引用来回答它.关闭4年前。Improvethisquestion我想在固定时间创建一系列低音和高音调的哔哔声。例如:在150毫秒时发出高音调的蜂鸣声在151毫秒时发出低音调的蜂鸣声200毫秒时发出低音调的蜂鸣声250毫秒的高音调蜂鸣声有没有办法在Ruby或Python中做到这一点?我真的不在乎输出编码是什么(.wav、.mp3、.ogg等等),但我确实想创建一个输出文件。
我在我的项目目录中完成了compasscreate.和compassinitrails。几个问题:我已将我的.sass文件放在public/stylesheets中。这是放置它们的正确位置吗?当我运行compasswatch时,它不会自动编译这些.sass文件。我必须手动指定文件:compasswatchpublic/stylesheets/myfile.sass等。如何让它自动运行?文件ie.css、print.css和screen.css已放在stylesheets/compiled。如何在编译后不让它们重新出现的情况下删除它们?我自己编译的.sass文件编译成compiled/t
我想将html转换为纯文本。不过,我不想只删除标签,我想智能地保留尽可能多的格式。为插入换行符标签,检测段落并格式化它们等。输入非常简单,通常是格式良好的html(不是整个文档,只是一堆内容,通常没有anchor或图像)。我可以将几个正则表达式放在一起,让我达到80%,但我认为可能有一些现有的解决方案更智能。 最佳答案 首先,不要尝试为此使用正则表达式。很有可能你会想出一个脆弱/脆弱的解决方案,它会随着HTML的变化而崩溃,或者很难管理和维护。您可以使用Nokogiri快速解析HTML并提取文本:require'nokogiri'h