草庐IT

java - Spring 长轮询

coder 2024-03-13 原文

我们有一个有点独特的案例，我们需要与外部 API 接口(interface)，这需要我们长时间轮询他们的端点以获取他们所谓的实时事件。

问题是我们可能有多达 80,000 人/设备在任何给定时间访问此端点，监听事件，每台设备/人 1 个连接。

当客户端从我们的 Spring 服务发出请求以对事件进行长轮询时，我们的服务会依次对外部 API 进行异步调用以对事件进行长轮询。外部 API 定义了最小长轮询超时，可以设置为 180 秒。

所以在这里我们遇到了一个带有队列的线程池无法工作的情况，因为如果我们有一个类似(5 分钟，10 最大，10 个队列)的线程池，那么正在处理的 10 个线程可能会占用在当前 10 个中的一个完成之前，聚光灯和队列中的 10 个将不会有机会。

我们需要为其提供服务或使其失败(我们将在其后放置负载均衡器等)，但我们不想让客户端在没有实际轮询发生的情况下挂起。

我们一直在研究为此使用 DeferredResult，并从 Controller 返回它。

有些东西是

@RequestMapping(value = "test/deferredResult", method = RequestMethod.GET)
    DeferredResult<ResponseEntity> testDeferredResult() {
        final DeferredResult<ResponseEntity> deferredResult = new DeferredResult<ResponseEntity>();
        CompletableFuture.supplyAsync(() -> testService.test()).whenCompleteAsync((result, throwable) -> deferredResult.setResult(result));
        return deferredResult;
    }

我在质疑我是否在正确的道路上，我是否应该为 CompletableFuture.supplyAsync() 方法提供一个执行器和什么样的执行器(和配置)以最好地完成我们的任务.

我已经阅读了各种文章、帖子等，我想看看是否有人有任何可能对我们的具体情况有所帮助的知识。

最佳答案

如果您使用阻塞 IO，您所描述的问题听起来不像是可以很好解决的问题。所以您走在正确的道路上，因为 DeferredResult 允许您使用任何线程生成结果，而不会阻塞 servlet 容器线程。

关于在上游调用长池 API，您还需要一个 NIO 解决方案。如果使用 Netty 客户端，则可以使用单个线程管理数千个套接字。当Netty中的NIO选择器检测到数据时，会得到一个 channel 回调，最终委托(delegate)给Netty工作线程池中的一个线程，调用deferredResult.setResult。如果您不执行阻塞 IO，工作池的大小通常根据 CPU 内核的数量来确定，否则您可能需要更多线程。

仍然存在许多挑战。

  • 您可能需要不止一台服务器(或网络接口(interface))，因为只有 65K 个端口。
  • Java 中的套接字没有写入超时，因此如果客户端拒绝从套接字读取数据，并且您发送的数据多于套接字缓冲区，您将阻塞 Netty 工作线程，然后一切都会停止( 逆转懒猴攻击)。这是大型异步设置中的一个经典问题，也是使用 Hystrix(Netflix 出品)等框架的原因之一。

关于java - Spring 长轮询，我们在Stack Overflow上找到一个类似的问题： https://stackoverflow.com/questions/41877678/

Springjavasection套接字套接

有关java - Spring 长轮询的更多相关文章

  1. java - 等价于 Java 中的 Ruby Hash - 2

    我真的很习惯使用Ruby编写以下代码:my_hash={}my_hash['test']=1Java中对应的数据结构是什么？ 最佳答案 HashMapmap=newHashMap();map.put("test",1);我假设？ 关于java-等价于Java中的RubyHash，我们在StackOverflow上找到一个类似的问题： https://stackoverflow.com/questions/22737685/

  2. ruby-on-rails - 带 Spring 锁的 Rails 4 控制台 - 2

    我正在使用Ruby2.1.1和Rails4.1.0.rc1。当执行railsc时，它被锁定了。使用Ctrl-C停止，我得到以下错误日志:~/.rvm/gems/ruby-2.1.1/gems/spring-1.1.2/lib/spring/client/run.rb:47:in`gets':Interruptfrom~/.rvm/gems/ruby-2.1.1/gems/spring-1.1.2/lib/spring/client/run.rb:47:in`verify_server_version'from~/.rvm/gems/ruby-2.1.1/gems/spring-1.1.

  3. java - 从 JRuby 调用 Java 类的问题 - 2

    我正在尝试使用boilerpipe来自JRuby。我看过guide从JRuby调用Java，并成功地将它与另一个Java包一起使用，但无法弄清楚为什么同样的东西不能用于boilerpipe。我正在尝试基本上从JRuby中执行与此Java等效的操作:URLurl=newURL("http://www.example.com/some-location/index.html");Stringtext=ArticleExtractor.INSTANCE.getText(url);在JRuby中试过这个:require'java'url=java.net.URL.new("http://www

  4. java - 我的模型类或其他类中应该有逻辑吗 - 2

    我只想对我一直在思考的这个问题有其他意见，例如我有classuser_controller和classuserclassUserattr_accessor:name,:usernameendclassUserController//dosomethingaboutanythingaboutusersend问题是我的User类中是否应该有逻辑user=User.newuser.do_something(user1)oritshouldbeuser_controller=UserController.newuser_controller.do_something(user1,user2)我

  5. java - 什么相当于 ruby​​ 的 rack 或 python 的 Java wsgi？ - 2

    什么是ruby​​的rack或python的Java的wsgi？还有一个路由库。 最佳答案 来自Python标准PEP333:Bycontrast,althoughJavahasjustasmanywebapplicationframeworksavailable,Java's"servlet"APImakesitpossibleforapplicationswrittenwithanyJavawebapplicationframeworktoruninanywebserverthatsupportstheservletAPI.ht

  6. Observability：从零开始创建 Java 微服务并监控它 （二） - 2

    这篇文章是继上一篇文章“Observability：从零开始创建Java微服务并监控它（一）”的续篇。在上一篇文章中，我们讲述了如何创建一个Javaweb应用，并使用Filebeat来收集应用所生成的日志。在今天的文章中，我来详述如何收集应用的指标，使用APM来监控应用并监督web服务的在线情况。源码可以在地址 https://github.com/liu-xiao-guo/java_observability 进行下载。摄入指标指标被视为可以随时更改的时间点值。当前请求的数量可以改变任何毫秒。你可能有1000个请求的峰值，然后一切都回到一个请求。这也意味着这些指标可能不准确，你还想提取最小/

  7. 【Java 面试合集】HashMap中为什么引入红黑树，而不是AVL树呢 - 2

    HashMap中为什么引入红黑树，而不是AVL树呢1.概述开始学习这个知识点之前我们需要知道，在JDK1.8以及之前，针对HashMap有什么不同。JDK1.7的时候，HashMap的底层实现是数组+链表JDK1.8的时候，HashMap的底层实现是数组+链表+红黑树我们要思考一个问题，为什么要从链表转为红黑树呢。首先先让我们了解下链表有什么不好？？？2.链表上述的截图其实就是链表的结构，我们来看下链表的增删改查的时间复杂度增：因为链表不是线性结构，所以每次添加的时候，只需要移动一个节点，所以可以理解为复杂度是N(1)删：算法时间复杂度跟增保持一致查：既然是非线性结构，所以查询某一个节点的时候

  8. 【Java入门】使用Java实现文件夹的遍历 - 2

    遍历文件夹我们通常是使用递归进行操作，这种方式比较简单，也比较容易理解。本文为大家介绍另一种不使用递归的方式，由于没有使用递归，只用到了循环和集合，所以效率更高一些！一、使用递归遍历文件夹整体思路1、使用File封装初始目录，2、打印这个目录3、获取这个目录下所有的子文件和子目录的数组。4、遍历这个数组，取出每个File对象4-1、如果File是否是一个文件，打印4-2、否则就是一个目录，递归调用代码实现publicclassSearchFile{publicstaticvoidmain(String[]args){//初始目录Filedir=newFile("d:/Dev");Datebeg

  9. spring.profiles.active和spring.profiles.include的使用及区别说明 - 2

    转自:spring.profiles.active和spring.profiles.include的使用及区别说明下文笔者讲述spring.profiles.active和spring.profiles.include的区别简介说明,如下所示我们都知道，在日常开发中,开发|测试|生产环境都拥有不同的配置信息如：jdbc地址、ip、端口等此时为了避免每次都修改全部信息，我们则可以采用以上的属性处理此类异常spring.profiles.active属性例：配置文件,可使用以下方式定义application-${profile}.properties开发环境配置文件:application-dev

  10. java - 为什么 ruby​​ modulo 与 java/other lang 不同？ - 2

    我基本上来自Java背景并且努力理解Ruby中的模运算。(5%3)(-5%3)(5%-3)(-5%-3)Java中的上述操作产生，2个-22个-2但在Ruby中，相同的表达式会产生21个-1-2.Ruby在逻辑上有多擅长这个？模块操作在Ruby中是如何实现的？如果将同一个操作定义为一个web服务，两个服务如何匹配逻辑。 最佳答案 在Java中，模运算的结果与被除数的符号相同。在Ruby中，它与除数的符号相同。remainder()在Ruby中与被除数的符号相同。您可能还想引用modulooperation.

随机推荐