草庐IT

java - java.nio 对 Web 服务器有什么好处？

coder 2024-03-22 原文

我知道这是一个反复出现的问题，我已经阅读了类似下面的文章 http://www.mailinator.com/tymaPaulMultithreaded.pdf说 nio 的扩展性比 io 更好并不一定是真的。

但我正在努力了解 java nio 在开发 Web 服务器时如何比传统的接受器/工作线程架构更好地扩展？让我解释一下:

通常 Java Web 服务器使用以下模式来处理连接:

  • 一些受限于内核数量的接受器线程阻塞在 ServerSocket 的 accept() 方法上:

    while (true) {
  socket = serverSocket.accept();
  // handleRequest submits the socket to a queue
  handleRequest(socket);
  socket.close();
}

  • 当客户端套接字被检索到时，它被提交到一个非阻塞队列，然后由工作线程池中的一个工作线程处理。工作线程的数量取决于正在执行的 io 操作的持续时间。

如何使用 java.nio 使该架构更具可扩展性？

我的意思是我仍然需要工作线程来处理会执行阻塞操作(访问数据库或文件系统、调用外部服务)的请求。如果后端操作不像在 node.js 中那样异步执行，与 1 或 2 个事件调度程序线程相比，我仍然需要会限制整体可伸缩性的工作线程。

最佳答案

我真的很喜欢 Paul Tyma 关于这个问题的文章，它真的很深入。我会在他的文章中看到两个要点:

  • 您可以通过传统的阻塞 IO 获得更好的吞吐量(他测量过)
  • 传统的阻塞 IO 使您的服务器逻辑不太复杂 -- 客户端-服务器对话的状态在线程流中隐式定义。

使用非阻塞 NIO 的主要原因是当您有很多许多同时存在的空闲请求时。这样做的原因是:使用 NIO，您可以从同一个线程处理多个请求，这更好。

好的，这就是你随处都能看到的内容。现在...为什么这更好？

有两个主要原因，它们与每个线程带来的两种不同类型的开销有关:

  • 当调度程序更改处理器正在执行的线程时，会出现一个“上下文切换”，这可能是一个代价高昂的操作(即线程在处理器中有一些状态——寄存器中的值，加载的大量数据L1、L2、L3 缓存等——必须在线程停止时“保存”在某处，并在线程继续执行时“重新加载”；此外，当您丢失 L1、L2、L3 缓存的内容时，您可能会得到大量的缓存未命中，这可能很糟糕(或不是，取决于工作量))
  • 每个线程都必须分配自己独立的栈(通常用于存储局部变量和函数调用的返回地址)

因此，每个线程都带有更多“浪费”的内存和可能“浪费”的处理器周期(以执行“上下文切换”)。

现在，假设您有一个聊天服务器，客户端建立 HTTP 连接请求新消息，您的服务器仅在有新消息发送给该客户端时才响应它们(以便客户端立即收到新消息)。假设您有 10k 个这样的客户。在传统的、阻塞的、每个连接一个线程的模型中，你会有 10k 个线程。在 Java 中，线程堆栈大小 (-Xss) 的典型标准值为 256kb。使用 10k 线程，您将自动使用大约 2GB 内存!!!!!!!!!!更糟的是:即使您的聊天服务器上根本没有任何 Activity ，没有消息被发送，客户端仍然会让您浪费这 2GB。添加大量的上下文切换，你会发现你遇到了问题。

在这种情况下，您最好使用非阻塞 NIO，其中更少的线程(最终只有 1 个!)就足以处理所有 10k 个客户端，因此您可以节省上下文切换(即 cpu时间)和线程堆栈(即内存)，甚至以更复杂的代码为代价，这通常是使用非阻塞 NIO 的副作用。

关于java - java.nio 对 Web 服务器有什么好处？，我们在Stack Overflow上找到一个类似的问题： https://stackoverflow.com/questions/15850033/

javaWeb的section接受器networkingionio

有关java - java.nio 对 Web 服务器有什么好处？的更多相关文章

  1. ruby - 为什么我可以在 Ruby 中使用 Object#send 访问私有(private)/ protected 方法？ - 2

    类classAprivatedeffooputs:fooendpublicdefbarputs:barendprivatedefzimputs:zimendprotecteddefdibputs:dibendendA的实例a=A.new测试a.foorescueputs:faila.barrescueputs:faila.zimrescueputs:faila.dibrescueputs:faila.gazrescueputs:fail测试输出failbarfailfailfail.发送测试[:foo,:bar,:zim,:dib,:gaz].each{|m|a.send(m)resc

  2. ruby - 使用 ruby​​ 和 savon 的 SOAP 服务 - 2

    我正在尝试使用ruby​​和Savon来使用网络服务。测试服务为http://www.webservicex.net/WS/WSDetails.aspx?WSID=9&CATID=2require'rubygems'require'savon'client=Savon::Client.new"http://www.webservicex.net/stockquote.asmx?WSDL"client.get_quotedo|soap|soap.body={:symbol=>"AAPL"}end返回SOAP异常。检查soap信封，在我看来soap请求没有正确的命名空间。任何人都可以建议我

  3. ruby-on-rails - Rails - 子类化模型的设计模式是什么？ - 2

    我有一个模型:classItem项目有一个属性“商店”基于存储的值，我希望Item对象对特定方法具有不同的行为。Rails中是否有针对此的通用设计模式？如果方法中没有大的if-else语句，这是如何干净利落地完成的？ 最佳答案 通常通过Single-TableInheritance. 关于ruby-on-rails-Rails-子类化模型的设计模式是什么？，我们在StackOverflow上找到一个类似的问题： https://stackoverflow.co

  4. ruby - 具有身份验证的私有(private) Ruby Gem 服务器 - 2

    我想安装一个带有一些身份验证的私有(private)Rubygem服务器。我希望能够使用公共(public)Ubuntu服务器托管内部gem。我读到了http://docs.rubygems.org/read/chapter/18.但是那个没有身份验证-如我所见。然后我读到了https://github.com/cwninja/geminabox.但是当我使用基本身份验证(他们在他们的Wiki中有)时，它会提示从我的服务器获取源。所以。如何制作带有身份验证的私有(private)Rubygem服务器？这是不可能的吗？谢谢。编辑:Geminabox问题。我尝试“捆绑”以安装新的gem..

  5. ruby - 什么是填充的 Base64 编码字符串以及如何在 ruby​​ 中生成它们？ - 2

    我正在使用的第三方API的文档状态:"[O]urAPIonlyacceptspaddedBase64encodedstrings."什么是“填充的Base64编码字符串”以及如何在Ruby中生成它们。下面的代码是我第一次尝试创建转换为Base64的JSON格式数据。xa=Base64.encode64(a.to_json) 最佳答案 他们说的padding其实就是Base64本身的一部分。它是末尾的“=”和“==”。Base64将3个字节的数据包编码为4个编码字符。所以如果你的输入数据有长度n和n%3=1=>"=="末尾用于填充n%

  6. ruby - 解析 RDFa、微数据等的最佳方式是什么，使用统一的模式/词汇(例如 schema.org)存储和显示信息 - 2

    我主要使用Ruby来执行此操作，但到目前为止我的攻击计划如下:使用gemsrdf、rdf-rdfa和rdf-microdata或mida来解析给定任何URI的数据。我认为最好映射到像schema.org这样的统一模式，例如使用这个yaml文件，它试图描述数据词汇表和opengraph到schema.org之间的转换:#SchemaXtoschema.orgconversion#data-vocabularyDV:name:namestreet-address:streetAddressregion:addressRegionlocality:addressLocalityphoto:i

  7. ruby - 为什么 4.1%2 使用 Ruby 返回 0.0999999999999996？但是 4.2%2==0.2 - 2

    为什么4.1%2返回0.0999999999999996？但是4.2%2==0.2。 最佳答案 参见此处:WhatEveryProgrammerShouldKnowAboutFloating-PointArithmetic实数是无限的。计算机使用的位数有限(今天是32位、64位)。因此计算机进行的浮点运算不能代表所有的实数。0.1是这些数字之一。请注意，这不是与Ruby相关的问题，而是与所有编程语言相关的问题，因为它来自计算机表示实数的方式。 关于ruby-为什么4.1%2使用Ruby返

  8. ruby - ruby 中的 TOPLEVEL_BINDING 是什么？ - 2

    它不等于主线程的binding，这个toplevel作用域是什么？此作用域与主线程中的binding有何不同？>ruby-e'putsTOPLEVEL_BINDING===binding'false 最佳答案 事实是，TOPLEVEL_BINDING始终引用Binding的预定义全局实例，而Kernel#binding创建的新实例>Binding每次封装当前执行上下文。在顶层，它们都包含相同的绑定(bind)，但它们不是同一个对象，您无法使用==或===测试它们的绑定(bind)相等性。putsTOPLEVEL_BINDINGput

  9. ruby - Infinity 和 NaN 的类型是什么？ - 2

    我可以得到Infinity和NaNn=9.0/0#=>Infinityn.class#=>Floatm=0/0.0#=>NaNm.class#=>Float但是当我想直接访问Infinity或NaN时:Infinity#=>uninitializedconstantInfinity(NameError)NaN#=>uninitializedconstantNaN(NameError)什么是Infinity和NaN？它们是对象、关键字还是其他东西？ 最佳答案 您看到打印为Infinity和NaN的只是Float类的两个特殊实例的字符串

  10. ruby-on-rails - 如果 Object::try 被发送到一个 nil 对象，为什么它会起作用？ - 2

    如果您尝试在Ruby中的nil对象上调用方法，则会出现NoMethodError异常并显示消息:"undefinedmethod‘...’fornil:NilClass"然而，有一个tryRails中的方法，如果它被发送到一个nil对象，它只返回nil:require'rubygems'require'active_support/all'nil.try(:nonexisting_method)#noNoMethodErrorexceptionanymore那么try如何在内部工作以防止该异常？ 最佳答案 像Ruby中的所有其他对象

随机推荐