草庐IT

读Java性能权威指南(第2版)笔记30_Java服务器

躺柒 2023-03-28 原文

1. 响应式编程

1.1. 使用基于事件的范式处理异步数据流

1.2. 和异步编程提供了相同的性能优势

1.3. 能够扩展程序(特别是扩展I/O)以处理很多连接和数据源

2. 非阻塞I/O

2.1. 有效扩展服务器的基础

2.2. 允许服务器用相对较少的线程处理相对较多的连接

  • 2.2.1. 传统的服务器利用这一点来处理基本的客户端连接

  • 2.2.2. 新的服务器可以将非阻塞特性扩展到其他应用程序

3. 优化服务器线程池

3.1. 选择器线程

  • 3.1.1. 在I/O可用时通知系统调用的线程

3.2. 选择器通知有客户端I/O待处理之后,另一个包含工作线程的线程池会处理实际的请求和响应

3.3. 要足够多的工作线程来处理服务器所能处理的并发请求数(而非并发连接数)

3.4. 像所有受限于CPU的情况一样,线程的数量没有必要比运行服务器的机器或容器的虚拟CPU数量多,因为永远没有办法运行那么多的线程

3.5. 将长请求推迟到另一个线程池中,这为主线程池提供了更强大的请求处理能力

3.6. 异步REST服务器

  • 3.6.1. 使用异步响应有3个原因

    • 3.6.1.1. 为了在业务逻辑中引入更多的并行性

    • 3.6.1.2. 为了限制活跃线程的数量

    • 3.6.1.3. 为了适当地对服务器限流

  • 3.6.2. 添加了@Suspended注解的AsyncResponse正在等待逻辑完成,一旦完成,它就会继续将响应发回给用户

  • 3.6.3. 在排队等待响应之前,看看异步线程池的状态,如果系统太忙,就拒绝请求

  • 3.6.4. 如果线程数量等于池大小,响应会被立即取消

    • 3.6.4.1. 调用者会立即收到错误提示“HTTP 503服务不可用”,表示此时不能处理该请求
  • 3.6.5. 立即返回该错误能减少过载服务器的负载,这最终会使整体性能大幅提高

    • 3.6.5.1. 这是REST处理过载服务器的首选方式

4. 异步出站调用

4.1. HTTP客户端

  • 4.1.1. 处理发向服务器的HTTP请求类

  • 4.1.2. 可以通过在多个线程之间分配工作来提高性能,从而增加并发量

  • 4.1.3. java.net.HttpURLConnection类

    • 4.1.3.1. Java 8
  • 4.1.4. java.net.HttpsURLConnection

    • 4.1.4.1. Java 8
  • 4.1.5. java.net.http. HttpClient类

    • 4.1.5.1. 也处理HTTPS

    • 4.1.5.2. Java 11

  • 4.1.6. org.apache.http.client.HttpClient

    • 4.1.6.1. Apache软件基金会
  • 4.1.7. org.asynchttpclient.AsyncHttpClient

    • 4.1.7.1. Netty项目
  • 4.1.8. org.eclipse.jetty.client.HttpClient

    • 4.1.8.1. Eclipse基金

4.2. JAX-RS

  • 4.2.1. JAX-RS连接器提供了一个Client对象用于REST调用

  • 4.2.2. HTTP客户端可以正确地池化连接并使用keepalive来保持连接开放

4.3. -Dhttp.maxConnections=N

  • 4.3.1. 改变池的大小

  • 4.3.2. 默认值是5

  • 4.3.3. 适用于HTTPS连接

  • 4.3.4. 不能起到限流的作用

4.4. HttpClient类

  • 4.4.1. JDK 11

  • 4.4.2. 默认的池大小是无限制的

  • 4.4.3. -Djdk.httpclient.connectionPoolSize=N

    • 4.4.3.1. 不能起到限流的作用

    • 4.4.3.2. 请求的连接超过了配置的数量,它们会在需要的时候被创建,在完成任务后被销毁

4.5. 与使用传统I/O构建的客户端相比,使用NIO构建的异步HTTP客户端需要的线程更少

4.6. 但REST服务器仍然需要相当多的线程来处理异步请求

5. 异步数据库调用

5.1. 使用最广泛的是Spring项目的Spring Data R2DBC

  • 5.1.1. 对于关系数据库的非阻塞访问来说,这是最好的选择

5.2. 针对响应式NoSQL数据库的Spring项目可以用于真正的异步访问

6. 格式

6.1. Apache Avro

6.2. Google的Protocol Buffers

6.3. XML

6.4. JSON

7. JSON处理

7.1. 解码(unmarshaling)

  • 7.1.1. 输出的是一个Java对象

7.2. 解析(parsing)

  • 7.2.1. 数据在读取时被处理,这个过程就叫作解析

7.3. 给定一系列JSON字符串,程序必须将这些字符串转换为适合Java处理的数据

7.4. 编码(marshaling)

  • 7.4.1. 从其他数据生成JSON字符串的过程

7.5. 通用技术

  • 7.5.1. 拉解析器(pull parser)

    • 7.5.1.1. 输入的数据与解析器相关联,程序从解析器请求(或拉取)一系列标记(token)
  • 7.5.2. 文档模型(document model)

    • 7.5.2.1. 输入的数据被转换为一个文档风格的对象,应用程序可以在寻找数据片段时遍历这个对象
  • 7.5.3. 对象表示(object representation)

    • 7.5.3.1. 通过使用一组反映数据结构的预定义类,将输入的数据转换成一个或多个Java对象

    • 7.5.3.2. POJO(plain old Java object)

7.6. JSON数据表示形式

  • 7.6.1. 简单JSON对象

    • 7.6.1.1. 通用接口进行操作,如JsonObject和JsonArray

    • 7.6.1.2. 不需要具体表示数据的类

    • 7.6.1.3. 生成简单JSON对象比生成自定义Java类要快得多

  • 7.6.2. JSON对象表示形式

    • 7.6.2.1. 从编程的角度来看,这些Java类更容易使用

    • 7.6.2.2. 使用可以产生POJO的JSON-B(JSON Binding),将JSON数据绑定到一个完整的Java类

7.7. Jackson

  • 7.7.1. Jackson解析器通常是最快的解析器,应该优先选择它,而不是选择默认的实现

7.8. 所有的JSON解析器都是拉解析器

  • 7.8.1. 从流中按需检索数据

  • 7.8.2. 实际的解析器不能被重复使用,它们也不是线程安全的。因此,解析器通常是按需创建的

7.9. 处理JSON有两种方式:创建POJO对象和直接解析

  • 7.9.1. 直接解析提供了过滤的能力和通用的性能提升机会

  • 7.9.2. 当对象很大时,创建JSON对象往往会导致GC问题

有关读Java性能权威指南(第2版)笔记30_Java服务器的更多相关文章

  1. ruby - 使用 ruby​​ 和 savon 的 SOAP 服务 - 2

    我正在尝试使用ruby​​和Savon来使用网络服务。测试服务为http://www.webservicex.net/WS/WSDetails.aspx?WSID=9&CATID=2require'rubygems'require'savon'client=Savon::Client.new"http://www.webservicex.net/stockquote.asmx?WSDL"client.get_quotedo|soap|soap.body={:symbol=>"AAPL"}end返回SOAP异常。检查soap信封,在我看来soap请求没有正确的命名空间。任何人都可以建议我

  2. ruby - 具有身份验证的私有(private) Ruby Gem 服务器 - 2

    我想安装一个带有一些身份验证的私有(private)Rubygem服务器。我希望能够使用公共(public)Ubuntu服务器托管内部gem。我读到了http://docs.rubygems.org/read/chapter/18.但是那个没有身份验证-如我所见。然后我读到了https://github.com/cwninja/geminabox.但是当我使用基本身份验证(他们在他们的Wiki中有)时,它会提示从我的服务器获取源。所以。如何制作带有身份验证的私有(private)Rubygem服务器?这是不可能的吗?谢谢。编辑:Geminabox问题。我尝试“捆绑”以安装新的gem..

  3. java - 等价于 Java 中的 Ruby Hash - 2

    我真的很习惯使用Ruby编写以下代码:my_hash={}my_hash['test']=1Java中对应的数据结构是什么? 最佳答案 HashMapmap=newHashMap();map.put("test",1);我假设? 关于java-等价于Java中的RubyHash,我们在StackOverflow上找到一个类似的问题: https://stackoverflow.com/questions/22737685/

  4. ruby-on-rails - 启动 Rails 服务器时 ImageMagick 的警告 - 2

    最近,当我启动我的Rails服务器时,我收到了一长串警告。虽然它不影响我的应用程序,但我想知道如何解决这些警告。我的估计是imagemagick以某种方式被调用了两次?当我在警告前后检查我的git日志时。我想知道如何解决这个问题。-bcrypt-ruby(3.1.2)-better_errors(1.0.1)+bcrypt(3.1.7)+bcrypt-ruby(3.1.5)-bcrypt(>=3.1.3)+better_errors(1.1.0)bcrypt和imagemagick有关系吗?/Users/rbchris/.rbenv/versions/2.0.0-p247/lib/ru

  5. ruby-on-rails - s3_direct_upload 在生产服务器中不工作 - 2

    在Rails4.0.2中,我使用s3_direct_upload和aws-sdkgems直接为s3存储桶上传文件。在开发环境中它工作正常,但在生产环境中它会抛出如下错误,ActionView::Template::Error(noimplicitconversionofnilintoString)在View中,create_cv_url,:id=>"s3_uploader",:key=>"cv_uploads/{unique_id}/${filename}",:key_starts_with=>"cv_uploads/",:callback_param=>"cv[direct_uplo

  6. ruby - 用 Ruby 编写一个简单的网络服务器 - 2

    我想在Ruby中创建一个用于开发目的的极其简单的Web服务器(不,不想使用现成的解决方案)。代码如下:#!/usr/bin/rubyrequire'socket'server=TCPServer.new('127.0.0.1',8080)whileconnection=server.acceptheaders=[]length=0whileline=connection.getsheaders想法是从命令行运行这个脚本,提供另一个脚本,它将在其标准输入上获取请求,并在其标准输出上返回完整的响应。到目前为止一切顺利,但事实证明这真的很脆弱,因为它在第二个请求上中断并出现错误:/usr/b

  7. ruby-on-rails - 在 Rails 中调试生产服务器 - 2

    您如何在Rails中的实时服务器上进行有效调试,无论是在测试版/生产服务器上?我试过直接在服务器上修改文件,然后重启应用,但是修改好像没有生效,或者需要很长时间(缓存?)我也试过在本地做“脚本/服务器生产”,但是那很慢另一种选择是编码和部署,但效率很低。有人对他们如何有效地做到这一点有任何见解吗? 最佳答案 我会回答你的问题,即使我不同意这种热修补服务器代码的方式:)首先,你真的确定你已经重启了服务器吗?您可以通过跟踪日志文件来检查它。您更改的代码显示的View可能会被缓存。缓存页面位于tmp/cache文件夹下。您可以尝试手动删除

  8. java - 从 JRuby 调用 Java 类的问题 - 2

    我正在尝试使用boilerpipe来自JRuby。我看过guide从JRuby调用Java,并成功地将它与另一个Java包一起使用,但无法弄清楚为什么同样的东西不能用于boilerpipe。我正在尝试基本上从JRuby中执行与此Java等效的操作:URLurl=newURL("http://www.example.com/some-location/index.html");Stringtext=ArticleExtractor.INSTANCE.getText(url);在JRuby中试过这个:require'java'url=java.net.URL.new("http://www

  9. java - 我的模型类或其他类中应该有逻辑吗 - 2

    我只想对我一直在思考的这个问题有其他意见,例如我有classuser_controller和classuserclassUserattr_accessor:name,:usernameendclassUserController//dosomethingaboutanythingaboutusersend问题是我的User类中是否应该有逻辑user=User.newuser.do_something(user1)oritshouldbeuser_controller=UserController.newuser_controller.do_something(user1,user2)我

  10. java - 什么相当于 ruby​​ 的 rack 或 python 的 Java wsgi? - 2

    什么是ruby​​的rack或python的Java的wsgi?还有一个路由库。 最佳答案 来自Python标准PEP333:Bycontrast,althoughJavahasjustasmanywebapplicationframeworksavailable,Java's"servlet"APImakesitpossibleforapplicationswrittenwithanyJavawebapplicationframeworktoruninanywebserverthatsupportstheservletAPI.ht

随机推荐