草庐IT

Spring Cloud Alibaba 微服务1,系统架构演变 + Nginx反向代理与负载均衡

哪 吒 2023-04-22 原文


目录

专栏导读

🏆作者简介:哪吒,CSDN2022博客之星Top1、CSDN2021博客之星Top2、多届新星计划导师✌、博客专家💪 ,专注Java硬核干货分享,立志做到Java赛道全网Top N。

🏆本文收录于Java基础教程系列(进阶篇),本专栏是针对大学生、初级Java工程师精心打造,针对Java生态,逐个击破,不断学习,打通Java技术栈

🏆订阅后,可以阅读Java基础教程系列(进阶篇)中全部文章包含Java基础、Java高并发、Spring、MySQL等Java进阶技术栈

🏆还可以订阅其姐妹篇Java基础教程系列,包含全部Java基础知识点、Java8新特性、Java集合、Java多线程、Java代码实例理论结合实战,实现Java的轻松学习

🏆哪吒多年工作总结:Java学习路线总结,搬砖工逆袭Java架构师

🏆面试福音:10万字208道Java经典面试题总结(附答案)

大家好,我是哪吒。

本系列为SpringCloud微服务系列,先从微服务的入口Nginx开始学习,读哪吒编程,品技术人生。

一、系统架构演变

最开始接触Java语言的时候,我写的第一个项目是图书管理系统,当时是用JSP+servlet写的,感觉很吊的样子,全班领先水平。


慢慢的变成了JSP+SSM架构。

到现在单体架构最流行的SpringBoot+Vue

但是,随着业务量的不断增大,你会发现,这些单体架构,已经无法满足数据日益膨胀的今天,动不动就几万、几十万的QPS,我记得当初200QPS,我就觉得挺吓人了。

为了解决性能问题,慢慢的微服务SpringCloud架构浮出水面,微服务的核心理念是将应用细粒化,将单一应用拆分成若干个小应用,每个小应用提供单一的业务功能,独立部署,服务之间相互调用,降低程序耦合度,解决单台服务器宕机的问题。

微服务提供了:

  1. 高可用:当某个节点服务器宕机后,可以迅速将流量转移到其它节点;
  2. 高性能:多台服务器对外提供相同的服务,提升程序的吞吐量;
  3. 高扩展:当业务发生激增时,可以通过增加节点的方式,解决性能问题​;


注:本章的重点是Nginx,微服务其它组件就不画了。

二、什么是Nginx?

Nginx是俄罗斯人Igor Sysoev编写的一款高性能 HTTP 和反向代理服务器。Nginx选择了epoll和kqueue作为网络I/O 模型,在高连接并发的情况下,Nginx是Apache服务器不错的替代品,它能够支持高达50 000个并发连接数的响应,运行稳定,且内存、CPU等系统资源消耗非常低。

三、servername匹配规则

  1. 完整匹配
  2. 通配符匹配
  3. 正则匹配

正则匹配格式,必须以~开头,比如server_name ~^www\d+\.nzbc\.com$;。如果没有~开头,则Nginx会判定为完整匹配,在逻辑上,需要添加^和$锚定符号。正则匹配格式中.为正则元字符,需要通过反斜线进行转义,如果正在表达式中包含{},需要用双引号引用起来,避免报错。

四、正向代理与反向代理

1、正向代理

正向代理服务器一般位于用户和服务器之间,用户通过正向代理服务器访问应用服务器获取资源。

最常见的例子就是,我们访问一个外国网站,该网站无法在国内直接访问,但是可以通过代理服务器访问,也就是说,用户向正向代理服务器发送一个请求并指定目标,然后正向代理服务器向目标服务器(外国网站)转交请求并将获得的内容返回给用户。

正向代理服务器,代理的是客户端,去和服务端交互。

2、反向代理

反向代理服务器一般位于用户和服务器之间,用户访问反向代理服务器获取应用服务器资源,用户不知道应用服务器的地址,是由代理服务器转发的,有降低网络和服务器的负载,提高访问效率的作用。

反向代理服务器,代理的是服务端,去和客户端交互。

Nginx就是一款高性能的反向代理服务器。

3、LVS

先说结论,LVS解决了Nginx单机性能瓶颈的问题。

LVS主要用于多服务器负载均衡,工作在网络的第四层,可以实现高性能、高可用的服务器集群技术,采用同步请求转发的策略。

LVS支持的并发量要比Nginx高,可以配合keepalived使用,将Nginx作为LVS的节点机器,因为Nginx在网络的第七层,功能上肯定强于LVS。

用户通过Nginx访问应用服务器,应用服务器直接将数据返回给机房路由,返回时不走Nginx了,降低了Nginx的性能消耗。

五、负载均衡策略

1、轮询

默认使用轮询方式,逐一转发访问,这种情况适合无状态请求,会话无法保持,可以通过基于客户端实现会话保持。

会话保持方式:

(1)基于session实现:

session用于存储客户端用户信息,一般不在服务器存储session,可以通过SpringSession将session存储到一个Redis服务器中,再次访问时,可以到Redis服务器中获取session,实现session共享。

(2)基于cookie实现,无状态的会话保持方式

客户端访问时,先到权限校验服务器校验权限,生成一个cookie,并进行加密,只有服务器能解密,客户端没密码无法解密,客户端携带此cookie再次访问应用服务器,应用服务器进行解密校验,完成无状态的会话保持。

2、权重

通过upstream进行权重的定义。

  1. weight:权重
  2. down:下线不用了
  3. backup:备用服务器

修改配置文件后,需要通过systemctl reload nginx命令重启Nginx。

nginx.conf配置如下

http{
	upstream httpnz {
		server 192.168.66.1 weight=1 down;
		server 192.168.66.2 weight=5 backup;
		server 192.168.66.3 weight=10;
	}
	server{
		listen 80;
		server_name nzbc;
		
		location / {
			proxy_pass http://httpnz;
		}
	
		error_page 500.html;
		location = /500.html{
			root html;
		}
	}
}

3、ip_hash

每个请求按访问ip的hash结果分配,映射到固定某一台的服务器,会导致负载均衡不平衡。

当此应用服务器宕机后,session会丢失,再次发起请求时,会重新固定访问另一台正常的应用服务器,并实现会话保持。

4、least_conn

最少连接访问。

5、url_hash

根据访问的url转发请求,定向流量转发。

每个请求按访问url的hash结果分配,映射到固定的某一台服务器,会话无法保持。

一般在获取本地资源时使用(且本地资源不在同一台服务器上),比如通过地址1获取图片资源、通过地址2获取pdf协议资源。

6、fair

根据服务器响应时间转发请求。

7、小结

最常用的负载均衡策略是配置权重,其它的形式,不是很常用。

ip_hash、least_conn、url_hash、fair,这几种形式无法实现动态Nginx上下线(新增或减少Nginx服务器),而且还会造成流量倾斜的问题,如果瞬时流量比较爆炸的时候,会将某个服务器直接干蹦

六、动静分离

动静分离的最终目的是将获取静态资源和动态资源分离开,提升服务器性能和高可用性。

配置静态资源,nginx.conf配置如下

http{
	upstream httpnz {
		server 192.168.66.1 weight=1 down;
		server 192.168.66.2 weight=5 backup;
		server 192.168.66.3 weight=10;
	}
	server{
		listen 80;
		server_name nzbc;
		
		location / {
			proxy_pass http://httpnz;
		}
		
		location ~*/(js/img/css) {
			root html;
			index index.html index.htm;
		}
		
		error_page 500 502 503 504 /50x.html;
		location = /50x.html{
			root html;
		}
	}
}

七、URLRewrite

URLRewrite是实现URL重写的关键指令,根据regex (正则表达式)部分内容,重定向到replacement,结尾是flag标记。

flag标记说明:

  1. break,本条匹配完成后即终止;
  2. last,本条匹配完成后,继续向下匹配;
  3. redirect,返回302临时重定向;
  4. permanent,返回301永久重定向;

配置URLRewrite,nginx.conf配置如下

http{
	upstream httpnz {
		server 192.168.66.1 weight=1 down;
		server 192.168.66.2 weight=5 backup;
		server 192.168.66.3 weight=10;
	}
	server{
		listen 80;
		server_name nzbc;
		
		location / {
			rewrite ^/([0-9]+).html$ /index.jsp?pageNum=$1 break;
			proxy_pass http://httpnz;
		}
		
		location ~*/(js/img/css) {
			root html;
			index index.html index.htm;
		}
		
		error_page 500 502 503 504 /50x.html;
		location = /50x.html{
			root html;
		}
	}
}


Java学习路线总结,搬砖工逆袭Java架构师

10万字208道Java经典面试题总结(附答案)

Java基础教程系列

Java基础教程系列(进阶篇)

有关Spring Cloud Alibaba 微服务1,系统架构演变 + Nginx反向代理与负载均衡的更多相关文章

  1. ruby-on-rails - 如何优雅地重启 thin + nginx? - 2

    我的瘦服务器配置了nginx,我的ROR应用程序正在它们上运行。在我发布代码更新时运行thinrestart会给我的应用程序带来一些停机时间。我试图弄清楚如何优雅地重启正在运行的Thin实例,但找不到好的解决方案。有没有人能做到这一点? 最佳答案 #Restartjustthethinserverdescribedbythatconfigsudothin-C/etc/thin/mysite.ymlrestartNginx将继续运行并代理请求。如果您将Nginx设置为使用多个上游服务器,例如server{listen80;server

  2. 电脑0x0000001A蓝屏错误怎么U盘重装系统教学 - 2

      电脑0x0000001A蓝屏错误怎么U盘重装系统教学分享。有用户电脑开机之后遇到了系统蓝屏的情况。系统蓝屏问题很多时候都是系统bug,只有通过重装系统来进行解决。那么蓝屏问题如何通过U盘重装新系统来解决呢?来看看以下的详细操作方法教学吧。  准备工作:  1、U盘一个(尽量使用8G以上的U盘)。  2、一台正常联网可使用的电脑。  3、ghost或ISO系统镜像文件(Win10系统下载_Win10专业版_windows10正式版下载-系统之家)。  4、在本页面下载U盘启动盘制作工具:系统之家U盘启动工具。  U盘启动盘制作步骤:  注意:制作期间,U盘会被格式化,因此U盘中的重要文件请注

  3. 【鸿蒙应用开发系列】- 获取系统设备信息以及版本API兼容调用方式 - 2

    在应用开发中,有时候我们需要获取系统的设备信息,用于数据上报和行为分析。那在鸿蒙系统中,我们应该怎么去获取设备的系统信息呢,比如说获取手机的系统版本号、手机的制造商、手机型号等数据。1、获取方式这里分为两种情况,一种是设备信息的获取,一种是系统信息的获取。1.1、获取设备信息获取设备信息,鸿蒙的SDK包为我们提供了DeviceInfo类,通过该类的一些静态方法,可以获取设备信息,DeviceInfo类的包路径为:ohos.system.DeviceInfo.具体的方法如下:ModifierandTypeMethodDescriptionstatic StringgetAbiList​()Obt

  4. Observability:从零开始创建 Java 微服务并监控它 (二) - 2

    这篇文章是继上一篇文章“Observability:从零开始创建Java微服务并监控它(一)”的续篇。在上一篇文章中,我们讲述了如何创建一个Javaweb应用,并使用Filebeat来收集应用所生成的日志。在今天的文章中,我来详述如何收集应用的指标,使用APM来监控应用并监督web服务的在线情况。源码可以在地址 https://github.com/liu-xiao-guo/java_observability 进行下载。摄入指标指标被视为可以随时更改的时间点值。当前请求的数量可以改变任何毫秒。你可能有1000个请求的峰值,然后一切都回到一个请求。这也意味着这些指标可能不准确,你还想提取最小/

  5. kvm虚拟机安装centos7基于ubuntu20.04系统 - 2

    需求:要创建虚拟机,就需要给他提供一个虚拟的磁盘,我们就在/opt目录下创建一个10G大小的raw格式的虚拟磁盘CentOS-7-x86_64.raw命令格式:qemu-imgcreate-f磁盘格式磁盘名称磁盘大小qemu-imgcreate-f磁盘格式-o?1.创建磁盘qemu-imgcreate-fraw/opt/CentOS-7-x86_64.raw10G执行效果#ls/opt/CentOS-7-x86_64.raw2.安装虚拟机使用virt-install命令,基于我们提供的系统镜像和虚拟磁盘来创建一个虚拟机,另外在创建虚拟机之前,提前打开vnc客户端,在创建虚拟机的时候,通过vnc

  6. ruby - 在没有基准或时间的情况下用 Ruby 测量用户时间或系统时间 - 2

    因为我现在正在做一些时间测量,我想知道是否可以在不使用Benchmark类或命令行实用程序time的情况下测量用户时间或系统时间。使用Time类只显示挂钟时间,而不显示系统和用户时间,但是我正在寻找具有相同灵active的解决方案,例如time=TimeUtility.now#somecodeuser,system,real=TimeUtility.now-time原因是我有点不喜欢Benchmark,因为它不能只返回数字(编辑:我错了-它可以。请参阅下面的答案。)。当然,我可以解析输出,但感觉不对。*NIX系统的time实用程序也应该可以解决我的问题,但我想知道是否已经在Ruby中实

  7. ruby - HTTP 请求中的用户代理,Ruby - 2

    我是Ruby的新手。我试过查看在线文档,但没有找到任何有效的方法。我想在以下HTTP请求botget_response()和get()中包含一个用户代理。有人可以指出我正确的方向吗?#PreliminarycheckthatProggitisupcheck=Net::HTTP.get_response(URI.parse(proggit_url))ifcheck.code!="200"puts"ErrorcontactingProggit"returnend#Attempttogetthejsonresponse=Net::HTTP.get(URI.parse(proggit_url)

  8. ruby-on-rails - capybara poltergeist - 覆盖用户代理 - 2

    有人知道如何将capybarapoltergeist的用户代理覆盖到移动用户代理以进行测试吗?我发现了一些有关为seleniumwebdriver配置它的信息:http://blog.plataformatec.com.br/2011/03/configuring-user-agents-with-capybara-selenium-webdriver/这在capybara闹鬼中怎么可能? 最佳答案 请参阅poltergeistgithub页面上的链接:https://github.com/teampoltergeist/polte

  9. ruby - 如何配置 Ruby Mechanize 代理以通过 Charles Web 代理工作? - 2

    我正在使用Ruby/Mechanize编写一个“自动填写表格”应用程序。它几乎可以工作。我可以使用精彩CharlesWeb代理以查看服务器和我的Firefox浏览器之间的交换。现在我想使用Charles查看服务器和我的应用程序之间的交换。Charles在端口8888上代理。假设服务器位于https://my.host.com。.一件不起作用的事情是:@agent||=Mechanize.newdo|agent|agent.set_proxy("my.host.com",8888)end这会导致Net::HTTP::Persistent::Error:...lib/net/http/pe

  10. ruby-on-rails - 如何用不同的用户运行nginx主进程 - 2

    A/ctohttp://wiki.nginx.org/CoreModule#usermaster进程曾经以root用户运行,是否可以以不同的用户运行nginxmaster进程? 最佳答案 只需以非root身份运行init脚本(即/etc/init.d/nginxstart),就可以用不同的用户运行nginxmaster进程。如果这真的是你想要做的,你将需要确保日志和pid目录(通常是/var/log/nginx&/var/run/nginx.pid)对该用户是可写的,并且您所有的listen调用都是针对大于1024的端口(因为绑定(

随机推荐