一.Nginx负载均衡实现原理

1.1反向代理原理

1.2反向代理的概念

• 反向代理（Reverse Proxy）方式是指以代理服务器来接受internet上的连接请求，然后将请求转发给内部网络上的服务器，并将从服务器上得到的结果返回给internet上请求连接的客户端，此时代理服务器对外就表现为一个反向代理服务器。
• 反向代理是为服务端服务的，反向代理可以帮助服务器接收来自客户端的请求，帮助服务器做请求转发，负载均衡等。
• 反向代理对服务端是透明的，对我们是非透明的，即我们并不知道自己访问的是代理服务器，而服务器知道反向代理在为他服务。

1.3反向代理的优势

反向代理的优势：

• 隐藏真实服务器；
• 负载均衡便于横向扩充后端动态服务；
• 动静分离，提升系统健壮性；

1.4Nginx四层反向代理和七层反向代理

• 四层反向代理：是基于IP+PORT（TCP/UDP端口）转发
• 七层反向代理：基于http，https，mail代理转发

二、Nginx动静分离实现原理

2.1动静分离的概念

动静分离是指在 web 服务器架构中，将静态页面与动态页面或者静态内容接口和动态内容接口分开不同系统访问的架构设计方法，进而提示整个服务的访问性和可维护性。

2.2动静分离的原理

服务端接收来自客户端的请求中。既有静态资源也有动态资源，静态资源由Nginx提供服务，动态资源Nginx转发至后端。

2.3Nginx 静态处理优势

• Nginx处理静态页面的效率远高于Tomcat的处理能力
• 若Tomcat的请求量为1000次，则Nginx的请求量为6000次
• Tomcat每秒的吞吐量为0.6M，Nginx的每秒吞吐量为3.6M
• Nginx处理静态资源的能力是Tomcat处理的6倍

三、Nginx负载均衡调度算法（6种）

3.1轮询（默认）

每个请求按时间顺序逐一分配到不同的后端服务器，如果超过了最大失败次数后（max_fails，默认1），在失效时间内（fail_timeout，默认10秒），该节点失效权重变为0，超过失效时间后，则恢复正常，或者全部节点都为down后， 那么将所有节点都恢复为有效继续探测，一般来说rr可以根据权重来进行均匀分配。

3.2加权轮训

weight的值越大分配到的权限概率越高，主要用于后端每台服务器性能不均匀情况，或者仅仅为在主从情况下设置不同的权重值，达到合理利用主机资源

3.3least_conn最少连接

优先将客 户端请求调度到当前连接最少的服务器。

3.4ip_hash

每个请求按访问ip的hash结果分配，这样每个访客固定访问一个后端服务器， 可以解决session（会话状态）的问题，但是ip_hash会造成负载不均，有的服务请求接受多，有的服务请求接受少，所以不建议采用ip_hash模式

补充：session的概念
session共享问题可用后端服务的session共享代替nginx的ip_hash。ip_hash无法作用于四层反向代理，配置需要将其他模式删除例如weight删掉然后直接在加上

注释：
Session又称为会话状态，是Web系统中最常用的状态，用于维护和当前浏览器实例相关的一些信息。我们控制用户去权限中经常用到Session来存储用户状态
session其实分为客户端Session和服务器端Session。
当用户首次与Web服务器建立连接的时候，服务器会给用户分发一个 SessionID作为标识。SessionID是一个由24个字符组成的随机字符串。用户每次提交页面，浏览器都会把这个SessionID包含在 HTTP头中提交给Web服务器，这样Web服务器就能区分当前请求页面的是哪一个客户端。这个SessionID就是保存在客户端的，属于客户端Session。
其实客户端Session默认是以cookie的形式来存储的，所以当用户禁用了cookie的话，服务器端就得不到SessionID。这时我们可以使用url的方式来存储客户端Session。也就是将SessionID直接写在了url中，当然这种方法不常用。
Session共享：指在一个浏览器对应多个Web服务时，服务端的Session数据需要共享。例如单点登录、Web服务器集群等场景都需要用到、多子服务。

3.5fair（第三方）

按后端服务器的响应时间来分配请求，响应时间短的优先分配。

3.6url_hash（第三方）

和ip hash算法类似，是对每个请求按url的hash结果分配，使每个URL定向到同一个后端服务器， 但是也会造成分配不均的问题， 这种模式后端服务器为缓存时比较好。

四、Nginx+Tomcat负载均衡、动静分离的操作步骤

4.1准备三台服务器，Nginx作为负载均衡器，Tomcat作为应用服务器

Nginx 服务器：192.168.10.30:80
Tomcat服务器1：192.168.10.20:80
Tomcat服务器2：192.168.10.10:8080 192.168.10.10:8081

4.2部署Nginx 负载均衡器

systemctl stop firewalld
setenforce 0
 
yum -y install pcre-devel zlib-devel openssl-devel gcc gcc-c++ make
 
useradd -M -s /sbin/nologin nginx
 
cd /opt
tar zxvf nginx-1.12.0.tar.gz -C /opt/
 
cd nginx-1.12.0/
./configure \
--prefix=/usr/local/nginx \
--user=nginx \
--group=nginx \
--with-file-aio \                                #启用文件修改支持
--with-http_stub_status_module \                              #启用状态统计
--with-http_gzip_static_module \                             #启用 gzip静态压缩
--with-http_flv_module \                            #启用 flv模块，提供对 flv 视频的伪流支持
--with-http_ssl_module                              #启用 SSL模块，提供SSL加密功能
----------------------------------------------------------------------------------------------------------
./configure --prefix=/usr/local/nginx --user=nginx --group=nginx --with-file-aio --with-http_stub_status_module --with-http_gzip_static_module --with-http_flv_module
 
 
make && make install
 
ln -s /usr/local/nginx/sbin/nginx /usr/local/sbin/
 
vim /lib/systemd/system/nginx.service
[Unit]
Description=nginx
After=network.target
[Service]
Type=forking
PIDFile=/usr/local/nginx/logs/nginx.pid
ExecStart=/usr/local/nginx/sbin/nginx
ExecrReload=/bin/kill -s HUP $MAINPID
ExecrStop=/bin/kill -s QUIT $MAINPID
PrivateTmp=true
[Install]
WantedBy=multi-user.target
 
chmod 754 /lib/systemd/system/nginx.service
systemctl start nginx.service
systemctl enable nginx.service

4.3部署2台Tomcat 应用服务器

systemctl stop firewalld
setenforce 0
 
tar zxvf jdk-8u91-linux-x64.tar.gz -C /usr/local/
 
vim /etc/profile.d/java.sh
export JAVA_HOME=/usr/java/jdk1.8.0_201-amd64
export CLASSPATH=.:$JAVA_HOME/lib/tools.jar:$JAVA_HOME/lib/dt.jar                      
export PATH=$JAVA_HOME/bin:$PATH
 
source /etc/profile.d/java.sh
 
tar zxvf apache-tomcat-8.5.16.tar.gz
 
mv /opt/apache-tomcat-8.5.16/ /usr/local/tomcat
 
/usr/local/tomcat/bin/shutdown.sh
/usr/local/tomcat/bin/startup.sh
 
netstat -ntap | grep 8080

4.4动静分离配置

Tomcat1 server 配置

mkdir /usr/local/tomcat/webapps/test
vim /usr/local/tomcat/webapps/test/index.jsp
<%@ page language="java" import="java.util.*" pageEncoding="UTF-8"%>
<html>
<head>
<title>JSP test1 page</title>   
</head>
<body>
<% out.println("动态页面 1,Tomcat1");%>
</body>
</html>

vim /usr/local/tomcat/conf/server.xml
#由于主机名 name 配置都为 localhost，需要删除前面的 HOST 配置
<Host name="localhost" appBase="webapps" unpackWARs="true" autoDeploy="true" xmlValidation="false" xmlNamespaceAware="false">
    <Context docBase="/usr/local/tomcat/webapps/test" path="" reloadable="true">
    </Context>
</Host>
 
/usr/local/tomcat/bin/shutdown.sh
/usr/local/tomcat/bin/startup.sh

Tomcat2 server配置（多实例）

mkdir /usr/local/tomcat/tomcat1/webapps/test /usr/local/tomcat/tomcat2/webapps/test
 
vim /usr/local/tomcat/tomcat1/webapps/test/index.jsp
<%@ page language="java" import="java.util.*" pageEncoding="UTF-8"%>
<html>
<head>
<title>JSP test2 page</title>  
</head>
<body>
<% out.println("动态页面 2,Tomcat2中的实例1");%>
</body>
</html>
 
vim /usr/local/tomcat/tomcat1/conf/server.xml
#删除前面的 HOST 配置
<Host name="localhost" appBase="webapps" unpackWARs="true" autoDeploy="true" xmlValidation="false" xmlNamespaceAware="false">
    <Context docBase="/usr/local/tomcat/tomcat1/webapps/test" path="" reloadable="true" />
</Host>
 
/usr/local/tomcat/tomcat1/bin/shutdown.sh
/usr/local/tomcat/tomcat1/bin/startup.sh
 
vim /usr/local/tomcat/tomcat2/webapps/test/index.jsp
<%@ page language="java" import="java.util.*" pageEncoding="UTF-8"%>
<html>
<head>
<title>JSP test3 page</title>   
</head>
<body>
<% out.println("动态页面 3,Tomcat2中的实例2");%>
</body>
</html>
 
vim /usr/local/tomcat/tomcat2/conf/server.xml
#删除前面的 HOST 配置
<Host name="localhost" appBase="webapps" unpackWARs="true" autoDeploy="true" xmlValidation="false" xmlNamespaceAware="false">
    <Context docBase="/usr/local/tomcat/tomcat2/webapps/test" path="" reloadable="true" />
</Host>
 
/usr/local/tomcat/tomcat2/bin/shutdown.sh
/usr/local/tomcat/tomcat2/bin/startup.sh

Nginx server 配置——七层转发配置

#准备静态页面和静态图片
echo '<html><body><h1>这是静态页面</h1></body></html>' > /usr/local/nginx/html/index.html
mkdir /usr/local/nginx/html/img
cp /root/game.jpg /usr/local/nginx/html/img
 
vim /usr/local/nginx/conf/nginx.conf
......
http {
......
    #gzip on;
     
    #配置负载均衡的服务器列表，weight参数表示权重，权重越高，被分配到的概率越大
    upstream tomcat_server {
        server 192.168.116.70:8080 weight=1;
        server 192.168.116.120:8080 weight=1;
        server 192.168.116.120:8081 weight=1;
    }
     
    server {
        listen 80;
        server_name www.kgc.com;
     
        charset utf-8;
     
        #access_log logs/host.access.log main;
         
        #配置Nginx处理动态页面请求，将 .jsp文件请求转发到Tomcat 服务器处理
        location ~ .*\.jsp$ {
            proxy_pass http://tomcat_server;
#设置后端的Web服务器可以获取远程客户端的真实IP
##设定后端的Web服务器接收到的请求访问的主机名（域名或IP、端口），默认HOST的值为proxy_pass指令设置的主机名。如果反向代理服务器不重写该请求头的话，那么后端真实服务器在处理时会认为所有的请求都来在反向代理服务器，如果后端有防攻击策略的话，那么机器就被封掉了。
            proxy_set_header HOST $host;
##把$remote_addr赋值给X-Real-IP，来获取源IP
            proxy_set_header X-Real-IP $remote_addr;
##在nginx 作为代理服务器时，设置的IP列表，会把经过的机器ip，代理机器ip都记录下来
            proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
        }
         
        #配置Nginx处理静态图片请求
        location ~ .*\.(gif|jpg|jpeg|png|bmp|swf|css)$ {
            root /usr/local/nginx/html/img;
            expires 10d;
        }
         
        location / {
            root html;
            index index.html index.htm;
        }
......
    }
......
}

4.5测试效果

测试静态页面效果
浏览器访问 http://192.168.10.30/
浏览器访问 http://192.168.10.30/pic.jpg

测试负载均衡效果，不断刷新浏览器测试
浏览器访问 http://192.168.10.30/index.jsp

五、实例操作：Nginx+Tomcat负载均衡、动静分离

5.1准备好Nginx服务器（192.168.10.30）

5.2准备好tomcat服务器1（192.168.10.20:8080）

5.3准备好Tomcat服务器2（两个实例）：192.168.10.10:8080 192.168.10.10:8081——参照此篇文章参考Tomcat多实例部署 - 崧蓝 - 博客园 (cnblogs.com)

5.4动静分离Tomcat1 server 配置

（1）配置Tomcat1的动态网页显示内容

（2）添加新的host内容

（3）重启服务

5.5Tomcat2 server 配置（实例1）

（1）创建Tomcat实例1的网页测试目录test和测试网页文件

（2）Tomcat实例1主配置删除前面的 HOST 配置，添加新的HOST配置

（3）重启服务

5.6Tomcat2 server 配置（实例2）

(1)创建Tomcat实例2的网页测试目录test和测试网页文件

(2)Tomcat实例2主配置删除前面的 HOST 配置，添加新的HOST配置

(3)重启服务

5.7Nginx server 配置（192.168.10.30）

(1)准备网页显示相关内容

(2)修改主配置文件——七层转发配置

再添加一个location

(3)重启服务

5.8使用win10客户端在浏览器中进行测试，动态页面测试进行不断刷新即可

测试静态页面效果
浏览器访问 http://192.168.10.30/
浏览器访问 http://192.168.10.30/1.jpeg

测试负载均衡效果，不断刷新浏览器测试
浏览器访问 http://192.168.10.30/index.jsp

(1)测试静态页面效果

(2)测试负载均衡效果，不断刷新浏览器测试

六、Nginx四层代理配置

6.1nginx做四层代理时编译需要添加 --with-stream模块

(1)查看当前模块

(2)在已有的nginx上面添加该模块--with-stream

6.2nginx四层代理配置

(1)修改配置文件进行四层代理配置

(2)重启服务

6.3浏览器访问测试