Linux/Python学习论坛-京峰教育

 找回密码
 立即注册

一键登录:

搜索
热搜: 活动 交友 discuz
查看: 1270|回复: 0

Tomcat系列之Apache负载均衡请求至Tomcat及DeltaManager的使用

[复制链接]

238

主题

288

帖子

1925

积分

超级版主

Rank: 8Rank: 8

积分
1925
QQ
发表于 2015-3-20 10:21:13 | 显示全部楼层 |阅读模式
本帖最后由 My-shiguang 于 2015-4-7 20:35 编辑

大纲

一、前言

二、环境准备

三、负载均衡实现

四、DeltaManager实现

五、Nginx实现Tomcat负载均衡

注,操作系统 CnetOS6.4 x86_64,

一、前言

本博文中的所有内容是基于上一篇写的,不清楚的博友可以先看一下上一篇博文:http://123.57.11.203/thread-637-1-1.html。在上一篇博文中我们分别用mod_proxy和mod_jk实现了tomcat服务器的反向代理,在这一篇博文中我们要实现tomcat服务器的负载均衡和tomcat集群的会话共享。好了,下面我们就来具体的说一下吧!

二、环境准备

1.实验拓扑

2.同步各节点时间
[root@apache ~]# ntpdate 202.120.2.101
[root@tomcat1 ~]# ntpdate 202.120.2.101
[root@tomcat2 ~]# ntpdate 202.120.2.101
3.安装jdk
[root@tomcat2 src]# rpm -ivh jdk-7u40-linux-x64.rpm
4.配置jdk环境变量
[root@tomcat2 java]# vim /etc/profile.d/java.sh
export JAVA_HOME=/usr/java/jdk1.7.0_40
export PATH=$PATH:$JAVA_HOME/bin
[root@tomcat2 java]# java -version
java version "1.7.0_40"
Java(TM) SE Runtime Environment (build 1.7.0_40-b43)
Java HotSpot(TM) 64-Bit Server VM (build 24.0-b56, mixed mode)
5.安装tomcat
[root@tomcat2 src]# tar xf apache-tomcat-7.0.42.tar.gz -C /usr/local/
[root@tomcat2 src]# cd /usr/local/
[root@tomcat2 local]# ln -sv apache-tomcat-7.0.42 tomcat
"tomcat" -> "apache-tomcat-7.0.42"
[root@tomcat2 local]# cd tomcat/
[root@tomcat2 tomcat]# ls
bin conf lib LICENSE logs NOTICE RELEASE-NOTES RUNNING.txt temp webapps work
6.配置tomcat环境变量
[root@tomcat2 tomcat]# vim /etc/profile.d/tomcat.sh
export CATALINA_HOME=/usr/local/tomcat
export PATH=$PATH:$CATALINA_HOME/bin
[root@tomcat2 tomcat]# . /etc/profile.d/tomcat.sh
[root@tomcat2 tomcat]# catalina.sh version
Using CATALINA_BASE:  /usr/local/tomcat
Using CATALINA_HOME:  /usr/local/tomcat
Using CATALINA_TMPDIR: /usr/local/tomcat/temp
Using JRE_HOME:    /usr/java/jdk1.7.0_40
Using CLASSPATH:    /usr/local/tomcat/bin/bootstrap.jar:/usr/local/tomcat/bin/tomcat-juli.jar
Server version: Apache Tomcat/7.0.42
Server built:  Jul 2 2013 08:57:41
Server number: 7.0.42.0
OS Name:    Linux
OS Version:   2.6.32-358.el6.x86_64
Architecture:  amd64
JVM Version:  1.7.0_40-b43
JVM Vendor:   Oracle Corporation
7.为tomcat提供init脚本
[root@tomcat2 tomcat]# vim /etc/init.d/tomcat
#!/bin/sh
# Tomcat init script for Linux.
#
# chkconfig: 2345 96 14
# description: The Apache Tomcat servlet/JSP container.
CATALINA_HOME=/usr/local/tomcat
export CATALINA_HOME
# export CATALINA_OPTS="-Xms128m -Xmx256m"
exec $CATALINA_HOME/bin/catalina.sh $*
[root@tomcat2 tomcat]# service tomcat start
Using CATALINA_BASE:  /usr/local/tomcat
Using CATALINA_HOME:  /usr/local/tomcat
Using CATALINA_TMPDIR: /usr/local/tomcat/temp
Using JRE_HOME:    /usr
Using CLASSPATH:    /usr/local/tomcat/bin/bootstrap.jar:/usr/local/tomcat/bin/tomcat-juli.jar
[root@tomcat2 tomcat]# netstat -ntulp
Active Internet connections (only servers)
Proto Recv-Q Send-Q Local Address        Foreign Address       State    PID/Program name
tcp    0   0 0.0.0.0:22         0.0.0.0:*          LISTEN   1042/sshd   
tcp    0   0 127.0.0.1:25        0.0.0.0:*          LISTEN   1119/master   
tcp    0   0 127.0.0.1:6010       0.0.0.0:*          LISTEN   1153/sshd   
tcp    0   0 127.0.0.1:6011       0.0.0.0:*          LISTEN   1262/sshd   
tcp    0   0 :::8080           :::*            LISTEN   1541/java   
tcp    0   0 :::22            :::*            LISTEN   1042/sshd   
tcp    0   0 ::1:25           :::*            LISTEN   1119/master   
tcp    0   0 ::1:6010          :::*            LISTEN   1153/sshd   
tcp    0   0 ::1:6011          :::*            LISTEN   1262/sshd   
tcp    0   0 ::ffff:127.0.0.1:8005    :::*            LISTEN   1541/java   
tcp    0   0 :::8009           :::*            LISTEN   1541/java
8.测试一下
好了,大家可以看到访成功。说明我们的tomcat安装完成,下面我们来配置一下。
9.修改配置文件
[root@tomcat2 ~]# vim /usr/local/tomcat/conf/server.xml
#修改默认端口为80
#设置默认主机为www.test.com,并增加jvmRoute
#增加虚拟主机
10.增加文档目录与测试文件
[root@tomcat2 ~]# mkdir -pv /web/webapp
mkdir: 已创建目录 "/web"
mkdir: 已创建目录 "/web/webapp"
[root@tomcat2 ~]# cd /web/webapp/
[root@tomcat2 webapp]# vim index.jsp
<%@ page language="java" %>
<html>
<head><title>TomcatB</title></head>
<body>
  <h1><font color="blue">TomcatB </h1>
  <table align="centre" border="1">
   <tr>
    <td>Session ID</td>
  <% session.setAttribute("abc","abc"); %>
    <td><%= session.getId() %></td>
   </tr>
   <tr>
    <td>Created on</td>
    <td><%= session.getCreationTime() %></td>
   </tr>
  </table>
</body>
</html>
11.检查配置文件并重新启动
[root@tomcat2 ~]# service tomcat stop
Using CATALINA_BASE:  /usr/local/tomcat
Using CATALINA_HOME:  /usr/local/tomcat
Using CATALINA_TMPDIR: /usr/local/tomcat/temp
Using JRE_HOME:    /usr
Using CLASSPATH:    /usr/local/tomcat/bin/bootstrap.jar:/usr/local/tomcat/bin/tomcat-juli.jar
[root@tomcat2 ~]# service tomcat configtest
Using CATALINA_BASE:  /usr/local/tomcat
Using CATALINA_HOME:  /usr/local/tomcat
Using CATALINA_TMPDIR: /usr/local/tomcat/temp
Using JRE_HOME:    /usr
Using CLASSPATH:    /usr/local/tomcat/bin/bootstrap.jar:/usr/local/tomcat/bin/tomcat-juli.jar
Sep 25, 2013 2:04:12 PM org.apache.catalina.core.AprLifecycleListener init
INFO: The APR based Apache Tomcat Native library which allows optimal performance in production environments was not found on the java.library.path: /usr/java/packages/lib/amd64:/usr/lib64:/lib64:/lib:/usr/lib
Sep 25, 2013 2:04:13 PM org.apache.coyote.AbstractProtocol init
INFO: Initializing ProtocolHandler ["http-bio-80"]
Sep 25, 2013 2:04:13 PM org.apache.coyote.AbstractProtocol init
INFO: Initializing ProtocolHandler ["ajp-bio-8009"]
Sep 25, 2013 2:04:13 PM org.apache.catalina.startup.Catalina load
INFO: Initialization processed in 1360 ms
[root@tomcat2 ~]# service tomcat start
Using CATALINA_BASE:  /usr/local/tomcat
Using CATALINA_HOME:  /usr/local/tomcat
Using CATALINA_TMPDIR: /usr/local/tomcat/temp
Using JRE_HOME:    /usr
Using CLASSPATH:    /usr/local/tomcat/bin/bootstrap.jar:/usr/local/tomcat/bin/tomcat-juli.jar
[root@tomcat2 ~]# netstat -ntulp
Active Internet connections (only servers)
Proto Recv-Q Send-Q Local Address        Foreign Address       State    PID/Program name
tcp    0   0 0.0.0.0:22         0.0.0.0:*          LISTEN   1042/sshd   
tcp    0   0 127.0.0.1:25        0.0.0.0:*          LISTEN   1119/master   
tcp    0   0 127.0.0.1:6010       0.0.0.0:*          LISTEN   1153/sshd   
tcp    0   0 127.0.0.1:6011       0.0.0.0:*          LISTEN   1262/sshd   
tcp    0   0 :::80            :::*            LISTEN   1667/java   
tcp    0   0 :::22            :::*            LISTEN   1042/sshd   
tcp    0   0 ::1:25           :::*            LISTEN   1119/master   
tcp    0   0 ::1:6010          :::*            LISTEN   1153/sshd   
tcp    0   0 ::1:6011          :::*            LISTEN   1262/sshd   
tcp    0   0 ::ffff:127.0.0.1:8005    :::*            LISTEN   1667/java   
tcp    0   0 :::8009           :::*            LISTEN   1667/java
12.再次测试访问一下
好了,到这里我们准备工作就全部完成了,下面我们来配置tomcat的负载均衡。对了,还有个问题得说明一下。有博友会问了,你只配置了tomcat2,拓扑图中有三台机器还有两台你怎么不配置呢,是这样的由于我们实验是接着上一篇博客做的,另外两台机器的配置在上一篇博文中有,不清楚的博友参考一下http://123.57.11.203/thread-637-1-1.html,我这里就不重复说明了。
三、负载均衡实现
两种方式都能实现负载均衡:
基于mod_proxy模块实现负载均衡
基于mod_jk模块实现负载均衡
下面我们就来分别演示一下,
1.基于mod_proxy实现负载均衡
首先我们来修改一下httpd.conf配置文件,
[root@apache ~]# vim /etc/httpd/httpd.conf
#启用httpd-proxy.conf配置文件


下面我们来修改httpd-proxy.conf配置文件,
[root@apache ~]# vim /etc/httpd/extra/httpd-proxy.conf
ProxyRequests Off
<proxy balancer://lbcluster>
BalancerMember ajp://192.168.18.201:8009 loadfactor=1 route=TomcatA
BalancerMember ajp://192.168.18.202:8009 loadfactor=1 route=TomcatB
ProxySet lbmethod=bytraffic
</proxy>
<VirtualHost *:80>
ServerAdmin admin@test.com
ServerName www.test.com
ProxyPass / balancer://lbcluster/
ProxyPassReverse / balancer://lbcluster/ stickysession=JSESSIONID|jsessionid nofailover=On
<Proxy *>
Require all granted
</Proxy>
<Location />
Require all granted
</Location>
</VirtualHost>
注,关于如上apache指令的说明:
ProxyPreserveHost {On|Off}:如果启用此功能,代理会将用户请求报文中的Host:行发送给后端的服务器,而不再使用ProxyPass指定的服务器地址。如果想在反向代理中支持虚拟主机,则需要开启此项,否则就无需打开此功能。
ProxyVia {On|Off|Full|Block}:用于控制在http首部是否使用Via:,主要用于在多级代理中控制代理请求的流向。默认为Off,即不启用此功能;On表示每个请求和响应报文均添加Via:;Full表示每个Via:行都会添加当前apache服务器的版本号信息;Block表示每个代理请求报文中的Via:都会被移除。
ProxyRequests {On|Off}:是否开启apache正向代理的功能;启用此项时为了代理http协议必须启用mod_proxy_http模块。同时,如果为apache设置了ProxyPass,则必须将ProxyRequests设置为Off。
ProxyPass [path] !|url [key=value key=value ...]]:将后端服务器某URL与当前服务器的某虚拟路径关联起来作为提供服务的路径,path为当前服务器上的某虚拟路径,url为后端服务器上某URL路径。使用此指令时必须将ProxyRequests的值设置为Off。需要注意的是,如果path以“/”结尾,则对应的url也必须以“/”结尾,反之亦然。
另外,mod_proxy模块在httpd 2.1的版本之后支持与后端服务器的连接池功能,连接在按需创建在可以保存至连接池中以备进一步使用。连接池大小或其它设定可以通过在ProxyPass中使用key=value的方式定义。常用的key如下所示:
min:连接池的最小容量,此值与实际连接个数无关,仅表示连接池最小要初始化的空间大小。
max:连接池的最大容量,每个MPM都有自己独立的容量;都值与MPM本身有关,如Prefork的总是为1,而其它的则取决于ThreadsPerChild指令的值。
loadfactor:用于负载均衡集群配置中,定义对应后端服务器的权重,取值范围为1-100。
retry:当apache将请求发送至后端服务器得到错误响应时等待多长时间以后再重试。单位是秒钟。
如果Proxy指定是以balancer://开头,即用于负载均衡集群时,其还可以接受一些特殊的参数,如下所示:
lbmethod:apache实现负载均衡的调度方法,默认是byrequests,即基于权重将统计请求个数进行调度,bytraffic则执行基于权重的流量计数调度,bybusyness通过考量每个后端服务器的当前负载进行调度。
maxattempts:放弃请求之前实现故障转移的次数,默认为1,其最大值不应该大于总的节点数。
nofailover:取值为On或Off,设置为On时表示后端服务器故障时,用户的session将损坏;因此,在后端服务器不支持session复制时可将其设置为On。
stickysession:调度器的sticky session的名字,根据web程序语言的不同,其值为JSESSIONID或PHPSESSIONID。
上述指令除了能在banlancer://或ProxyPass中设定之外,也可使用ProxySet指令直接进行设置,如:
<Proxy balancer://hotcluster>
BalancerMember http://www1.test.com:8080 loadfactor=1
BalancerMember http://www2.test.com:8080 loadfactor=2
ProxySet lbmethod=bytraffic
</Proxy>
ProxyPassReverse:用于让apache调整HTTP重定向响应报文中的Location、Content-Location及URI标签所对应的URL,在反向代理环境中必须使用此指令避免重定向报文绕过proxy服务器。
好了,配置文件说明就到这里。接下来我们检查一下配置文件并重启httpd ,
[root@apache ~]# /usr/local/apache/bin/httpd -t
Syntax OK
[root@apache ~]# service httpd restart
停止 httpd:                        [确定]
正在启动 httpd:                      [确定]
下面我们来测试一下,

好了,大家可以看到基于mod_proxy模块的tomcat负载均衡配置完成。下面我们来配置一下基于mod_jk的模块的负载均衡!
2.基于mod_jk模块实现负载均衡
说明:
为了避免用户直接访问后端Tomcat实例,影响负载均衡的效果,建议在Tomcat 7的各实例上禁用HTTP/1.1连接器。
为每一个Tomcat 7实例的引擎添加jvmRoute参数,并通过其为当前引擎设置全局惟一标识符。如下所示。需要注意的是,每一个实例的jvmRoute的值均不能相同。
同样的首先来修改httpd.conf配置文件,
[root@apache ~]# vim /etc/httpd/httpd.conf
#启用httpd-jk.conf

下面我们来修改一下httpd-jk.conf配置文件,
[root@apache ~]# vim /etc/httpd/extra/httpd-jk.conf
LoadModule jk_module modules/mod_jk.so #加载mod_jk模块
JkWorkersFile /etc/httpd/extra/workers.properties #配置文件位置
JkLogFile logs/mod_jk.log #日志
JkLogLevel debug #日志级别
JkMount /* lbcluster #负载均衡器名称
JkMount /jkstatus/ stat1 #状态信息
接下来,编辑/etc/httpd/extra/workers.properties,添加如下内容:
[root@apache ~]# vim /etc/httpd/extra/workers.properties
worker.list = lbcluster,stat1 #列表信息
worker.TomcatA.type = ajp13 #支持ajp协议
worker.TomcatA.host = 192.168.18.201 #TomcatA实例IP
worker.TomcatA.port = 8009 #TomcatA实例端口号
worker.TomcatA.lbfactor = 1 #负载均衡权重为1
worker.TomcatB.type = ajp13
worker.TomcatB.host = 192.168.18.202
worker.TomcatB.port = 8009
worker.TomcatB.lbfactor = 1
worker.lbcluster.type = lb #负载均衡work,lb内置的类
worker.lbcluster.sticky_session = 0 #会话是否绑定
worker.lbcluster.balance_workers = TomcatA, TomcatB #TomcatA, TomcatB 集群中的实列
worker.stat1.type = status #状态信息
注,apache相关指令说明:
workers.properties文件一般由两类指令组成:一是mod_jk可以连接的各worker名称列表,二是每一个worker的


属性配置信息。它们分别遵循如下使用语法。
worker.list = < a comma separated list of worker names >
worker. <worker name> .<property> = <property value>
其中worker.list指令可以重复指定多次,而worker name则是Tomcat中engine组件jvmRoute参数的值。如:
worker.TomcatA.host=172.16.100.1
根据其工作机制的不同,worker有多种不同的类型,这是需要为每个worker定义的一项属性woker.<work


name>.type。常见的类型如下:
◇ ajp13:此类型表示当前worker为一个运行着的Tomcat实例。
◇ lb:lb即load balancing,专用于负载均衡场景中的woker;此worker并不真正负责处理用户请求,而是将用


户请求调度给其它类型为ajp13的worker。
◇ status:用户显示分布式环境中各实际worker工作状态的特殊worker,它不处理任何请求,也不关联到任何实


际工作的worker实例。具体示例如请参见后文中的配置。
worker其它常见的属性说明:
◇ host:Tomcat 7的worker实例所在的主机;
◇ port:Tomcat 7实例上AJP1.3连接器的端口;
◇ connection_pool_minsize:最少要保存在连接池中的连接的个数;默认为pool_size/2;
◇ connection_pool_timeout:连接池中连接的超时时长;
◇ mount:由当前worker提供的context路径,如果有多个则使用空格格开;此属性可以由JkMount指令替代;
◇ retries:错误发生时的重试次数;
◇ socket_timeout:mod_jk等待worker响应的时长,默认为0,即无限等待;
◇ socket_keepalive:是否启用keep alive的功能,1表示启用,0表示禁用;
◇ lbfactor:worker的权重,可以在负载均衡的应用场景中为worker定义此属性;
另外,在负载均衡模式中,专用的属性还有:
◇balance_workers:用于负载均衡模式中的各worker的名称列表,需要注意的是,出现在此处的worker名称一定


不能在任何worker.list属性列表中定义过,并且worker.list属性中定义的worker名字必须包含负载均衡worker


。具体示例请参见后文中的定义。
◇ method:可以设定为R、T或B;默认为R,即根据请求的个数进行调度;T表示根据已经发送给worker的实际流


量大小进行调度;B表示根据实际负载情况进行调度。
◇sticky_session:在将某请求调度至某worker后,源于此址的所有后续请求都将直接调度至此worker,实现将


用户session与某worker绑定。默认为值为1,即启用此功能。如果后端的各worker之间支持session复制,则可以


将此属性值设为0。
下面我们来检查一下配置文件并重新启动一下httpd,
[root@apache ~]# vim /etc/httpd/extra/workers.properties
[root@apache ~]# /usr/local/apache/bin/httpd -t
Syntax OK
[root@apache ~]# service httpd restart
停止 httpd:                        [确定]
正在启动 httpd:                      [确定]
再下来我们来访问测试一下,



3.查看状态信息
两种状态信息:
基于mod_proxy模块状态信息
基于mod_jk模块的状态信息
(1).基于mod_proxy模块状态信息
首先修改配置文件,
[root@apache ~]# vim /etc/httpd/extra/httpd-proxy.conf
ProxyRequests Off
ProxyRequests Off
<proxy balancer://lbcluster>
    BalancerMember ajp://192.168.18.201:8009 loadfactor=1 route=TomcatA
    BalancerMember ajp://192.168.18.202:8009 loadfactor=1 route=TomcatB
    ProxySet lbmethod=byrequests
</proxy>
<VirtualHost *:80>
    ServerAdmin admin@test.com
    ServerName www.test.com
    ProxyPass / balancer://lbcluster/ stickysession=JSESSIONID|jsessionid nofailover=On
    ProxyPassReverse / balancer://lbcluster/
    <Location /balancer-manager> #增加状态信息
         SetHandler balancer-manager
         Proxypass !
         Require all granted
    </Location>
    <Proxy *>
        Require all granted
    </Proxy>
    <Location />
        Require all granted
    </Location>
检查一下配置文件并重启,
[root@apache ~]# /usr/local/apache/bin/httpd -t
Syntax OK
[root@apache ~]# service httpd restart
停止 httpd:                        [确定]
正在启动 httpd:                      [确定]
下面我们来查看一下状态信息,


好了,基于的mod_proxy模块状态信息已配置完成,下面我们演示一下基于mod_jk模块的状态信息。
(2).基于mod_jk模块的状态信息
首先修改httpd.conf配置文件,
[root@apache ~]# vim /etc/httpd/httpd.conf
#注释httpd-proxy.conf,启用httpd-jk.conf


下面重新启动一下httpd并测试一下,
[root@apache ~]# service httpd restart
停止 httpd:                        [确定]
正在启动 httpd:                      [确定]


好了,到这里我们状态信息查看就到这里了,下面我们来配置会话共享集群。
四、DeltaManager实现
1.会话管理
种类:
标准会话管理器
持久会话管理器
(1).标准会话管理器(StandardManager):
<Manager className="org.apache.catalina.session.StandardManager"
     maxInactiveInterval="7200"/>
默认保存于$CATALINA_HOME/work/Catalina/<hostname>/<webapp-name>/下的SESSIONS.ser文件中。
maxActiveSessions:最多允许的活动会话数量,默认为-1,表示不限制;
maxInactiveInterval:非活动的会话超时时长,默认为60s;
pathname:会话文件的保存目录;
(2).持久会话管理器(PersistentManager):
将会话数据保存至持久存储中,并且能在服务器意外中止后重新启动时重新加载这些会话信息。持久会话管理器支持将会话保存至文件存储(FileStore)或JDBC存储(JDBCStore)中。
保存至文件中的示例:
<Manager className="org.apache.catalina.session.PersistentManager"
saveOnRestart="true">
<Store className="org.apache.catalina.session.FileStore"
  directory="/data/tomcat-sessions"/>
</Manager>
每个用户的会话会被保存至directory指定的目录中的文件中,文件名为<session id>.session,并通过后台线程每隔一段时间(checkInterval参数定义,默认为60秒)检查一次超时会话。
保存至JDBCStore中的示例:
<Manager className="org.apache.catalina.session.PersistentManager"
saveOnRestart="true">
<Store className="org.apache.catalina.session.JDBCStore"
  driverName="com.mysql.jdbc.Driver"
  connectionURL="jdbc:mysql://localhost:3306/mydb?user=jb;password=pw"/>
</Manager>
2.Manager组件
Manger对象用于实现HTTP会话管理的功能,Tomcat中有5种Manger的实现:
(1).StandardManager
Tomcat6的默认会话管理器,用于非集群环境中对单个处于运行状态的Tomcat实例会话进行管理。当Tomcat关闭时,这些会话相关的数据会被写入磁盘上的一个名叫SESSION.ser的文件,并在Tomcat下次启动时读取此文件。
(2).PersistentManager
当一个会话长时间处于空闲状态时会被写入到swap会话对象,这对于内存资源比较吃紧的应用环境来说比较有用。
(3).DeltaManager
用于Tomcat集群的会话管理器,它通过将改变了会话数据同步给集群中的其它节点实现会话复制。这种实现会将所有会话的改变同步给集群中的每一个节点,也是在集群环境中用得最多的一种实现方式。
(4).BackupManager
用于Tomcat集群的会话管理器,与DeltaManager不同的是,某节点会话的改变只会同步给集群中的另一个而非所有节点。
(5).SimpleTcpReplicationManager
Tomcat4时用到的版本,过于老旧了。
3.DeltaManager具体实现过程
(1).修改server.xml配置文件
<Cluster className="org.apache.catalina.ha.tcp.SimpleTcpCluster" channelSendOptions="8">
<Manager className="org.apache.catalina.ha.session.DeltaManager"
expireSessionsOnShutdown="false"
notifyListenersOnReplication="true"/>
<Channel className="org.apache.catalina.tribes.group.GroupChannel">
<Membership className="org.apache.catalina.tribes.membership.McastService"
address="228.0.0.4" port="45564" frequency="500" dropTime="3000"/>
<Receiver className="org.apache.catalina.tribes.transport.nio.NioReceiver"
address="192.168.18.201" port="4000" autoBind="100" selectorTimeout="5000" maxThreads="6"/>
<Sender className="org.apache.catalina.tribes.transport.ReplicationTransmitter">
<Transport className="org.apache.catalina.tribes.transport.nio.PooledParallelSender"/>
</Sender>
<Interceptor className="org.apache.catalina.tribes.group.interceptors.TcpFailureDetector"/>
<Interceptor className="org.apache.catalina.tribes.group.interceptors.MessageDispatch15Interceptor"/>
</Channel>
<Valve className="org.apache.catalina.ha.tcp.ReplicationValve" filter="/"/>
<Valve className="org.apache.catalina.ha.session.JvmRouteBinderValve"/>
<Deployer className="org.apache.catalina.ha.deploy.FarmWarDeployer" tempDir="/tmp/war-temp/"
deployDir="/tmp/war-deploy/" watchDir="/tmp/war-listen/" watchEnabled="false"/>
<ClusterListener className="org.apache.catalina.ha.session.JvmRouteSessionIDBinderListener"/>
<ClusterListener className="org.apache.catalina.ha.session.ClusterSessionListener"/>
</Cluster>
以上内容定义在Engine容器中,则表示对所有主机均启动用集群功能。如果定义在某Host中,则表示仅对此主机启用集群功能。(注,tomcat1与tomcat2都要修改!)
tomcat1:
[root@tomcat1 src]# vim /usr/local/tomcat/conf/server.xml
#在Engine组件内增加下面这一段
<Cluster className="org.apache.catalina.ha.tcp.SimpleTcpCluster" channelSendOptions="8">
<Manager className="org.apache.catalina.ha.session.DeltaManager"
expireSessionsOnShutdown="false"
notifyListenersOnReplication="true"/>
<Channel className="org.apache.catalina.tribes.group.GroupChannel">
<Membership className="org.apache.catalina.tribes.membership.McastService"
address="228.0.0.4" port="45564" frequency="500" dropTime="3000"/>
<Receiver className="org.apache.catalina.tribes.transport.nio.NioReceiver"
address="192.168.18.201" port="4000" autoBind="100" selectorTimeout="5000" maxThreads="6"/>
<Sender className="org.apache.catalina.tribes.transport.ReplicationTransmitter">
<Transport className="org.apache.catalina.tribes.transport.nio.PooledParallelSender"/>
</Sender>
<Interceptor className="org.apache.catalina.tribes.group.interceptors.TcpFailureDetector"/>
<Interceptor className="org.apache.catalina.tribes.group.interceptors.MessageDispatch15Interceptor"/>
</Channel>
<Valve className="org.apache.catalina.ha.tcp.ReplicationValve" filter="/"/>
<Valve className="org.apache.catalina.ha.session.JvmRouteBinderValve"/>
<Deployer className="org.apache.catalina.ha.deploy.FarmWarDeployer" tempDir="/tmp/war-temp/"
deployDir="/tmp/war-deploy/" watchDir="/tmp/war-listen/" watchEnabled="false"/>
<ClusterListener className="org.apache.catalina.ha.session.JvmRouteSessionIDBinderListener"/>
<ClusterListener className="org.apache.catalina.ha.session.ClusterSessionListener"/>
</Cluster>
[root@tomcat1 src]# service tomcat stop #关闭tomcat
Using CATALINA_BASE:  /usr/local/tomcat
Using CATALINA_HOME:  /usr/local/tomcat
Using CATALINA_TMPDIR: /usr/local/tomcat/temp
Using JRE_HOME:    /usr
Using CLASSPATH:    /usr/local/tomcat/bin/bootstrap.jar:/usr/local/tomcat/bin/tomcat-juli.jar
[root@tomcat1 src]# service tomcat configtest #检查配置文件
Using CATALINA_BASE:  /usr/local/tomcat
Using CATALINA_HOME:  /usr/local/tomcat
Using CATALINA_TMPDIR: /usr/local/tomcat/temp
Using JRE_HOME:    /usr
Using CLASSPATH:    /usr/local/tomcat/bin/bootstrap.jar:/usr/local/tomcat/bin/tomcat-juli.jar
Sep 25, 2013 3:51:31 PM org.apache.catalina.core.AprLifecycleListener init
INFO: The APR based Apache Tomcat Native library which allows optimal performance in production environments was not found on the java.library.path: /usr/java/packages/lib/amd64:/usr/lib64:/lib64:/lib:/usr/lib
Sep 25, 2013 3:51:32 PM org.apache.coyote.AbstractProtocol init
INFO: Initializing ProtocolHandler ["http-bio-80"]
Sep 25, 2013 3:51:32 PM org.apache.coyote.AbstractProtocol init
INFO: Initializing ProtocolHandler ["ajp-bio-8009"]
Sep 25, 2013 3:51:32 PM org.apache.catalina.startup.Catalina load
INFO: Initialization processed in 1562 ms
tomcat2:
[root@tomcat2 src]# vim /usr/local/tomcat/conf/server.xml
#同样的在Engine组件内增加下面这一段
<Cluster className="org.apache.catalina.ha.tcp.SimpleTcpCluster" channelSendOptions="8">
<Manager className="org.apache.catalina.ha.session.DeltaManager"
expireSessionsOnShutdown="false"
notifyListenersOnReplication="true"/>
<Channel className="org.apache.catalina.tribes.group.GroupChannel">
<Membership className="org.apache.catalina.tribes.membership.McastService"
address="228.0.0.4" port="45564" frequency="500" dropTime="3000"/>
<Receiver className="org.apache.catalina.tribes.transport.nio.NioReceiver"
address="192.168.18.202" port="4000" autoBind="100" selectorTimeout="5000" maxThreads="6"/>
<Sender className="org.apache.catalina.tribes.transport.ReplicationTransmitter">
<Transport className="org.apache.catalina.tribes.transport.nio.PooledParallelSender"/>
</Sender>
<Interceptor className="org.apache.catalina.tribes.group.interceptors.TcpFailureDetector"/>
<Interceptor className="org.apache.catalina.tribes.group.interceptors.MessageDispatch15Interceptor"/>
</Channel>
<Valve className="org.apache.catalina.ha.tcp.ReplicationValve" filter="/"/>
<Valve className="org.apache.catalina.ha.session.JvmRouteBinderValve"/>
<Deployer className="org.apache.catalina.ha.deploy.FarmWarDeployer" tempDir="/tmp/war-temp/"
deployDir="/tmp/war-deploy/" watchDir="/tmp/war-listen/" watchEnabled="false"/>
<ClusterListener className="org.apache.catalina.ha.session.JvmRouteSessionIDBinderListener"/>
<ClusterListener className="org.apache.catalina.ha.session.ClusterSessionListener"/>
</Cluster>
[root@tomcat2 src]# service tomcat stop #关闭tomcat
Using CATALINA_BASE:  /usr/local/tomcat
Using CATALINA_HOME:  /usr/local/tomcat
Using CATALINA_TMPDIR: /usr/local/tomcat/temp
Using JRE_HOME:    /usr
Using CLASSPATH:    /usr/local/tomcat/bin/bootstrap.jar:/usr/local/tomcat/bin/tomcat-juli.jar
[root@tomcat2 src]# service tomcat configtest #检查配置文件
Using CATALINA_BASE:  /usr/local/tomcat
Using CATALINA_HOME:  /usr/local/tomcat
Using CATALINA_TMPDIR: /usr/local/tomcat/temp
Using JRE_HOME:    /usr
Using CLASSPATH:    /usr/local/tomcat/bin/bootstrap.jar:/usr/local/tomcat/bin/tomcat-juli.jar
Sep 25, 2013 3:51:31 PM org.apache.catalina.core.AprLifecycleListener init
INFO: The APR based Apache Tomcat Native library which allows optimal performance in production environments was not found on the java.library.path: /usr/java/packages/lib/amd64:/usr/lib64:/lib64:/lib:/usr/lib
Sep 25, 2013 3:51:32 PM org.apache.coyote.AbstractProtocol init
INFO: Initializing ProtocolHandler ["http-bio-80"]
Sep 25, 2013 3:51:32 PM org.apache.coyote.AbstractProtocol init
INFO: Initializing ProtocolHandler ["ajp-bio-8009"]
Sep 25, 2013 3:51:32 PM org.apache.catalina.startup.Catalina load
INFO: Initialization processed in 1562 ms
此外,所有启用集群功能的web应用程序,其web.xml中都须添加<distributable/>才能实现集群功能。如果某web应用程序没有自己的web.xml,也可以通过复制默认的web.xml至其WEB-INF目录中实现。
(2).修改web.xml
tomcat1:
[root@tomcat1 ~]# cd /web/webapp/
[root@tomcat1 webapp]# ls
index.jsp
[root@tomcat1 webapp]# mkdir WEB-INF
[root@tomcat1 webapp]# ls
index.jsp WEB-INF
[root@tomcat1 webapp]# cp /usr/local/tomcat/conf/web.xml WEB-INF/
[root@tomcat1 ~]# vim /usr/local/tomcat/conf/web.xml
#增加一行<distributable/>


tomcat2:
[root@tomcat2 ~]# cd /web/webapp/
[root@tomcat2 webapp]# ls
index.jsp
[root@tomcat2 webapp]# mkdir WEB-INF
[root@tomcat2 webapp]# ls
index.jsp WEB-INF
[root@tomcat2 webapp]# cp /usr/local/tomcat/conf/web.xml WEB-INF/
[root@tomcat2 ~]# vim /usr/local/tomcat/conf/web.xml
#增加一行<distributable/>


(3).启动tomcat服务器
tomcat1:
[root@tomcat1 conf]# catalina.sh start
Using CATALINA_BASE:  /usr/local/tomcat
Using CATALINA_HOME:  /usr/local/tomcat
Using CATALINA_TMPDIR: /usr/local/tomcat/temp
Using JRE_HOME:    /usr/java/jdk1.7.0_40
Using CLASSPATH:    /usr/local/tomcat/bin/bootstrap.jar:/usr/local/tomcat/bin/tomcat-juli.jar
[root@tomcat1 conf]# netstat -ntulp
Active Internet connections (only servers)
Proto Recv-Q Send-Q Local Address        Foreign Address       State    PID/Program name
tcp    0   0 0.0.0.0:22         0.0.0.0:*          LISTEN   1028/sshd   
tcp    0   0 127.0.0.1:25        0.0.0.0:*          LISTEN   1104/master   
tcp    0   0 127.0.0.1:6010       0.0.0.0:*          LISTEN   1187/sshd   
tcp    0   0 127.0.0.1:6011       0.0.0.0:*          LISTEN   4718/sshd   
tcp    0   0 127.0.0.1:6012       0.0.0.0:*          LISTEN   5385/sshd   
tcp    0   0 :::80            :::*            LISTEN   5495/java   
tcp    0   0 :::22            :::*            LISTEN   1028/sshd   
tcp    0   0 ::1:25           :::*            LISTEN   1104/master   
tcp    0   0 ::1:6010          :::*            LISTEN   1187/sshd   
tcp    0   0 ::1:6011          :::*            LISTEN   4718/sshd   
tcp    0   0 ::1:6012          :::*            LISTEN   5385/sshd   
tcp    0   0 ::ffff:192.168.18.201:4000 :::*            LISTEN   5495/java   
tcp    0   0 :::8009           :::*            LISTEN   5495/java   
udp    0   0 :::45564          :::*                  5495/java
tomcat2:
[root@tomcat2 conf]# catalina.sh start
Using CATALINA_BASE:  /usr/local/tomcat
Using CATALINA_HOME:  /usr/local/tomcat
Using CATALINA_TMPDIR: /usr/local/tomcat/temp
Using JRE_HOME:    /usr/java/jdk1.7.0_40
Using CLASSPATH:    /usr/local/tomcat/bin/bootstrap.jar:/usr/local/tomcat/bin/tomcat-juli.jar
[root@tomcat2 conf]# netstat -ntulp
Active Internet connections (only servers)
Proto Recv-Q Send-Q Local Address        Foreign Address       State    PID/Program name
tcp    0   0 0.0.0.0:22         0.0.0.0:*          LISTEN   1038/sshd   
tcp    0   0 127.0.0.1:25        0.0.0.0:*          LISTEN   1114/master   
tcp    0   0 127.0.0.1:6010       0.0.0.0:*          LISTEN   1194/sshd   
tcp    0   0 127.0.0.1:6011       0.0.0.0:*          LISTEN   2219/sshd   
tcp    0   0 :::80            :::*            LISTEN   2439/java   
tcp    0   0 :::22            :::*            LISTEN   1038/sshd   
tcp    0   0 ::1:25           :::*            LISTEN   1114/master   
tcp    0   0 ::1:6010          :::*            LISTEN   1194/sshd   
tcp    0   0 ::1:6011          :::*            LISTEN   2219/sshd   
tcp    0   0 ::ffff:192.168.18.202:4000 :::*            LISTEN   2485/java   
tcp    0   0 ::ffff:127.0.0.1:4000    :::*            LISTEN   2439/java   
tcp    0   0 :::8009           :::*            LISTEN   2439/java   
udp    0   0 :::45564          :::*                  2485/java   
udp    0   0 :::45564          :::*                  2439/java
(4).查看一下tomcat集群日志
[root@tomcat1 ~]# tail -f /usr/local/tomcat/logs/catalina.2013-09-25.log
九月 25, 2013 6:37:43 下午 org.apache.catalina.ha.session.JvmRouteBinderValve startInternal
信息: JvmRouteBinderValve started
九月 25, 2013 6:37:43 下午 org.apache.coyote.AbstractProtocol start
信息: Starting ProtocolHandler ["http-bio-80"]
九月 25, 2013 6:37:43 下午 org.apache.coyote.AbstractProtocol start
信息: Starting ProtocolHandler ["ajp-bio-8009"]
九月 25, 2013 6:37:43 下午 org.apache.catalina.startup.Catalina start
信息: Server startup in 24043 ms
九月 25, 2013 6:37:49 下午 org.apache.catalina.ha.tcp.SimpleTcpCluster memberAdded
信息: Replication member added:org.apache.catalina.tribes.membership.MemberImpl[tcp://{192, 168, 18, 202}:4000,{192, 168, 18, 202},4000, alive=1020, securePort=-1, UDP Port=-1, id={29 -117 97 -98 101 -57 71 -105 -113 -2 99 -104 -91 -108 -65 -101 }, payload={}, command={}, domain={}, ]
九月 25, 2013 6:39:12 下午 org.apache.catalina.tribes.group.interceptors.TcpFailureDetector memberDisappeared
信息: Verification complete. Member disappeared[org.apache.catalina.tribes.membership.MemberImpl[tcp://{192, 168, 18, 202}:4000,{192, 168, 18, 202},4000, alive=84377, securePort=-1, UDP Port=-1, id={29 -117 97 -98 101 -57 71 -105 -113 -2 99 -104 -91 -108 -65 -101 }, payload={}, command={66 65 66 89 45 65 76 69 88 ...(9)}, domain={}, ]]
九月 25, 2013 6:39:12 下午 org.apache.catalina.ha.tcp.SimpleTcpCluster memberDisappeared
信息: Received member disappeared:org.apache.catalina.tribes.membership.MemberImpl[tcp://{192, 168, 18, 202}:4000,{192, 168, 18, 202},4000, alive=84377, securePort=-1, UDP Port=-1, id={29 -117 97 -98 101 -57 71 -105 -113 -2 99 -104 -91 -108 -65 -101 }, payload={}, command={66 65 66 89 45 65 76 69 88 ...(9)}, domain={}, ]
(5).下面开始测试


大家可以从图中看到,不管你怎么刷新SessionID都不会变,说明我们的Tomcat的DeltaManager集群配置完成,实现了多台主机之间会话共享。最后我们来实现一下,Nginx负载均衡Tomcat。
五、Nginx实现Tomcat负载均衡
1.实验拓扑

2.安装yum源
[root@nginx ~]# rpm -ivh http://download.fedoraproject.or ... ease-6-8.noarch.rpm
3.停止httpd并修改主机名
[root@nginx ~]# service httpd stop
停止 httpd:                        [确定]
[root@nginx ~]# uname -n
nginx.test.com
4.yum安装nginx
1
[root@nginx ~]# yum install -y nginx
5.配置nginx负载均衡
[root@nginx conf.d]# vim /etc/nginx/conf.d/default.conf
#
# The default server
#
upstream tomcat {
  server 192.168.18.201;
  server 192.168.18.202;
}
server {
  listen    80 default_server;
  server_name _;
  #charset koi8-r;
  #access_log logs/host.access.log main;
  location / {
    #root  /usr/share/nginx/html;
    #index index.html index.htm;
    proxy_pass http://tomcat;
  }
  error_page 404       /404.html;
  location = /404.html {
    root  /usr/share/nginx/html;
  }
  # redirect server error pages to the static page /50x.html
  #
  error_page  500 502 503 504 /50x.html;
  location = /50x.html {
    root  /usr/share/nginx/html;
  }
  # proxy the PHP scripts to Apache listening on 127.0.0.1:80
  #
  #location ~ \.php$ {
  #  proxy_pass  http://127.0.0.1;
  #}
  # pass the PHP scripts to FastCGI server listening on 127.0.0.1:9000
  #
  #location ~ \.php$ {
  #  root      html;
  #  fastcgi_pass  127.0.0.1:9000;
  #  fastcgi_index index.php;
  #  fastcgi_param SCRIPT_FILENAME /scripts$fastcgi_script_name;
  #  include    fastcgi_params;
  #}
  # deny access to .htaccess files, if Apache's document root
  # concurs with nginx's one
  #
  #location ~ /\.ht {
  #  deny all;
  #}
}
6.检查配置文件并启动服务器
[root@nginx conf.d]# nginx -t
nginx: the configuration file /etc/nginx/nginx.conf syntax is ok
nginx: configuration file /etc/nginx/nginx.conf test is successful
[root@nginx conf.d]# service nginx start
正在启动 nginx:                      [确定]
[root@nginx conf.d]# netstat -ntulp
Active Internet connections (only servers)
Proto Recv-Q Send-Q Local Address        Foreign Address       State    PID/Program name
tcp    0   0 0.0.0.0:111         0.0.0.0:*          LISTEN   1062/rpcbind  
tcp    0   0 0.0.0.0:80         0.0.0.0:*          LISTEN   1517/nginx   
tcp    0   0 0.0.0.0:22         0.0.0.0:*          LISTEN   1219/sshd   
tcp    0   0 127.0.0.1:25        0.0.0.0:*          LISTEN   1295/master   
tcp    0   0 0.0.0.0:35929        0.0.0.0:*          LISTEN   1080/rpc.statd
tcp    0   0 :::111           :::*            LISTEN   1062/rpcbind  
tcp    0   0 :::34613          :::*            LISTEN   1080/rpc.statd
tcp    0   0 :::22            :::*            LISTEN   1219/sshd   
tcp    0   0 ::1:25           :::*            LISTEN   1295/master   
udp    0   0 0.0.0.0:111         0.0.0.0:*                1062/rpcbind  
udp    0   0 0.0.0.0:60672        0.0.0.0:*                1080/rpc.statd
udp    0   0 0.0.0.0:813         0.0.0.0:*                1062/rpcbind  
udp    0   0 0.0.0.0:832         0.0.0.0:*                1080/rpc.statd
udp    0   0 :::111           :::*                  1062/rpcbind  
udp    0   0 :::813           :::*                  1062/rpcbind  
udp    0   0 :::47798          :::*                  1080/rpc.statd
7.进行测试


好了,到这里Nginx实现tomcat的负载均衡与会话共享配置完成。最后,希望大家有所收获吧,^_^……

回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

QQ|小黑屋|京峰教育,只为有梦想的人 ( 京ICP备15013173号 )

GMT+8, 2019-6-16 09:11 , Processed in 0.056680 second(s), 12 queries , Apc On.

快速回复 返回顶部 返回列表