Linux下通过apache实现tomcat集群

浏览数：43 / 时间：2015年06月09日

对于WEB应用集群的技术实现而言，最大的难点就是如何能在集群中的多个节点之间保持数据的一致性，会话（Session）信息是这些数据中最重要的一块。要实现这一点，大体上有两种方式，一种是把所有Session数据放到一台服务器上或者数据库中，集群中的所有节点通过访问这台Session服务器来获取数据；另一种就是在集群中的所有节点间进行Session数据的同步拷贝，任何一个节点均保存了所有的Session数据。两种方式都各有优点，第一种方式简单、易于实现，但是存在着Session服务器发生故障会导致全系统不能正常工作的风险；第二种方式可靠性更高，任一节点的故障不会对整个系统对客户访问的响应产生影响，但是技术实现上更复杂一些。常见的平台或中间件如microsoft asp.net和IBM WAS都会提供对两种共享方式的支持，tomcat也是这样，但是一般采用第二种方式。

-- --参考原文：Tomcat集群Cluster实现原理剖析:http://zyycaesar.iteye.com/blog/296606

一、软件准备：

1、apache2.4.10 安装方法及下载地址见我的另一篇博客：http://pynliu.blog.51cto.com/5027391/1576140

2、apache-tomcat-8.0.14.tar.gz 下载地址：http://tomcat.apache.org/download-80.cgi

3、tomcat-connectors-1.2.40-src.tar.gz 下载地址：http://tomcat.apache.org/download-connectors.cgi

二、安装tomcat-connectors

apache安装方式可以查看我以往的博客.

[root@lw-01 opt]# tar zxvf tomcat-connectors-1.2.40-src.tar.gz
进入tomcat-connectors的native目录：
[root@lw-01 opt]# cd tomcat-connectors-1.2.40-src/native/
    
进行编译参数设置：
[root@lw-01 native]# ./buildconf.sh 
[root@lw-01 native]# ./configure --with-apxs=/usr/local/apache2/bin/apxs\ --with-java-home=$JAVA_HOME --with-java-platform=2\ --enable-jni
[root@lw-01 native]# make && make install

如果成功结束，你可以在/usr/local/apache/modules/下找到mod_jk.so文件。

三、安装配置tomcat

两次解压apache-tomcat-8.0.14.tar.gz并重命名apache-tomcat-8.0.14-1和apache-tomcat-8.0.14-2

（说明：我是在一台服务器上搭建两个tomcat，后面还需要修改端口；如果你是在不同的服务器上安装tomcat，就不需要这么麻烦。)

备注：一台服务器部署多个tomcat方法可参考：http://www.linuxidc.com/Linux/2012-02/55413.htm

[root@lw-02 opt]# ls
apache-tomcat-8.0.14-1       apache-tomcat-8.0.14-2

tomcat集群配置：

思路：修改tomcat1和tomcat2的端口不相同并取消集群配置文件的注释，端口只需修改tomcat2，tomcat1默认即可。配置文件在../conf/server.xml中。

3.1 修改端口

三个端口，分别是：Server port，HTTP1.1(连接时使用)，AJP13（集群使用）

[root@lw-02 conf]# pwd
/opt/apache-tomcat-8.0.14-2/conf
[root@lw-02 conf]# cat server.xml | grep port | grep -v "\!"
<Server port="8007" shutdown="SHUTDOWN">                //默认是8006改为8007
 <Connector port="8081" protocol="HTTP/1.1"            //默认是8080改为8081
 <Connector port="8010" protocol="AJP/1.3" redirectPort="8443" />   //默认是8009改为8010

3.2 开启tomcat集群支持

如下图所示，详细介绍：

1、取消注释“ <Engine name="Catalina" defaultHost="localhost" jvmRoute="tomcat1">”，并修改jvmRoute="tomcat1"，后面配置httpd时要用到

2、注释掉“<Engine name="Catalina" defaultHost="localhost">”

3、取消注释<Cluster className="org.apache.catalina.ha.tcp.SimpleTcpCluster"/>

注：在tomcat官方关于tomcat集群配置的文档：http://tomcat.apache.org/tomcat-6.0-doc/cluster-howto.html 中，有一份默认配置，这份默认配置可以满足大多数应用场景，因此，我们只需要将这份配置复制到<Engine/>中。本文是按照上图所述配置，下面未测试。

<Cluster className="org.apache.catalina.ha.tcp.SimpleTcpCluster"  
         channelSendOptions="8">  
  <Manager className="org.apache.catalina.ha.session.DeltaManager"  
           expireSessionsOnShutdown="false"  
           notifyListenersOnReplication="true"/>  
  
  <Channel className="org.apache.catalina.tribes.group.GroupChannel">  
  <Membership className="org.apache.catalina.tribes.membership.McastService"  
              address="228.0.0.4"  
              port="45564"  
              frequency="500"  
              dropTime="3000"/>  
  <Receiver className="org.apache.catalina.tribes.transport.nio.NioReceiver"  
              address="auto"  
              port="4000"  
              autoBind="100"  
              selectorTimeout="5000"  
              maxThreads="6"/>  
  
    <Sender className="org.apache.catalina.tribes.transport.ReplicationTransmitter">  
    <Transport className="org.apache.catalina.tribes.transport.nio.PooledParallelSender"/>  
    </Sender>  
    <Interceptor className="org.apache.catalina.tribes.group.interceptors.TcpFailureDetector"/>  
    <Interceptor className="org.apache.catalina.tribes.group.interceptors.MessageDispatch15Interceptor"/>  
    </Channel>  
  
    <Valve className="org.apache.catalina.ha.tcp.ReplicationValve"  
         filter=""/>  
    <Valve className="org.apache.catalina.ha.session.JvmRouteBinderValve"/>  
  
  <Deployer className="org.apache.catalina.ha.deploy.FarmWarDeployer"  
            tempDir="/tmp/war-temp/"  
            deployDir="/tmp/war-deploy/"  
            watchDir="/tmp/war-listen/"  
            watchEnabled="false"/>  
  
  <ClusterListener className="org.apache.catalina.ha.session.JvmRouteSessionIDBinderListener"/>  
  <ClusterListener className="org.apache.catalina.ha.session.ClusterSessionListener"/>  
</Cluster>

tomcat的配置就全部完成了。

四、配置Apache

打开apache安装目录下的conf/httpd.conf文件，在文件最后追加以下内容：

# Load mod_jk module  
LoadModule jk_module modules/mod_jk.so  
# Specify jk log file.  
JkLogFile /var/log/mod_jk.log  
# Specify jk log level [debug/error/info]  
JkLogLevel info  
# Specify workers.properties, this file tell jk:  
# how many nodes and where they are.  
JkWorkersFile conf/workers.properties  
# Specify which requests should handled by which node.  
JkMount /* controller

关于mod_jk配置项的详细内容，可参考：http://tomcat.apache.org/connectors-doc/webserver_howto/apache.html
上述配置中：JkWorkersFile conf/workers.properties 指明由一个workers.properties文件来描述集群结点的情况，因此，我们需要创建这个workers.properties文件，并放置于conf文件夹下，这个文件的内容如下：

[root@lw-01 conf]# pwd
/usr/local/appache/conf
[root@lw-01 conf]# cat workers.properties 
#所有节点列表，其中controller是一个逻辑结点，负责负载均衡控制，  
#如果JkMount中的URL指定给了controller就表示这个请求会被自动散列到某个物理节点上。  
#注意：真正负责处理请求的tomcat的名称（这里就是tomcat1,tomcat2)必须于它们在conf/server.xml文件中配置的jvmRoute的属性值是一致的！  

worker.list = controller 
   
#========tomcat1========  
worker.tomcat1.port=8009           #ajp13 端口号，在tomcat下server.xml配置,默认8009  
worker.tomcat1.host=192.168.1.111  #tomcat的主机地址，如不为本机，请填写ip地  
worker.tomcat1.type=ajp13  
worker.tomcat1.lbfactor = 1        #server的加权比重，值越高，分得的请求越多  

#========tomcat2========  
worker.tomcat2.port=8010           #ajp13 端口号，在tomcat下server.xml配置,默认8009  
worker.tomcat2.host=192.168.1.111  #tomcat的主机地址，如不为本机，请填写ip地址worker.tomcat2.type=ajp13  
worker.tomcat2.lbfactor = 1        #server的加权比重，值越高，分得的请求越多  
  
#========controller,负载均衡控制器========  
worker.controller.type=lb  
worker.controller.balance_workers=tomcat1,tomcat2   #指定分担请求的tomcat，旧版本中的balanced_workers,已不再推荐使用！  
worker.controller.sticky_session=1         #sticky_session为1表示当某一 client的session创建之后，后续由该客户端发起的请求，也就是这个session的所有请求都始终由第一次处理该请求的结点负责处理（除非该结点挂掉）

到此，所有配置均已完成，启动两个tomcat和apache后，将某一应用同时部署到两个tomcat中，通过apache访问这个应用，观察tomcat后台打出的日志会发现，请求被随机分配给了两个tomcat交替执行。

注：网上搜到的测试集群用的应用，test为测试应用目录，放到../webapps目录下，新建index.jsp文件，WEB-INF目录，WEB-INF目录下的web.xml，内容如下：

[root@lw-02 test]# pwd
/opt/apache-tomcat-8.0.14-2/webapps/test

[root@lw-02 test]# tree
.
├── index.jsp
└── WEB-INF
    └── web.xml
1 directory, 2 files

[root@lw-02 test]# cat index.jsp 
<%@ page contentType="text/html; charset=UTF-8" %>
<%@ page import="java.util.*" %>
<html><head><title>Cluster App Test</title></head>
<body>
<%     
   System.out.println("SessionID:"  + session.getId());    
%>
Server Info:
<%
out.println(request.getLocalAddr() + " : " + request.getLocalPort()+"<br>");%>
<%
        out.println("<br> ID " + session.getId()+"<br>");   // 如果有新的 Session 属性设置
        String dataName = request.getParameter("dataName");
        if (dataName != null && dataName.length() > 0) {
            String dataValue = request.getParameter("dataValue");
            session.setAttribute(dataName, dataValue);
        }
        out.println("<b>Session 列表</b><br>");
        System.out.println("============================");
        Enumeration e = session.getAttributeNames();
        while (e.hasMoreElements()) {
             String name = (String)e.nextElement();
             String value = session.getAttribute(name).toString();
             out.println( name + " = " + value+"<br>");
                System.out.println( name + " = " + value);
        }
%>
        <form action="index.jsp" method="POST">
           名称:<input type=text size=20 name="dataName">
                <br>
                数值:<input type=text size=20 name="dataValue">
                <br>
        <input type=submit>
        </form>
</body>

[root@lw-02 test]# cat WEB-INF/web.xml 
<web-app xmlns="http://java.sun.com/xml/ns/j2ee"
    xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
    xsi:schemaLocation="http://java.sun.com/xml/ns/j2ee [url]http://java.sun.com/xml/ns/j2ee/web-app_2_4.xsd[/url]"
    version="2.4">
     <display-name>TomcatDemo</display-name>
     <distributable/>
</web-app>

测试：浏览器打开Apache的web地址：http://192.168.1.110:8088/test/index.jsp（本文Apache服务器地址192.168.1.110端口8088，tomcat地址是192.168.1.111）