第2章 负载均衡

(黎明你好原创作品，转载请注明)

2.1 Tomcat链接方式

        首先我们先介绍一下为什么要让http server与Tomcat之间进行连接。事实上Tomcat本身已经提供了HTTP服务，该服务默认的端口是8080，装好tomcat后通过8080端口可以直接使用Tomcat所运行的应用程序，你也可以将该端口改为80。既然Tomcat本身已经可以提供这样的服务，我们为什么还要引入Apache或者其他的一些专门的HTTP服务器呢？原因有下面几个：

        1. 提升对静态文件的处理性能。

        2. 利用Web服务器来做负载均衡以及容错。

        3. 无缝的升级应用程序。

        这三点对一个web网站来说是非常之重要的，我们希望我们的网站不仅是速度快，而且要稳定，不能因为某个Tomcat宕机或者是升级程序导致用户访问不了，而能完成这几个功能的、最好的HTTP服务器也就只有apache的http server了，它跟tomcat的结合是最紧密和可靠的。

        默认情况下，Tomcat在server.xml中配置了两种连接器：

        第一个连接器监听8080端口，负责建立HTTP连接。在通过浏览器访问Tomcat服务器的Web应用时，使用的就是这个连接器。

        第二个连接器监听8009端口，负责和其他的HTTP服务器建立连接。在把Tomcat与其他HTTP服务器集成时，就需要用到这个连接器。

        两种端口可以同时开，也可以开一个。例如我们使用apache通过ajp进行负载均衡配置时，可以关掉tomcat的http8080端口以防止可以被单独访问。

        Web客户访问Tomcat服务器上JSP组件的两种方式如图：

        使用http方式，配置文件

Java代码  

1. <Connector executor="tomcatThreadPool" port="8080" protocol="HTTP/1.1" connectionTimeout="20000" redirectPort="8443" />  
2. <Engine name="Catalina" defaultHost="localhost" jvmRoute="tomcat1">  

        使用ajp方式，配置文件

Java代码  

1. <Connector port="8009" protocol="AJP/1.3" redirectPort="8443" />  
2. <Engine name="Catalina" defaultHost="localhost" jvmRoute="tomcat1">  

2.2 mod_proxy

        mod_proxy_balancer是apache httpd自带的负载平衡支持。其优点可以根据实际的运行时机器的环境来决定负载均衡的策略。实现Session在node上进行共享传递。

2.2.1 加载so库

Java代码  

1. #mod_proxy_blancer  
2. LoadModule proxy_module modules/mod_proxy.so  
3. LoadModule proxy_ajp_module modules/mod_proxy_ajp.so    
4. LoadModule proxy_ftp_module modules/mod_proxy_ftp.so   
5. LoadModule proxy_http_module modules/mod_proxy_http.so   
6. LoadModule proxy_connect_module modules/mod_proxy_connect.so  
7. LoadModule proxy_balancer_module modules/mod_proxy_balancer.so  

2.2.2 http方式

Java代码  

1. <Proxy balancer://mycluster>  
2.     BalancerMember http://127.0.0.1:8080 loadfactor=3  
3.     BalancerMember http://127.0.0.1:7080 loadfactor=3  
4.     ProxySet lbmethod=byrequests  
5. </Proxy>  
6. ProxyRequests Off  
7. ProxyPass /test balancer://mycluster/ stickysession=JSESSIONID nofailover=Off  
8. ProxyPassReverse /test balancer://mycluster/    

        实现负载均衡的原理为：假设Apache接收到http://127.0.0.1 /test请求,由于该请求满足ProxyPass条件(其URL前缀为“/"),该请求会 被分发到后台某一个BalancerMember。譬如该请求可能会转发到http://127.0.0.1:8080/进行处理。当第二个满足条件的URL请求过来时,该请求可能会被分发到另外一台BalancerMember,譬如,可能会转发到 http://127.0.0.1:7080/如此循环反复,便实现了负载均衡的机制。

        loadfactor表示：后台服务器负载到由Apache发送请求的权值，该值默认为1，可以将该值设置为1到100之间的任何值。以上面的配置为例，进行4此请求时，则有3次连续的这样请求被负载到BalancerMember为http://127.0.0.1:8080/的服务器；有1次被负载到BalancerMember为http://127.0.0.1:7080/的服务器。

        lbmethod表示：负载载均衡策略。 

        lbmethod=byrequests 按照请求次数均衡(默认) 

        lbmethod=bytraffic 按照流量均衡 

        lbmethod=bybusyness 按照繁忙程度均衡(总是分配给活跃请求数最少的服务器)

        ProxyPass表示：所有的test请求都会重定向到balancer://mycluster/处理。balancer是内置负载。

        ProxyPassReverse表示：反向代理，也就是将所有的请求反向代理到负载均衡后的应用url路径中。

        stickysession表示：进行Session复制使用。

2.2.3 AJP方式

        tomcat提供了ajp协议和httpd通信。当不想tomcat的8080端口开放时，可以使用此方式，配置文件：

Java代码  

1. <Proxy balancer://mycluster>  
2.     BalancerMember ajp://127.0.0.1:8009 loadfactor=2 route=tomcat1  
3.     BalancerMember ajp://127.0.0.1:7009 loadfactor=2 route=tomcat2  
4.     ProxySet lbmethod=byrequests  
5. </Proxy>  
6. ProxyRequests Off  
7. ProxyPass /test balancer://mycluster/ stickysession=JSESSIONID nofailover=Off  
8. ProxyPassReverse /test balancer://mycluster/    

2.2.4 热备份

        热备份的实现很简单，只需添加 status=+H 属性，就可以把某台服务器指定为备份服务器：

        此时请求总是流向 8080这个url ，一旦8080挂掉， Apache会检测到错误并把请求分流给7080。Apache会每隔几分钟检测一下8080的状况，如果8080恢复，就继续使用8080。

Java代码  

1. <Proxy balancer://mycluster>  
2.     BalancerMember http://127.0.0.1:8080  
3.     BalancerMember http://127.0.0.1:7080 status=+H   
4.     ProxySet lbmethod=byrequests  
5. </Proxy>  
6. ProxyRequests Off  
7. ProxyPass /test balancer://mycluster/ stickysession=JSESSIONID nofailover=Off  
8. ProxyPassReverse /test balancer://mycluster/    

2.2.5 虚拟主机

        配置文件

Java代码  

1. <VirtualHost *:80>    
2.     ServerAdmin limingnihao@iteye.com  
3.     ServerName localhost    
4.     ServerAlias localhost    
5.     <Proxy balancer://mycluster>  
6.         BalancerMember ajp://127.0.0.1:8009 loadfactor=1 route=tomcat1  
7.         BalancerMember ajp://127.0.0.1:7009 loadfactor=1 route=tomcat2  
8.         ProxySet lbmethod=bytraffic  
9.     </Proxy>  
10.     ProxyRequests Off  
11.     ProxyPass /test balancer://mycluster/ stickysession=JSESSIONID nofailover=Off    
12.     ProxyPassReverse /test balancer://mycluster/    
13.     ErrorLog "logs/error.log"    
14.     CustomLog "logs/access.log" common    
15. </VirtualHost>  

2.2.6 监控功能

        可添加以下配置，可以查看监控页面。通过访问：http://127.0.0.1/balancer-manager。

配置文件

Java代码  

1. <Location /balancer-manager>     
2.     SetHandler balancer-manager   
3.     Order Allow,Deny  
4.     Allow from all   
5. </Location>  

2.3 mod_jk

        Tomcat提供了专门的JK插件来负责Tomcat和HTTP服务器的通信。应该把JK插件安置在对方的HTTP服务器上。当HTTP服务器接收到客户请求时，它会通过JK插件来过滤URL，JK插件根据预先配置好的URL映射信息，决定是否要把客户请求转发给Tomcat服务器处理。例如预先配置好所有"/*.jsp"形式的URL都由Tomcat服务器来处理

        Tomcat提供了不同的JK插件的实现模块。常用的JK插件有：

        与Apache HTTPD服务器集成：mod_jk.so

        与Windows IIS服务器集成：isapi_redirect.dll

2.3.1 Workers.properties

        Workers实际上属于Tomcat的链接器（Connector），代表了一个Tomcat实例，这个实例代表了由某种web服务器来执行 servelet程序。举例来说,我们可以使用某个服务器，例如apache 来把servelet请求转递Tomcat进程（worker）来进行后台处理。

        这样我们就可以通过配置多个 Worker，让不同的请求能够被不同的Worker处理，这些Worker可以提供不同的开发环境，使得所有开发者可以共享一个服务器而每个人都拥有自己的Worker。

        想要提供负载平衡，只要在同一台机器上运行多个Tomcat Worker并且能够在这些Worker之间分布Web请求。

        Tomcat Workers都定义在一个叫做workers.properties属性文件之中，并且workers的说明告诉应该如何使用它们。

2.3.1.1 全局配置项

2.3.1.2 链接指令

可配置一个通用的，然后每个work进行继承。

2.3.1.3 负载均衡设置

2.3.1.4 实例

Java代码  

1. # Define two status worker:  
2. # - jk-status for read-only use  
3. # - jk-manager for read/write use  
4. worker.list=jk-status  
5. worker.jk-status.type=status  
6. worker.jk-status.read_only=true  
7.   
8. worker.list=jk-manager  
9. worker.jk-manager.type=status  
10.   
11. # We define a load balancer worker  
12. # with name "balancer"  
13. worker.list=balancer  
14. worker.balancer.type=lb  
15. worker.balancer.error_escalation_time=0  
16. worker.balancer.max_reply_timeouts=10  
17. worker.balancer.sticky_session=true  
18. worker.balancer.sticky_session_force=true    
19.   
20. # Now we add members to the load balancer First member is "tomcat1", most attributes are inherited from the template "worker.template".  
21. worker.balancer.balance_workers=tomcat1  
22. worker.tomcat1.reference=worker.template  
23. worker.tomcat1.host=127.0.0.1  
24. worker.tomcat1.port=8009  
25. worker.tomcat1.activation=A  
26.   
27. # Second member is "tomcat2", most attributes are inherited from the template "worker.template".  
28. worker.balancer.balance_workers=tomcat2  
29. worker.tomcat2.reference=worker.template  
30. worker.tomcat2.host=127.0.0.1  
31. worker.tomcat2.port=7009  
32. worker.tomcat2.activation=A  
33.   
34. # Finally we put the parameters  
35. worker.template.type=ajp13  
36. worker.template.socket_connect_timeout=5000  
37. worker.template.socket_keepalive=true  
38. worker.template.ping_mode=A  
39. worker.template.ping_timeout=10000  
40. worker.template.connection_pool_minsize=0  
41. worker.template.connection_pool_timeout=600  
42. worker.template.reply_timeout=300000  
43. worker.template.recovery_options=3  

2.3.2 uriworkermap.properties

Java代码  

1. /*.do=balancer  
2. /*.jsp=balancer  
3.   
4. #/*.gif=balancer  
5. #/*.jpg=balancer  
6. #/*.png=balancer  
7. #/*.css=balancer  
8. #/*.js=balancer  
9. #/*.htm=balancer  
10. #/*.html=balancer  
11. #/*.txt=balancer  
12.   
13.   
14. # Optionally filter out all .jpeg files inside that context  
15. # For no mapping the url has to start with exclamation (!)  
16.   
17. !/servlets-examples/*.jpeg=lb  
18.   
19. #  
20. # Mount jkstatus to /jkmanager  
21. # For production servers you will need to  
22. # secure the access to the /jkmanager url  
23. #  
24. /jk-manager=jk-manager  
25. /jk-status=jk-status  

2.3.3 httpd.conf

        需要在中添加httpd的配置文件中加载jk的配置文件。

Java代码  

1. # 加载jk配置文件  
2. #Include conf/mod_jk.conf  

2.3.4 mod_jk.conf

Java代码  

1. # a versioned file name.  
2. LoadModule jk_module modules/mod_jk_2.2_32.so  
3. <IfModule jk_module>  
4.     JkWorkersFile conf/workers.properties  
5.     JkLogFile logs/mod_jk.log  
6.     JkLogLevel info  
7.     JkShmFile logs/mod_jk.shm  
8.     # JkOptions +RejectUnsafeURI  
9.     # JkStripSession On  
10.     JkWatchdogInterval 60  
11.     <Location /jk-status>  
12.         # Inside Location we can omit the URL in JkMount  
13.         JkMount jk-status  
14.         Order deny,allow  
15.         Deny from all  
16.         Allow from 127.0.0.1  
17.     </Location>  
18.     <Location /jk-manager>  
19.         # Inside Location we can omit the URL in JkMount  
20.         JkMount jk-manager  
21.         Order deny,allow  
22.         Deny from all  
23.         Allow from 127.0.0.1  
24.     </Location>  
25.     JkMountFile conf/uriworkermap.properties  
26. JkMount /* balancer  
27.     # JkUnMount /myapp/static/* *  
28.     # JkUnMount /myapp/images/* balancer  
29.     # SetEnvIf REQUEST_URI "\.(htm|html|css|gif|jpg|js)$" no-jk  
30.     # SetEnvIf Request_URI "/transactions/" JK_REPLY_TIMEOUT=600000  
31.     # SetEnvIf Request_URI "/reports/" JK_REPLY_TIMEOUT=0  
32. </IfModule>  

2.3.5 编译Linux版本JK

        在linux自行编译jk时，需要以下步骤：

        1.解压tomcat-connectors-1.2.37-src.tar.gz

        2.指定httpd的apxs文件。他会自动将mod_jk.do生成到httpd的modules下。

Java代码  

1. ./configure --with-apxs=/opt/apache/httpd/bin/apxs  

2.4 Session同步方式

2.4.1 sticky模式

        前端balancer可实现sticky模式的session同步功能。利用负载均衡器的sticky模式的方式把所有同一session的请求都发送到相同的Tomcat节点。这样不同用户的请求就被平均分配到集群中各个tomcat节点上，实现负载均衡的能力。这样做的缺点是没有灾难恢复的能力。一旦一个节点发生故障，这个节点上所有的session信息全部丢失；同一用户同一session只和一个webServer交互，一旦这个webserver发生故障，本次session将丢失，用户不能继续使用。

2.4.2 复制模式

        利用Tomcat session复制的机制使得所有session在所有Tomcat节点中保持一致。当一个节点修改一个session数据的时候，该节点会把这个 session的所有内容序列化，然后广播给所有其它节点。这样当下一个用户请求被负载均衡器分配到另外一个节点的时候，那个节点上有完备的 session信息可以用来服务该请求。这种做法的问题是对session哪怕有一点点修改，也要把整个sessions数据全部序列化 （serialize），还要广播给集群中所有节点，不管该节点到底需不需要这个session。这样很容易会造成大量的网络通信，导致网络阻塞。一般采 用这种方式，当Tomcat节点超过4个时候，整个集群的吞吐量就不能再上升了；

        此方式是通过tomcat本身提供的功能，只需要修改server.xml文件

        （1）修改Engine节点信息： <Engine name="Catalina" defaultHost="localhost" jvmRoute="tomcat1">

        （2）去掉<Cluster className="org.apache.catalina.ha.tcp.SimpleTcpCluster"/> 的注释符

        （3）web.xml中增加 <distributable/>

2.5 Linux部署常见问题

        1.Failed to lookup provider ‘shm‘ for ‘slotmem‘: is mod_slotmem_shm loaded??

        加载mod_slotmem_shm.so就可以了。

        2.BalancerMember Can‘t find ‘byrequests‘ lb method

        三种模式，需要加载三个so：

        mod_lbmethod_bybusyness.so

        mod_lbmethod_byrequests.so

        mod_lbmethod_bytraffic.so