1、一、用戶需求本案例公司中現(xiàn)有數(shù)量較多的服務(wù)器群：WEB網(wǎng)站服務(wù)器4臺郵件服務(wù)器2臺虛擬主機(jī)服務(wù)器10臺應(yīng)用服務(wù)器2臺數(shù)據(jù)庫2臺（雙機(jī)+盤陣）希望通過服務(wù)器負(fù)載均衡設(shè)備實(shí)現(xiàn)各服務(wù)器群的流量動態(tài)負(fù)載均衡，并互為冗余備份。并要求新系統(tǒng)應(yīng)有一定的擴(kuò)展性，如數(shù)據(jù)訪問量繼續(xù)增大，可再添加新的服務(wù)器加入負(fù)載均衡系統(tǒng)。二需求分析我們對用戶的需求可分如下幾點(diǎn)分析和考慮：1. 新系統(tǒng)能動態(tài)分配各服務(wù)器之間的訪問流量；同時能互為冗余，當(dāng)其中一臺服務(wù)器發(fā)生故障時，其余服務(wù)器能即時替代工作，保證系統(tǒng)訪問的不中斷；2. 新系統(tǒng)應(yīng)能管理不同應(yīng)用的帶寬，如優(yōu)先保證某些重要應(yīng)用的帶寬要求，同時限定某些不必要應(yīng)用的帶寬，合理高效

2、地利用現(xiàn)有資源；3. 新系統(tǒng)應(yīng)能對高層應(yīng)用提供安全保證，在路由器和防火墻基礎(chǔ)上提供了更進(jìn)一步的防線；4. 新系統(tǒng)應(yīng)具備較強(qiáng)的擴(kuò)展性。o容量上：如數(shù)據(jù)訪問量繼續(xù)增大，可再添加新的服務(wù)器加入系統(tǒng)；o應(yīng)用上：如當(dāng)數(shù)據(jù)訪問量增大到防火墻成為瓶頸時，防火墻的動態(tài)負(fù)載均衡方案，又如針對鏈路提出新要求時關(guān)于Internet訪問鏈路的動態(tài)負(fù)載均衡方案等。三、解決方案IlltQIIIDlrai>fliemllLoaidBa!l?nc0D神臨10NHWebS&ivsisEiiiJirlSe-rwiiC»reSwitch梭子魚安全負(fù)載均衡方案總體設(shè)計采用服務(wù)器負(fù)載均衡設(shè)備提供本地的服務(wù)器群負(fù)

3、載均衡和容錯，適用于處在同一個局域網(wǎng)上的服務(wù)器群。服務(wù)器負(fù)載均衡設(shè)備帶給我們的最主要功能是：Sitirwo-"SenderFarm?Xirite-rnet實(shí)用文檔當(dāng)一臺服務(wù)器配置到不同的服務(wù)器群(Farm)上，就能同時提供多個不同的應(yīng)用。可以對于每個服務(wù)器群設(shè)定一個IP地址，或者利用服務(wù)器負(fù)載均衡設(shè)備的多TCP端口配置特性，配置超級服務(wù)器群(SuperFarm)，統(tǒng)一提供各種應(yīng)用服務(wù)。InternetAgg©s&R«utaf“一如圖，網(wǎng)絡(luò)中的四臺服務(wù)器向用戶提供了三種典型應(yīng)用，分別為web、mail和ftp服務(wù)，因此管理員通過服務(wù)器負(fù)載均衡設(shè)備建立了三個不

4、同的服務(wù)器群（Farm），并指定參與每個服務(wù)器群的服務(wù)器。對于上述這個系統(tǒng)，服務(wù)器負(fù)載均衡設(shè)備的解決方案提供了三級全面冗余機(jī)制：對于每種應(yīng)用，如WEB服務(wù)，同時有四臺機(jī)器提供服務(wù)，每臺機(jī)器的狀態(tài)可以設(shè)為regular（正常工作）或backup（備份狀態(tài)），或者同時設(shè)定為regular狀態(tài)。負(fù)載均衡設(shè)備根據(jù)管理員事先設(shè)定的負(fù)載算法和當(dāng)前網(wǎng)絡(luò)的實(shí)際的動態(tài)的負(fù)載情況決定下一個用戶的請求將被重定向到的服務(wù)器。而這一切對于用戶來說是完全透明的，用戶完成了對WEB服務(wù)的請求，并不用關(guān)心具體是哪臺服務(wù)器完成的。對于整個服務(wù)器系統(tǒng)，資源得到充分的利用和冗余。我們知道，一般情況下不同應(yīng)用服務(wù)的用戶數(shù)目是不盡相同

5、的，對于服務(wù)器資源的消耗也有所不同。如果對每一種應(yīng)用只采取單獨(dú)的機(jī)器提供服務(wù)，不但存在單點(diǎn)故障問題，同時每臺服務(wù)器的利用也是不均勻的，可能存在大量的WEB請求，使單一的WEB服務(wù)器負(fù)荷超重；而同時FTP服務(wù)器卻處在基本空閑狀態(tài)。這也是一種系統(tǒng)資源的浪費(fèi)，同時用戶得到的服務(wù)也不夠快捷。在引入了服務(wù)器負(fù)載均衡設(shè)備的服務(wù)器系統(tǒng)中，每臺機(jī)器的資源得到了充分利用，并減少了單點(diǎn)故障的問題。負(fù)載均衡設(shè)備也可以引入冗余備份機(jī)制。服務(wù)器負(fù)載均衡設(shè)備設(shè)備在網(wǎng)絡(luò)層次上起到類似"路由器"的作用，并利用專用的集成電路芯片（ASIC）完成智能的負(fù)載分配的工作。它的單點(diǎn)故障問題可以通過在系統(tǒng)中引入另外一

6、臺服務(wù)器負(fù)載均衡設(shè)備設(shè)備來完成。但是與一般意義上的冗余備份機(jī)制不同，這時兩臺服務(wù)器負(fù)載均衡設(shè)備是同時處在工作狀態(tài)，并互相備份的，而不是其中一臺處于閑置的Stand-By狀態(tài)。服務(wù)器負(fù)載均衡設(shè)備通過網(wǎng)絡(luò)互相監(jiān)測，一旦其中一臺不能正常工作，另一臺將接管其所有的任務(wù)。整個系統(tǒng)的可擴(kuò)縮性也是顯而易見的：對于每一種特定服務(wù)，管理員可以根據(jù)具體的負(fù)載狀況調(diào)配服務(wù)器。如果某種服務(wù)的負(fù)載壓力過大，可以考慮在系統(tǒng)中別的服務(wù)器上在建立一個該服務(wù)的鏡像，只要簡單的在對應(yīng)該服務(wù)的服務(wù)群中加入一個條目，新加的服務(wù)器就能參與到整個服務(wù)器群的工作中來了。系統(tǒng)中引入新的硬件服務(wù)器，或某臺服務(wù)器需要對其硬件進(jìn)行升級或配置的時候

7、，服務(wù)器負(fù)載均衡設(shè)備能夠自動監(jiān)測到這些變化。對于新加入的服務(wù)器，設(shè)有Warm-Up的時間，逐步地分配到該臺服務(wù)器的負(fù)載；對于從系統(tǒng)上撤掉的服務(wù)器，可以設(shè)定一個over的時間值，能夠保證在該臺服務(wù)器上的對話全部結(jié)束之后，才將服務(wù)器撤下，同時繼續(xù)把流量分配到其它的服務(wù)器上，用戶得到了不間斷的服務(wù)。系統(tǒng)中所有服務(wù)器的配置，從硬件到操作系統(tǒng)或應(yīng)用軟件都可以是異構(gòu)的，不影響服務(wù)器負(fù)載均衡設(shè)備的功能發(fā)揮。網(wǎng)絡(luò)提供商可以靈活地進(jìn)行網(wǎng)絡(luò)服務(wù)器的升級擴(kuò)容工作。四、為什么選擇梭子魚安全負(fù)載均衡機(jī):高性能:梭子魚LB440負(fù)載均衡機(jī)提供業(yè)界至強(qiáng)的服務(wù)器負(fù)載均衡性能，支持每秒100,000的新建連接，900萬的并發(fā)連

8、接。梭子魚負(fù)載均衡機(jī)會實(shí)時地對后臺服務(wù)器進(jìn)行基于應(yīng)用的健康檢查，并決定在真實(shí)服務(wù)器不可用情況下服務(wù)如何處理。采用Cookie的會話保持機(jī)制提供會話的完整性，這樣可以避免在使用源地址會話保持時，客戶端如果是通過統(tǒng)一的代理網(wǎng)關(guān)進(jìn)行訪問而造成負(fù)載均衡的不均勻，導(dǎo)致某些服務(wù)器的連接數(shù)遠(yuǎn)大于其他的服務(wù)器。梭子魚安全負(fù)載均衡機(jī)獨(dú)特的無線連接心跳監(jiān)控方式提供快速切換，是企業(yè)各種實(shí)時關(guān)鍵業(yè)務(wù)系統(tǒng)所必需的。強(qiáng)大的安全保護(hù)：梭子魚安全負(fù)載均衡機(jī)內(nèi)置集成了IPS實(shí)時安全防護(hù)系統(tǒng)，可以檢測并阻擋1000多種入侵攻擊和DOS攻擊。Web服務(wù)器集群負(fù)載均衡技術(shù)的應(yīng)用與研究侯秀杰祝永志孑L令鑫（曲阜師范大學(xué)計算機(jī)科學(xué)學(xué)院，

9、山東日照276826）摘要為了提高集群系統(tǒng)對用戶的快速響應(yīng)與整體吞吐量，必須采取一定的策略將Web訪問均衡地分配到集群中的每一個服務(wù)器?；诖怂枷氡疚尼槍鹘y(tǒng)的單機(jī)思想給出了一種多機(jī)三層結(jié)構(gòu)的負(fù)載均衡系統(tǒng)。實(shí)驗(yàn)結(jié)果表明了它在負(fù)載均衡方面的優(yōu)越性。關(guān)鍵詞負(fù)載均衡；均衡策略；調(diào)度算法；Web服務(wù)器集群模型1引言Internet的快速增長，特別是電子商務(wù)應(yīng)用的發(fā)展，吏Web應(yīng)用成為目前最重要最廣泛的應(yīng)用，Web服務(wù)器動態(tài)內(nèi)容越來越流行。目前，網(wǎng)上信息交換量幾乎呈指數(shù)增長，需要更高性能的Web服務(wù)器提供更多用戶的Web服務(wù)，因此，Web服務(wù)器面臨著訪問量急劇增加的壓力，對其處理能力和響應(yīng)能力等帶來更高

10、的要求，如果Web服務(wù)器無法滿足大量Web訪問服務(wù)，將無法為用戶提供穩(wěn)定、良好的網(wǎng)絡(luò)應(yīng)用服務(wù)。由于客觀存在的服務(wù)器物理內(nèi)存、CPU處理速度和操作系統(tǒng)等方面的影響因素，當(dāng)大量突發(fā)的數(shù)據(jù)到達(dá)時，Web服務(wù)器無法完全及時處理所有的請求，造成應(yīng)答滯后、請求丟失等，嚴(yán)重的導(dǎo)致一些數(shù)據(jù)包因延時而重發(fā)，吏傳輸線路和服務(wù)器的負(fù)擔(dān)再次增加。傳統(tǒng)的方法是提高Web服務(wù)器的CPU處理速度和增加內(nèi)存容量等硬件辦法但無論如何增加Web服務(wù)器硬件性能，均無法滿足日益增加的對用戶的訪問服務(wù)能力。面對日漸增加的Web訪問服務(wù)要求，必須對Web服務(wù)器按一定策略進(jìn)行負(fù)載分配。利用負(fù)載均衡1的技術(shù)，按照一定策略將Web訪問服務(wù)分配

11、到幾臺服務(wù)器上，負(fù)載處理對用戶透明，整體上對外如同一臺Web服務(wù)器為用戶提供Web服務(wù)。2Web負(fù)載均衡結(jié)構(gòu)2.1 負(fù)載均衡負(fù)載是一個抽象的概念，是表示系統(tǒng)繁忙程度，系統(tǒng)在一段時間空閑，該系統(tǒng)負(fù)載輕，系統(tǒng)在一段時間空忙，該系統(tǒng)負(fù)載重，影響系統(tǒng)負(fù)載的各種因數(shù)較多如果存在很多的數(shù)據(jù)包同時通過網(wǎng)絡(luò)連向一臺Web服務(wù)器，也就是網(wǎng)絡(luò)的速度比網(wǎng)絡(luò)所連接的設(shè)備速度快的情況下，系統(tǒng)負(fù)載不斷增加，直到最大。目前提高Web服務(wù)器性能，使其具有較強(qiáng)負(fù)載能力，主要有兩種處理思想2:1）單機(jī)思想不斷升級服務(wù)器硬件性能，每當(dāng)負(fù)載增加，服務(wù)器隨之升級。這隨之將帶來一些問題，首先，服務(wù)器向高檔升級，花費(fèi)資金較多；其次，升級頻

12、繁，機(jī)器切換造成服務(wù)中斷，可能會導(dǎo)致整個服務(wù)中斷；最后，每種架構(gòu)的服務(wù)器升級總有一個極限限制。2）多機(jī)思想使用多臺服務(wù)器提供服務(wù)，通過一定機(jī)制使它們共同分擔(dān)系統(tǒng)負(fù)載，對單一的服務(wù)器沒有太高的性能要求，系統(tǒng)負(fù)載增加，可以多增加服務(wù)器來分擔(dān)。對用戶而言，整個系統(tǒng)仿佛是一臺單一的邏輯服務(wù)器，這樣的系統(tǒng)能夠提供較強(qiáng)的可擴(kuò)展性和較好的吞吐性能。為了適應(yīng)當(dāng)前急劇增長的Web訪問，有別于傳統(tǒng)的單機(jī)思想，解決單機(jī)思想帶來的一系列問題，本文提出了一種基于權(quán)值的策略分配負(fù)載。2.2 負(fù)載均衡實(shí)現(xiàn)設(shè)備2目前實(shí)現(xiàn)負(fù)載均衡需要兩類的設(shè)備：服務(wù)器和分配器。1) 服務(wù)器(Server)為用戶提供真正的服務(wù)，也就是指給用戶提

13、供負(fù)載均衡服務(wù)的計算機(jī)設(shè)備，有關(guān)該設(shè)備的一些性能數(shù)據(jù)是負(fù)載均衡的主要依據(jù)之一。2) 分配器(Dispatcher)由用戶瀏覽器、Web服務(wù)器組成兩層結(jié)構(gòu)Web系統(tǒng)，如圖1所示，實(shí)際是基于客戶端的負(fù)載均衡。圖1負(fù)責(zé)給用戶服務(wù)分配服務(wù)器，分配器的主要功能是根據(jù)客戶和服務(wù)器的各種情況（這些情況要能反映服務(wù)器的負(fù)載狀況或性能狀況）通過一定的算法進(jìn)行調(diào)動和分配工作，從而提高由服務(wù)器整體構(gòu)成的網(wǎng)站的穩(wěn)定性、響應(yīng)能力。它主要是集中所有的HTTP請求，然后分配到多臺Web服務(wù)器上處理，來提高系統(tǒng)的處理效率。2.3 負(fù)載均衡系統(tǒng)結(jié)構(gòu)2.3.1 兩層結(jié)構(gòu)的負(fù)載均衡系統(tǒng)在服務(wù)器上運(yùn)行一個特定的程序，該程序相當(dāng)一個客

14、戶端，它定期的收集服務(wù)器相關(guān)性能參數(shù)，如CPU.I/O、內(nèi)存等動態(tài)信息，根據(jù)某種策略，確定提供最佳服務(wù)的服務(wù)器，將應(yīng)用請求轉(zhuǎn)發(fā)給它。如果采集負(fù)載信息程序發(fā)現(xiàn)服務(wù)器失敗，則找其它服務(wù)器作為服務(wù)選擇。這是一種動態(tài)負(fù)載均衡技術(shù)，但是每臺服務(wù)器上必須安裝特定的客戶端程序，同時，為保證應(yīng)用程序的透明性，需要對每個應(yīng)用進(jìn)行修改，能夠?qū)⒃L問請求通過該客戶端程序轉(zhuǎn)發(fā)到其它服務(wù)器上，重定向方式進(jìn)行，修改每一個應(yīng)用程序，工作量十分大。2.3.2 三層結(jié)構(gòu)的負(fù)載均衡系統(tǒng)由用戶瀏覽器、負(fù)載均衡和Web服務(wù)器組成三層結(jié)構(gòu)Web系統(tǒng)2,如圖2所示。實(shí)際是基于服務(wù)器的負(fù)載均衡。圖2如果將基于客戶端的負(fù)載均衡中客戶端的負(fù)載均

15、衡部分移植到一個中間平臺，形成一個應(yīng)用服務(wù)器，構(gòu)成請求、負(fù)載均衡和服務(wù)器的三層結(jié)構(gòu)，客戶端應(yīng)用不需要做特殊修改，透明的中間層將請求均衡的分布到不同的服務(wù)器。據(jù)服務(wù)器直接連到Internet與否有兩種多Web服務(wù)器結(jié)構(gòu)：隔離式(Separation)和非隔離式(Unseparation)。隔離式是服務(wù)器不直接連到Internet，如圖3所示，非隔離式是服務(wù)器直接連到Internet，如圖4所示。圖3圖4隔離式中只有負(fù)載均衡器對外有一個IP地址，所有的請求由負(fù)載均衡器分配到不同的WebServer，所有WebServer的返回結(jié)果也經(jīng)過負(fù)載均衡器傳回給用戶。非隔離式中每一臺WebServer都有一

16、個IP地址，用戶請求經(jīng)過負(fù)載均衡器分配到WebServer，而請求的應(yīng)答不經(jīng)過負(fù)載均衡器，直接傳回用戶。為了減輕均衡器的負(fù)載，本文中采用了三層結(jié)構(gòu)中的隔離方式。2.4 負(fù)載均衡實(shí)現(xiàn)的方法Web負(fù)載均衡常見算法有3：循環(huán)調(diào)度算法(Round-RobinScheduling)、加權(quán)循環(huán)調(diào)度算法(WeightedRound-RobinScheduling)、最小連接調(diào)度算法(Least-ConnectionScheduling)、目標(biāo)地址散列調(diào)度算法(DestinationHashingScheduling)、源地址散列調(diào)度算法(SourceHashingScheduling)。本文采用基于權(quán)值的調(diào)

17、度算法，也就是說權(quán)值大的服務(wù)器優(yōu)先得到調(diào)度，本文在實(shí)現(xiàn)時是基于靜態(tài)的權(quán)值，就是在開始的時候給每一個服務(wù)器配置一個默認(rèn)的權(quán)值。當(dāng)然也可以根據(jù)實(shí)際運(yùn)行情況再對每一個服務(wù)器的權(quán)值進(jìn)行調(diào)整。但是這需要實(shí)時的搜集每一個服務(wù)器的信息，如服務(wù)器的內(nèi)存實(shí)用情況，響應(yīng)速度等一些信息。3Web服務(wù)器集群環(huán)境配置與測試4693.1搭建環(huán)境3.1.1軟硬件環(huán)境的搭建服務(wù)器有4臺，一臺安裝apache，三臺安裝tomcat。服務(wù)器的操作系統(tǒng)都是WindowsXP。(3)其中安裝apache的服務(wù)器充當(dāng)負(fù)載均衡器，其它三臺是給用戶真正服務(wù)的服務(wù)器。IP配置，一臺安裝apache的IP為30,三臺安

18、裝tomcat的服務(wù)器IP分別為31/132/133。3.1.2 軟件的安裝與配置1)安裝tomcat的服務(wù)器的配置(1)在三臺安裝tomcat的服務(wù)器上安裝jdk。配置jdk的安裝路徑，在環(huán)境變量path中加入jdk的bin路徑，新建環(huán)境變量JAVA_HOME指向jdk的安裝路徑。廿番星膽寸.o.rxj話K-g。0口.8&60、7一ppd<xdnoo一ppd<xs-Lzlup6odx-sss、SSS8I-lO8S?«口薯gms®、只8808、Eod啟昌KncA、_cnl=Hlnotu匚ppo-dn-qps一pboooHlnotu

19、匚uo一t;uuoo、OOL-Hlunoold：dp寸寸8=Hlodt;上p_cs_p4=Hsdn>loo-p_qpuSL=Hsppi|j_edsxpiu=S0=HSPPi|j_dsu一tubsrHSPPi|j_xpiuR6I8LNspeHdLHXPLUo808=Eodot;uuoov-園®gEK-iwK-fr#:«w至X.>£>uoz>gK朕皿媒ffig1P0EO1只刪0昌迤。6666、8888、080卜只昌迤口薯躱蹩qMg1P0EO1NSWI、0808m口薯躱蹩曲主戲鏗呂芾譽(yù)坦寸)。方皿®-IJT-X-/岀溶耀麗1P0EO1川

20、坦舉1P0EO1媒世甲0、噩躱蹩g1P0EO1媒ffiHKw川WS將解壓縮后的目錄中的modules目錄中的mod_jk2.so文件復(fù)制到apache的安裝目錄下的modules目錄中。修改apache的安裝目錄中的conf目錄的配置文件httpd.conf，在文件中LoadModule模塊配置信息的最后加上一句LoadModulejk2_modules/mod_jk2.so。分別修改三個tomcat的配置文件conf/server.xml在文件中找到下面的語句<Enginename=”Standalone”defaultHost=”localhost”jvmRoute=”jvm1”&g

21、t;只需改動jvmRoute的值，在這里分別改為tomcat1，tomcat2和tomcat3。3）均衡服務(wù)器的配置2在apache的安裝目錄中的conf目錄下創(chuàng)建文件pertie寫入文件內(nèi)容如下：#finethecommunicationchannelchannel.socket：30：8009Info=Ajp13forwardingoversocket#配置第一個服務(wù)器tomcatId=tomcat1#要和Itomcat的配置文件server.xml中的jvmRoute二"tomcatT'名稱一致debug=0lb_fact

22、or=1#負(fù)載平衡因子數(shù)字越大請求被分配的幾率越高。類似地再配置其它的服務(wù)器。最后加上這樣的句子info二Statusworker，displaysruntimeinformationuri：/jkstatus.jspinfo=Displaystatusinformationandcheckstheconfigfileforchanges.Group=status：uri：/*info=MapthewholeWebappdebug=04）安裝tomcat的服務(wù)器配置2在三個tomcat的安裝目錄中的webapps建立相同的應(yīng)用，我和應(yīng)用目錄名為GroupTest，在三個應(yīng)用目錄中建立相同WEB

23、-INF目錄和頁面index.jsp，index.jsp的頁面的主要內(nèi)容是打印出為客戶服務(wù)的服務(wù)器的IP地址和端口號，當(dāng)然還有其它一些內(nèi)容，最主要的是這些內(nèi)容，這樣當(dāng)我們在測試的時候也方便地知道為其提供服務(wù)的服務(wù)到底是哪一個服務(wù)器，這個信息是非常重要的，這樣我們能看出當(dāng)大量用戶訪問的時候我們能知道負(fù)載分配的情況。5）集群配置分別修改三個tomcat的配置文件conf/server.xml找到以下面語句開始的地方：<!-<ClusterclassName="org.apache.catalina.cluster.tcp.SimpleTcpCluster”<Cluste

24、rListenerclassName="org.apache.catalina.cluster.session.ClusterSessionListener"/></Cluster>->將最上，最下面的一行都改為<!-modifybywhh->就可以了。然后再在Conf目錄下建立perties文件，寫入下面一行，其中端口為相應(yīng)的channelSocket.port=80096)集群應(yīng)用配置對于要進(jìn)行負(fù)載和集群的tomcat目錄下的webapps中的應(yīng)用中的WEB-INF中的web.xml文件要添加如下一句配置vdistributable/到此為止配置完成剩下的就是測試3.2 環(huán)境的測試(1)首選分別測試每個tomcat的啟動是否正常。h