負載均衡方案的三種實(shí)現策略

??早期的互聯(lián)網(wǎng)應用，由于用戶(hù)流量比較小，業(yè)務(wù)邏輯也比較簡(jiǎn)單，往往一個(gè)單就能滿(mǎn)足負載需求。隨著(zhù)現在互聯(lián)網(wǎng)的流量越來(lái)越大，稍微好一點(diǎn)的系統，訪(fǎng)問(wèn)量就非常大了，并且系統功能也越來(lái)越復雜，那么單臺服務(wù)器就算將性能優(yōu)化得再好，也不能支撐這么大用戶(hù)量的訪(fǎng)問(wèn)壓力了，這個(gè)時(shí)候就需要使用多臺機器，設計高性能的集群來(lái)應對。接下來(lái)就由小編來(lái)和大家講一講方案的三種實(shí)現策略：
 
??一、多臺服務(wù)器是如何去均衡流量、如何組成高性能的集群的呢？
??負載均衡（Load Balancer）是指把用戶(hù)訪(fǎng)問(wèn)的流量，通過(guò)「負載均衡器」，根據某種轉發(fā)的策略，均勻的分發(fā)到后端多臺服務(wù)器上，后端的服務(wù)器可以獨立的響應和處理請求，從而實(shí)現分散負載的效果。負載均衡技術(shù)提高了系統的服務(wù)能力，增強了應用的可用性。
??二、負載均衡方案有幾種？
??目前市面上最常見(jiàn)的負載均衡技術(shù)方案主要有三種：
??1、基于DNS負載均衡
??2、基于硬件負載均衡
??3、基于軟件負載均衡
??三種方案各有優(yōu)劣，DNS負載均衡可以實(shí)現在地域上的流量均衡，硬件負載均衡主要用于大型服務(wù)器集群中的負載需求，而軟件負載均衡大多是基于機器層面的流量均衡。在實(shí)際場(chǎng)景中，這三種是可以組合在一起使用。下面來(lái)詳細講講：
??三、基于DNS負載均衡
??1、基于DNS來(lái)做負載均衡其實(shí)是一種最簡(jiǎn)單的實(shí)現方案，通過(guò)在DNS服務(wù)器上做一個(gè)簡(jiǎn)單配置即可
??其原理就是當用戶(hù)訪(fǎng)問(wèn)的時(shí)候，會(huì )先向DNS服務(wù)器去對應的IP地址，這個(gè)時(shí)候我們可以讓DNS服務(wù)器根據不同地理位置的用戶(hù)返回不同的IP。比如南方的用戶(hù)就返回我們在廣州業(yè)務(wù)服務(wù)器的IP，北方的用戶(hù)來(lái)訪(fǎng)問(wèn)的話(huà)，我就返回北京業(yè)務(wù)服務(wù)器所在的IP。
??在這個(gè)模式下，用戶(hù)就相當于實(shí)現了按照「就近原則」將請求分流了，既減輕了單個(gè)集群的負載壓力，也提升了用戶(hù)的訪(fǎng)問(wèn)速度。
??使用DNS做負載均衡的方案，天然的優(yōu)勢就是配置簡(jiǎn)單，實(shí)現成本非常低，無(wú)需額外的開(kāi)發(fā)和維護工作。
??但是也有一個(gè)明顯的缺點(diǎn)是：當配置修改后，生效不及時(shí)。這個(gè)是由于DNS的特性導致的，DNS一般會(huì )有多級緩存，所以當我們修改了DNS配置之后，由于緩存的原因，會(huì )導致IP變更不及時(shí)，從而影響負載均衡的效果。
??另外，使用DNS做負載均衡的話(huà)，大多是基于地域或者干脆直接做IP輪詢(xún)，沒(méi)有更高級的路由策略，所以這也是DNS方案的局限所在。
??2、基于硬件負載均衡
??硬件的負載均衡那就比較牛逼了，比如大名鼎鼎的F5 Network Big-IP，也就是我們常說(shuō)的F5，它是一個(gè)網(wǎng)絡(luò )設備，你可以簡(jiǎn)單的理解成類(lèi)似于網(wǎng)絡(luò )交換機的東西，完全通過(guò)硬件來(lái)抗壓力，性能是非常的好，每秒能處理的請求數達到百萬(wàn)級，即 幾百萬(wàn)/秒 的負載，當然價(jià)格也就非常非常貴了，十幾萬(wàn)到上百萬(wàn)人民幣都有。
??因為這類(lèi)設備一般用在大型互聯(lián)網(wǎng)公司的流量入口最前端，以及政府、國企等不缺錢(qián)企業(yè)會(huì )去使用。一般的中小公司是不舍得用的。
??采用F5這類(lèi)硬件做負載均衡的話(huà)，主要就是省心省事，買(mǎi)一臺就搞定，性能強大，一般的業(yè)務(wù)不在話(huà)下。而且在負載均衡的算法方面還支持很多靈活的策略，同時(shí)還具有一些防火墻等安全功能。但是缺點(diǎn)也很明顯，一個(gè)字：貴。
??3.基于軟件負載均衡
??軟件負載均衡是指使用軟件的方式來(lái)分發(fā)和均衡流量。軟件負載均衡，分為7層協(xié)議 和 4層協(xié)議。
??網(wǎng)絡(luò )協(xié)議有七層，基于第四層傳輸層來(lái)做流量分發(fā)的方案稱(chēng)為4層負載均衡，例如LVS，而基于第七層應用層來(lái)做流量分發(fā)的稱(chēng)為7層負載均衡，例如Nginx。這兩種在性能和靈活性上是有些區別的。
??基于4層的負載均衡性能要高一些，一般能達到 幾十萬(wàn)/秒 的處理量，而基于7層的負載均衡處理量一般只在 幾萬(wàn)/秒 。
??基于軟件的負載均衡的特點(diǎn)也很明顯，便宜。在正常的服務(wù)器上部署即可，無(wú)需額外采購，就是投入一點(diǎn)技術(shù)去優(yōu)化優(yōu)化即可，因此這種方式是互聯(lián)網(wǎng)公司中用得最多的一種方式。
 
??四、常用的均衡算法有哪些？
??上面講完了常見(jiàn)的負載均衡技術(shù)方案，那么接下來(lái)咱們看一下，在實(shí)際方案應用中，一般可以使用哪些均衡算法？
??1、輪詢(xún)策略
??2、負載度策略
??3、響應策略
??4、哈希策略
??下面來(lái)分別介紹一下這幾種均衡算法/策略的特點(diǎn)：
??1、輪詢(xún)策略
??輪詢(xún)策略其實(shí)很好理解，就是當用戶(hù)請求來(lái)了之后，「負載均衡器」將請求輪流的轉發(fā)到后端不同的業(yè)務(wù)服務(wù)器上。這個(gè)策略在DNS方案中用的比較多，無(wú)需關(guān)注后端服務(wù)的狀態(tài)，只藥有請求，就往后端輪流轉發(fā)，非常的簡(jiǎn)單、實(shí)用。
??在實(shí)際應用中，輪詢(xún)也會(huì )有多種方式，有按順序輪詢(xún)的、有隨機輪詢(xún)的、還有按照權重來(lái)輪詢(xún)的。前兩種比較好理解，第三種按照權重來(lái)輪詢(xún)，是指給每臺后端服務(wù)設定一個(gè)權重值，比如性能高的服務(wù)器權重高一些，性能低的服務(wù)器給的權重低一些，這樣設置的話(huà)，分配流量的時(shí)候，給權重高的更多流量，可以充分的發(fā)揮出后端機器的性能。
??2、負載度策略
??負載度策略是指當「負載均衡器」往后端轉發(fā)流量的時(shí)候，會(huì )先去評估后端每臺服務(wù)器的負載壓力情況，對于壓力比較大的后端服務(wù)器轉發(fā)的請求就少一些，對于壓力比較小的后端服務(wù)器可以多轉發(fā)一些請求給它。
??這種方式就充分的結合了后端服務(wù)器的運行狀態(tài)，來(lái)動(dòng)態(tài)的分配流量了，比輪詢(xún)的方式更為科學(xué)一些。
??但是這種方式也帶來(lái)了一些弊端，因為需要動(dòng)態(tài)的評估后端服務(wù)器的負載壓力，那這個(gè)「負載均衡器」除了轉發(fā)請求以外，還要做很多額外的工作，比如采集 連接數、請求數、CPU負載指標、IO負載指標等等，通過(guò)對這些指標進(jìn)行計算和對比，判斷出哪一臺后端服務(wù)器的負載壓力較大。
??因此這種方式帶來(lái)了效果優(yōu)勢的同時(shí)，也增加了「負載均衡器」的實(shí)現難度和維護成本。
??3、響應策略
??響應策略是指，當用戶(hù)請求過(guò)來(lái)的時(shí)候，「負載均衡器」會(huì )優(yōu)先將請求轉發(fā)給當前時(shí)刻響應最快的后端服務(wù)器。
??也就是說(shuō)，不管后端服務(wù)器負載高不高，也不管配置如何，只要覺(jué)得這個(gè)服務(wù)器在當前時(shí)刻能最快的響應用戶(hù)的請求，那么就優(yōu)先把請求轉發(fā)給它，這樣的話(huà)，對于用戶(hù)而言，體驗也最好。
??那「負載均衡器」是怎么知道哪一臺后端服務(wù)在當前時(shí)刻響應能力最佳呢？
??這就需要「負載均衡器」不停的去統計每一臺后端服務(wù)器對請求的處理速度了，比如一分鐘統計一次，生成一個(gè)后端服務(wù)器處理速度的排行榜。然后「負載均衡器」根據這個(gè)排行榜去轉發(fā)服務(wù)。
??那么這里的問(wèn)題就是統計的成本了，不停的做這些統計運算本身也會(huì )消耗一些性能，同時(shí)也會(huì )增加「負載均衡器」的實(shí)現難度和維護成本。
??4、哈希策略

??Hash策略也比較好理解，就是將請求中的某個(gè)信息進(jìn)行hash計算，然后根據后端服務(wù)器臺數取模，得到一個(gè)值，算出相同值的請求就被轉發(fā)到同一臺后端服務(wù)器中。

??常見(jiàn)的用法是對用戶(hù)的IP或者ID進(jìn)行這個(gè)策略，然后「負載均衡器」就能保證同一個(gè)IP來(lái)源或者同一個(gè)用戶(hù)永遠會(huì )被送到同一個(gè)后端服務(wù)器上了，一般用于處理緩存、會(huì )話(huà)等功能的時(shí)候特別好用。小伙伴要想獲得更多負載均衡方案的內容，請關(guān)注特網(wǎng)！