新網(wǎng)箭頭云負載平衡讓你從容應對雙十一高并發(fā)

對于即將到來(lái)的雙11，高并發(fā)簡(jiǎn)直成為了一個(gè)魔咒。盡管在大促活動(dòng)前加班加點(diǎn)做測試，到了活動(dòng)當天仍然是危機頻發(fā)，高并發(fā)的關(guān)鍵時(shí)刻又出亂子了，緊急排查故障，一個(gè)漏洞沒(méi)注意到就讓競爭對手鉆了個(gè)空子，平臺損失嚴重，還有被媒體曝光的風(fēng)險。
相信這個(gè)場(chǎng)景在雙十一階段并不少見(jiàn)。在超高并發(fā)量下，IT 系統如何才能挺住不崩？有沒(méi)有辦法可以提前預測到，并加筑好“防御堡壘”？
大多數同學(xué)被問(wèn)到這個(gè)問(wèn)題壓根兒沒(méi)什么思路去回答，不知道從什么地方說(shuō)起，其實(shí)本質(zhì)就是沒(méi)經(jīng)歷過(guò)一些真正有高并發(fā)系統的錘煉罷了。
一、什么是高并發(fā)？
高并發(fā)（High Concurrency）是互聯(lián)網(wǎng)分布式系統架構設計中必須考慮的因素之一，它通常是指，通過(guò)設計保證系統能夠同時(shí)并行處理很多請求。高并發(fā)意味著(zhù)大流量，需要運用技術(shù)手段抵抗流量的沖擊，這些手段好比操作流量，能讓流量更平穩地被系統所處理，帶給用戶(hù)更好的體驗。
高并發(fā)相關(guān)常用的一些指標有響應時(shí)間（Response Time），吞吐量（Throughput），每秒查詢(xún)率QPS（Query Per Second），每秒事務(wù)處理量TPS(Transaction Per Second)，并發(fā)用戶(hù)數等。
響應時(shí)間：系統對請求做出響應的時(shí)間。
吞吐量：?jiǎn)挝粫r(shí)間內處理的請求數量。
QPS：每秒響應查詢(xún)請求數。
TPS：每秒響應事務(wù)請求數。
并發(fā)用戶(hù)數：同時(shí)承載正常使用系統功能的用戶(hù)數量。
我們常見(jiàn)的高并發(fā)場(chǎng)景有：淘寶的雙 11、春運時(shí)的搶票、微博大 V 的熱點(diǎn)新聞等。
二、多大并發(fā)才算高并發(fā)呢？
很顯然，上面談到的高并發(fā)場(chǎng)景，并發(fā)量各不相同，那到底多大并發(fā)才算高并發(fā)呢？
首先，不能只看數字，要看具體的業(yè)務(wù)場(chǎng)景。信息流場(chǎng)景涉及復雜的推薦模型和各種人工策略，它的業(yè)務(wù)邏輯可能比秒殺場(chǎng)景復雜 10 倍不止。因此，不在同一個(gè)維度，沒(méi)有任何比較意義。
此外，各個(gè)高并發(fā)場(chǎng)景的業(yè)務(wù)特點(diǎn)完全不同：有讀多寫(xiě)少的信息流場(chǎng)景、有讀多寫(xiě)多的交易場(chǎng)景，那是否有通用的技術(shù)方案解決不同場(chǎng)景的高并發(fā)問(wèn)題呢？
三、如何應對高并發(fā)？
由于軟硬件環(huán)境、技術(shù)棧、以及產(chǎn)品邏輯都沒(méi)法做到完全一致，這些都會(huì )導致同樣的業(yè)務(wù)場(chǎng)景，就算用相同的技術(shù)方案也會(huì )面臨不同的問(wèn)題。大的思路可以借鑒，別人的方案也可以參考，但是真正落地過(guò)程中，細節上還會(huì )有無(wú)數的坑。
下面給大家兩個(gè)小建議：
其一，購買(mǎi)服務(wù)器。當一個(gè)網(wǎng)站面對突發(fā)流量，不可能臨時(shí)改造架構，最快的方式就是增加機器來(lái)線(xiàn)性提高系統的處理能力。
一支筷子容易斷，一把筷子就十分堅固。既然一臺服務(wù)器搞不定，我們就多上幾臺服務(wù)器。這里的原理就是分流，把以前集中的壓力分散開(kāi)來(lái)。
其二，設置負載平衡。負載平衡可以通過(guò)多種負載算法將請求轉發(fā)到不同云服務(wù)器上。在后端云服務(wù)器宕機時(shí)，會(huì )自動(dòng)將對應節點(diǎn)從負載均衡的轉發(fā)列表中移出保證服務(wù)的高可用。
總之，面對高并發(fā)、大流量需要新購服務(wù)器或設置負載平衡的朋友們，云將是您的不二選擇！
設置負載平衡，點(diǎn)擊進(jìn)入：http://wap.friendlycc.com.cn/