解決高并發(fā)訪問及緩存加速的一種途徑 需求的產(chǎn)生 南北互聯(lián)問題導(dǎo)致北方的用戶訪問電信網(wǎng)內(nèi)的服務(wù)器十分緩慢和艱難 ,南方的用戶訪問網(wǎng)通網(wǎng)內(nèi)的服務(wù)器也是如此 高并發(fā)、大流量的站點(diǎn) 訪問加速 簡(jiǎn)單的 0 0s; 0 0s; 0 0s; 0 0s; 在 負(fù)載均衡后端服務(wù)器池。 簡(jiǎn)單的 0; ; $ 簡(jiǎn)單的 ; 用于指定反向代理的服務(wù)器池。 $當(dāng)后端 要用該 $如果后端 P，請(qǐng)從該 正常情況下，兩臺(tái)外提供服務(wù)。 向代理加速網(wǎng)站 向代理的實(shí)現(xiàn)原理 客戶端請(qǐng)求訪問 務(wù)時(shí)，訪問的域名解析為 向代理服務(wù)器的 址，這樣客戶端的 求將被發(fā)送到反向代理服務(wù)器。如果 向代理服務(wù)器中緩存了該請(qǐng)求的資源，則將該請(qǐng)求的資源直接返回給客戶端，否則反向代理服務(wù)器將向后臺(tái)的 務(wù)器請(qǐng)求資源，然后將請(qǐng)求的應(yīng)答返回給客戶端，同時(shí)也將該應(yīng)答緩存在本地，供下一個(gè)請(qǐng)求者使用。 配置的系統(tǒng)環(huán)境： 一臺(tái) 務(wù)器：操作系統(tǒng) 件 三臺(tái) 務(wù)器：操作系統(tǒng) S 4，軟件 應(yīng)的 下： 臺(tái) 務(wù)器：操作系統(tǒng) S 4，應(yīng)用軟件 應(yīng)的 址如下： 置 務(wù)器 # 配置 其鄰居，當(dāng) 其緩存中沒有找到請(qǐng)求的資源時(shí)， 通過 詢?nèi)テ溧従又腥〉镁彺?0 3130 0 3130 # 三個(gè)父節(jié)點(diǎn)， 數(shù)指明是源服務(wù)器， 數(shù)指明 過輪詢方式將請(qǐng)求分發(fā)到其中一臺(tái)父節(jié)點(diǎn)； 時(shí)會(huì)對(duì)這些父節(jié)點(diǎn)的健康狀態(tài)進(jìn)行檢查，如果父節(jié)點(diǎn) ， 那么 從剩余的 務(wù)器中抓取數(shù)據(jù) 080 0 080 0 080 0 # 將 的請(qǐng)求通過 詢方式轉(zhuǎn)發(fā)到三個(gè)父節(jié)點(diǎn)中的一個(gè) 在有許多大型的門戶網(wǎng)站如 采用 向代理技術(shù)來(lái)加速網(wǎng)站的訪問速度，可將不同的 求分發(fā)到后臺(tái)不同的 務(wù)器上，同時(shí)互聯(lián)網(wǎng)用戶只能看到反向代理服務(wù)器的地址，加強(qiáng)了網(wǎng)站的訪問安全。 最新的 5版本， 上第三方的 于清除指定 已經(jīng)可以完全取代 們已經(jīng)在生產(chǎn)環(huán)境使用了 存功能超過兩個(gè)月，十分穩(wěn)定，速度不遜于 在功能上， 除指定在性能上， 過 外，在反向代理、負(fù)載均衡、健康檢查、后端服務(wù)器故障轉(zhuǎn)移、用性上， 使得一臺(tái) 負(fù)載均衡服務(wù)器 ” 與 “ 來(lái)使用。 戶 700萬(wàn)。 好的分配資源，更快速訪問 . 通過在內(nèi)存里維護(hù)一個(gè)統(tǒng)一的巨大的 能夠用來(lái)存儲(chǔ)各種格式的數(shù)據(jù)，包括圖像、視頻、文件以 及數(shù)據(jù)庫(kù)檢索的結(jié)果等它的緩存是一種分布式的，也就是可以允許不 同主機(jī)上的多個(gè)用戶同時(shí)訪問這個(gè)緩存系統(tǒng)， 這種方法不僅解決了共享內(nèi)存只能是單機(jī)的弊端， 同時(shí)也解決了數(shù)據(jù)庫(kù)檢索的壓力，最大的優(yōu)點(diǎn)是提高了訪問獲取數(shù)據(jù)的速度 為了防止由于對(duì) 致得每個(gè) 就是在對(duì) 過對(duì) 每個(gè)結(jié)點(diǎn)都算出很多（例如 200個(gè)） 些值以 有屬于這些 樣就基本能保持每個(gè) 中率算法：服務(wù)器臺(tái)數(shù)（ n）和增加的服務(wù)器臺(tái)數(shù)（ m）計(jì)算增加服務(wù)器后的命中率計(jì)算公式如下： (1 - n/(n+m) * 100 一般的 用 上圖的狀態(tài)中添加一臺(tái) 數(shù)分布式算法由于保存鍵的服務(wù)器會(huì)發(fā)生巨大變化 而影響緩存的命中率，但 有在第一臺(tái)服務(wù)器上的鍵會(huì)受到影響。 因此， 而且，有的 使用一般的 務(wù)器的映射地點(diǎn)的分布非常不均勻。 因此，使用虛擬節(jié)點(diǎn)的思想，為每個(gè)物理節(jié)點(diǎn)（服務(wù)器） 在 00 200個(gè)點(diǎn)。這樣就能抑制分布不均勻， 最大限度地減小服務(wù)器增減時(shí)的緩存重新分布。 通過下文中介紹的使用 由服務(wù)器臺(tái)數(shù)（ n）和增加的服務(wù)器臺(tái)數(shù)（ m）計(jì)算增加服務(wù)器后的命中率計(jì)算公式如下： (1 - n/(n+m) * 100 常見的應(yīng)用場(chǎng)景： 一般用于靜態(tài)對(duì)象 網(wǎng)站的頁(yè)面加速（指靜態(tài)） 下載服務(wù)：類似殺毒軟件有客戶端自動(dòng)更新機(jī)制的下載，更需要 視頻：特別是在線播放類型，如 統(tǒng)的訪問模式 所以的客戶端訪問同一個(gè)對(duì)象 眾矢之的 把用戶請(qǐng)求分散 源 站A 地 的 網(wǎng) 絡(luò)及 加 速 服 務(wù) 器A 地 的 用 戶B 地 的 網(wǎng) 絡(luò)及 加 速 服 務(wù) 器B 地 的 用 戶摘自 內(nèi)容分發(fā)網(wǎng)絡(luò)，是位于網(wǎng)絡(luò)層與應(yīng)用層之間的網(wǎng)絡(luò)應(yīng)用，其目的是通過在現(xiàn)有的 過智能的中心管理系統(tǒng)，使用廣泛分布的服務(wù)器群來(lái)幫助網(wǎng)站、媒體運(yùn)營(yíng)商等滿足用戶的各類需求。 內(nèi)容緩存到不同地區(qū)的緩存服務(wù)器 就近訪問原則 分用戶的訪問來(lái)源 關(guān)鍵技術(shù) (1) (2)內(nèi)容緩存 : 輔助技術(shù) (1)負(fù)載均衡 : (2)監(jiān)控 : 選定核心緩存節(jié)點(diǎn)（電信、網(wǎng)通各 2個(gè)） 選定邊緣緩存節(jié)點(diǎn)（覆蓋到?。?歸類 些 后才可能實(shí)現(xiàn)用戶的就近訪問。 容錯(cuò)和負(fù)載均衡 如果自己做一個(gè)簡(jiǎn)單的 能只需要電信和網(wǎng)通 2個(gè)節(jié)點(diǎn)，不必有邊緣和核心的區(qū)分； 通、其他，即 個(gè)視圖（ 一個(gè)樣例 源 站A 地 緩 存 服 務(wù) 器B 地 的 緩 存 服 務(wù) 器站 點(diǎn) 的 D N S 服 務(wù) 器C d n 運(yùn) 營(yíng) 商 的 d n s 服 務(wù) 器使 用 C N A M E 轉(zhuǎn) 向 到 c d n 運(yùn) 營(yíng) 商 的 d n 視 圖 列 表 ,根 據(jù) 用 戶D n s 的 歸 屬 地 返 還 離 用 戶最 近 的 主 機(jī) 地 址用戶 一般情況下，用戶的 記錄直接把主機(jī)名解析到源站 為了做 們將域名指向多臺(tái)緩存 利用 線路判斷。 集群與負(fù)載均衡 所有節(jié)點(diǎn)都在各自的網(wǎng)段采取集群和負(fù)載均衡技術(shù) 壓力測(cè)試，監(jiān)控： 壓力測(cè)試（ 服務(wù)及主機(jī)監(jiān)控： 流量監(jiān)控： 報(bào)警：使用 用飛信短信方式?？梢酝赓?gòu)短信服務(wù)，把它整合到監(jiān)控平臺(tái)中 搜企平臺(tái)規(guī)劃圖 ,線路平臺(tái)，利用 2,用 程序 )+獨(dú)服務(wù) )，實(shí)現(xiàn) 用 雙機(jī)互備） 3,用 現(xiàn)數(shù)據(jù)庫(kù)緩存。 4，索引利用 搜企平臺(tái)結(jié)構(gòu) 1，先做 分客戶線路 2， 用 存緩 3，利用 頁(yè)，圖片， 并做為 緩存。 4，利用 5，利用 據(jù)庫(kù)為 , 數(shù)據(jù)同步。 企 需求點(diǎn)： 考慮對(duì)像 互聯(lián)網(wǎng)上不同地區(qū)，不同線路的客戶能快速查詢搜企 能準(zhǔn)確返回給客戶有用的信息。（注意點(diǎn) “ 不同線路 ”“ 快速即響應(yīng)時(shí)間 ”“ 準(zhǔn)確性 ” ）總之一句話，在有限的資源（人力資源，硬件資源，帶寬資源， ，以人為本，以客戶最好的需求為前提，做到讓客戶喜歡，需要的平臺(tái)。 規(guī)劃平臺(tái)主要幾點(diǎn)思路 1， 分不同線路的客戶，提高因線路不同而造成的響應(yīng)速度。（中國(guó)目前有電信，網(wǎng)通，鐵通等線路）。 2，利用 好 3臺(tái)以上的配置）做為最前端。做為靜態(tài)信息的緩存和做為后端真實(shí) 高了訪問速度，對(duì)真實(shí)的 A）可用 訪問信息分配到不同的 B）前面的 改為利用 好處是健康狀態(tài)檢查，權(quán)重分配），對(duì)不同硬件配置，不同帶寬的服務(wù)群是一個(gè)好的選擇，能較好的分配流量走向。 3， 于存儲(chǔ)靜態(tài)信息（靜態(tài)