當(dāng)用戶(hù)的請(qǐng)求，都訪問(wèn)數(shù)據(jù)庫(kù)的話(huà)，請(qǐng)求數(shù)量一上來(lái)，數(shù)據(jù)庫(kù)很容易就奔潰的了，所以為了避免用戶(hù)直接訪問(wèn)數(shù)據(jù)庫(kù)，會(huì)用 Redis 作為緩存層。

因?yàn)?Redis 是內(nèi)存數(shù)據(jù)庫(kù)，我們可以將數(shù)據(jù)庫(kù)的數(shù)據(jù)緩存在 Redis 里，相當(dāng)于數(shù)據(jù)緩存在內(nèi)存，內(nèi)存的讀寫(xiě)速度比硬盤(pán)快好幾個(gè)數(shù)量級(jí)，這樣大大提高了系統(tǒng)性能。

引入了緩存層，就會(huì)有緩存異常的三個(gè)問(wèn)題，分別是緩存雪崩、緩存擊穿、緩存穿透。

這三個(gè)問(wèn)題也是面試中很?？疾斓膯?wèn)題，我們不光要清楚地知道它們是怎么發(fā)生，還需要知道如何解決它們。

話(huà)不多說(shuō)，發(fā)車(chē)！

緩存雪崩

通常我們?yōu)榱吮ＷC緩存中的數(shù)據(jù)與數(shù)據(jù)庫(kù)中的數(shù)據(jù)一致性，會(huì)給 Redis 里的數(shù)據(jù)設(shè)置過(guò)期時(shí)間，當(dāng)緩存數(shù)據(jù)過(guò)期后，用戶(hù)訪問(wèn)的數(shù)據(jù)如果不在緩存里，業(yè)務(wù)系統(tǒng)需要重新生成緩存，因此就會(huì)訪問(wèn)數(shù)據(jù)庫(kù)，并將數(shù)據(jù)更新到 Redis 里，這樣后續(xù)請(qǐng)求都可以直接命中緩存。

那么，當(dāng)大量緩存數(shù)據(jù)在同一時(shí)間過(guò)期（失效）或者 Redis 故障宕機(jī)時(shí)，如果此時(shí)有大量的用戶(hù)請(qǐng)求，都無(wú)法在 Redis 中處理，于是全部請(qǐng)求都直接訪問(wèn)數(shù)據(jù)庫(kù)，從而導(dǎo)致數(shù)據(jù)庫(kù)的壓力驟增，嚴(yán)重的會(huì)造成數(shù)據(jù)庫(kù)宕機(jī)，從而形成一系列連鎖反應(yīng)，造成整個(gè)系統(tǒng)崩潰，這就是緩存雪崩的問(wèn)題。

可以看到，發(fā)生緩存雪崩有兩個(gè)原因：

• 大量數(shù)據(jù)同時(shí)過(guò)期；

• Redis 故障宕機(jī)；

不同的誘因，應(yīng)對(duì)的策略也會(huì)不同。

大量數(shù)據(jù)同時(shí)過(guò)期

針對(duì)大量數(shù)據(jù)同時(shí)過(guò)期而引發(fā)的緩存雪崩問(wèn)題，常見(jiàn)的應(yīng)對(duì)方法有下面這幾種：

• 均勻設(shè)置過(guò)期時(shí)間；

• 互斥鎖；

• 雙 key 策略；

• 后臺(tái)更新緩存；

1. 均勻設(shè)置過(guò)期時(shí)間

如果要給緩存數(shù)據(jù)設(shè)置過(guò)期時(shí)間，應(yīng)該避免將大量的數(shù)據(jù)設(shè)置成同一個(gè)過(guò)期時(shí)間。我們可以在對(duì)緩存數(shù)據(jù)設(shè)置過(guò)期時(shí)間時(shí)，給這些數(shù)據(jù)的過(guò)期時(shí)間加上一個(gè)隨機(jī)數(shù)，這樣就保證數(shù)據(jù)不會(huì)在同一時(shí)間過(guò)期。

2. 互斥鎖

當(dāng)業(yè)務(wù)線(xiàn)程在處理用戶(hù)請(qǐng)求時(shí)，如果發(fā)現(xiàn)訪問(wèn)的數(shù)據(jù)不在 Redis 里，就加個(gè)互斥鎖，保證同一時(shí)間內(nèi)只有一個(gè)請(qǐng)求來(lái)構(gòu)建緩存（從數(shù)據(jù)庫(kù)讀取數(shù)據(jù)，再將數(shù)據(jù)更新到 Redis 里），當(dāng)緩存構(gòu)建完成后，再釋放鎖。未能獲取互斥鎖的請(qǐng)求，要么等待鎖釋放后重新讀取緩存，要么就返回空值或者默認(rèn)值。

實(shí)現(xiàn)互斥鎖的時(shí)候，最好設(shè)置超時(shí)時(shí)間，不然第一個(gè)請(qǐng)求拿到了鎖，然后這個(gè)請(qǐng)求發(fā)生了某種意外而一直阻塞，一直不釋放鎖，這時(shí)其他請(qǐng)求也一直拿不到鎖，整個(gè)系統(tǒng)就會(huì)出現(xiàn)無(wú)響應(yīng)的現(xiàn)象。

3. 雙 key 策略

我們對(duì)緩存數(shù)據(jù)可以使用兩個(gè) key，一個(gè)是主 key，會(huì)設(shè)置過(guò)期時(shí)間，一個(gè)是備 key，不會(huì)設(shè)置過(guò)期，它們只是 key 不一樣，但是 value 值是一樣的，相當(dāng)于給緩存數(shù)據(jù)做了個(gè)副本。

當(dāng)業(yè)務(wù)線(xiàn)程訪問(wèn)不到「主 key 」的緩存數(shù)據(jù)時(shí)，就直接返回「?jìng)?key 」的緩存數(shù)據(jù)，然后在更新緩存的時(shí)候，同時(shí)更新「主 key 」和「?jìng)?key 」的數(shù)據(jù)。

4. 后臺(tái)更新緩存

業(yè)務(wù)線(xiàn)程不再負(fù)責(zé)更新緩存，緩存也不設(shè)置有效期，而是讓緩存“永久有效”，并將更新緩存的工作交由后臺(tái)線(xiàn)程定時(shí)更新。

事實(shí)上，緩存數(shù)據(jù)不設(shè)置有效期，并不是意味著數(shù)據(jù)一直能在內(nèi)存里，因?yàn)?/span>當(dāng)系統(tǒng)內(nèi)存緊張的時(shí)候，有些緩存數(shù)據(jù)會(huì)被“淘汰”，而在緩存被“淘汰”到下一次后臺(tái)定時(shí)更新緩存的這段時(shí)間內(nèi)，業(yè)務(wù)線(xiàn)程讀取緩存失敗就返回空值，業(yè)務(wù)的視角就以為是數(shù)據(jù)丟失了。

解決上面的問(wèn)題的方式有兩種。

第一種方式，后臺(tái)線(xiàn)程不僅負(fù)責(zé)定時(shí)更新緩存，而且也負(fù)責(zé)頻繁地檢測(cè)緩存是否有效，檢測(cè)到緩存失效了，原因可能是系統(tǒng)緊張而被淘汰的，于是就要馬上從數(shù)據(jù)庫(kù)讀取數(shù)據(jù)，并更新到緩存。

這種方式的檢測(cè)時(shí)間間隔不能太長(zhǎng)，太長(zhǎng)也導(dǎo)致用戶(hù)獲取的數(shù)據(jù)是一個(gè)空值而不是真正的數(shù)據(jù)，所以檢測(cè)的間隔最好是毫秒級(jí)的，但是總歸是有個(gè)間隔時(shí)間，用戶(hù)體驗(yàn)一般。

第二種方式，在業(yè)務(wù)線(xiàn)程發(fā)現(xiàn)緩存數(shù)據(jù)失效后（緩存數(shù)據(jù)被淘汰），通過(guò)消息隊(duì)列發(fā)送一條消息通知后臺(tái)線(xiàn)程更新緩存，后臺(tái)線(xiàn)程收到消息后，在更新緩存前可以判斷緩存是否存在，存在就不執(zhí)行更新緩存操作；不存在就讀取數(shù)據(jù)庫(kù)數(shù)據(jù)，并將數(shù)據(jù)加載到緩存。這種方式相比第一種方式緩存的更新會(huì)更及時(shí)，用戶(hù)體驗(yàn)也比較好。

在業(yè)務(wù)剛上線(xiàn)的時(shí)候，我們最好提前把數(shù)據(jù)緩起來(lái)，而不是等待用戶(hù)訪問(wèn)才來(lái)觸發(fā)緩存構(gòu)建，這就是所謂的緩存預(yù)熱，后臺(tái)更新緩存的機(jī)制剛好也適合干這個(gè)事情。

Redis 故障宕機(jī)

針對(duì) Redis 故障宕機(jī)而引發(fā)的緩存雪崩問(wèn)題，常見(jiàn)的應(yīng)對(duì)方法有下面這幾種：

• 服務(wù)熔斷或請(qǐng)求限流機(jī)制；

• 構(gòu)建 Redis 緩存高可靠集群；

1. 服務(wù)熔斷或請(qǐng)求限流機(jī)制

因?yàn)?Redis 故障宕機(jī)而導(dǎo)致緩存雪崩問(wèn)題時(shí)，我們可以啟動(dòng)服務(wù)熔斷機(jī)制，暫停業(yè)務(wù)應(yīng)用對(duì)緩存服務(wù)的訪問(wèn)，直接返回錯(cuò)誤，不用再繼續(xù)訪問(wèn)數(shù)據(jù)庫(kù)，從而降低對(duì)數(shù)據(jù)庫(kù)的訪問(wèn)壓力，保證數(shù)據(jù)庫(kù)系統(tǒng)的正常運(yùn)行，然后等到 Redis 恢復(fù)正常后，再允許業(yè)務(wù)應(yīng)用訪問(wèn)緩存服務(wù)。

服務(wù)熔斷機(jī)制是保護(hù)數(shù)據(jù)庫(kù)的正常允許，但是暫停了業(yè)務(wù)應(yīng)用訪問(wèn)緩存服系統(tǒng)，全部業(yè)務(wù)都無(wú)法正常工作

為了減少對(duì)業(yè)務(wù)的影響，我們可以啟用請(qǐng)求限流機(jī)制，只將少部分請(qǐng)求發(fā)送到數(shù)據(jù)庫(kù)進(jìn)行處理，再多的請(qǐng)求就在入口直接拒絕服務(wù)，等到 Redis 恢復(fù)正常并把緩存預(yù)熱完后，再解除請(qǐng)求限流的機(jī)制。

2. 構(gòu)建 Redis 緩存高可靠集群

服務(wù)熔斷或請(qǐng)求限流機(jī)制是緩存雪崩發(fā)生后的應(yīng)對(duì)方案，我們最好通過(guò)主從節(jié)點(diǎn)的方式構(gòu)建 Redis 緩存高可靠集群。

如果 Redis 緩存的主節(jié)點(diǎn)故障宕機(jī)，從節(jié)點(diǎn)可以切換成為主節(jié)點(diǎn)，繼續(xù)提供緩存服務(wù)，避免了由于 Redis 故障宕機(jī)而導(dǎo)致的緩存雪崩問(wèn)題。

緩存擊穿

我們的業(yè)務(wù)通常會(huì)有幾個(gè)數(shù)據(jù)會(huì)被頻繁地訪問(wèn)，比如秒殺活動(dòng)，這類(lèi)被頻地訪問(wèn)的數(shù)據(jù)被稱(chēng)為熱點(diǎn)數(shù)據(jù)。

如果緩存中的某個(gè)熱點(diǎn)數(shù)據(jù)過(guò)期了，此時(shí)大量的請(qǐng)求訪問(wèn)了該熱點(diǎn)數(shù)據(jù)，就無(wú)法從緩存中讀取，直接訪問(wèn)數(shù)據(jù)庫(kù)，數(shù)據(jù)庫(kù)很容易就被高并發(fā)的請(qǐng)求沖垮，這就是緩存擊穿的問(wèn)題。

可以發(fā)現(xiàn)緩存擊穿跟緩存雪崩很相似，你可以認(rèn)為緩存擊穿是緩存雪崩的一個(gè)子集。

應(yīng)對(duì)緩存擊穿可以采取前面說(shuō)到兩種方案：

• 互斥鎖方案，保證同一時(shí)間只有一個(gè)業(yè)務(wù)線(xiàn)程更新緩存，未能獲取互斥鎖的請(qǐng)求，要么等待鎖釋放后重新讀取緩存，要么就返回空值或者默認(rèn)值。

• 不給熱點(diǎn)數(shù)據(jù)設(shè)置過(guò)期時(shí)間，由后臺(tái)異步更新緩存，或者在熱點(diǎn)數(shù)據(jù)準(zhǔn)備要過(guò)期前，提前通知后臺(tái)線(xiàn)程更新緩存以及重新設(shè)置過(guò)期時(shí)間；

緩存穿透

當(dāng)發(fā)生緩存雪崩或擊穿時(shí)，數(shù)據(jù)庫(kù)中還是保存了應(yīng)用要訪問(wèn)的數(shù)據(jù)，一旦緩存恢復(fù)相對(duì)應(yīng)的數(shù)據(jù)，就可以減輕數(shù)據(jù)庫(kù)的壓力，而緩存穿透就不一樣了。

當(dāng)用戶(hù)訪問(wèn)的數(shù)據(jù)，既不在緩存中，也不在數(shù)據(jù)庫(kù)中，導(dǎo)致請(qǐng)求在訪問(wèn)緩存時(shí)，發(fā)現(xiàn)緩存缺失，再去訪問(wèn)數(shù)據(jù)庫(kù)時(shí)，發(fā)現(xiàn)數(shù)據(jù)庫(kù)中也沒(méi)有要訪問(wèn)的數(shù)據(jù)，沒(méi)辦法構(gòu)建緩存數(shù)據(jù)，來(lái)服務(wù)后續(xù)的請(qǐng)求。那么當(dāng)有大量這樣的請(qǐng)求到來(lái)時(shí)，數(shù)據(jù)庫(kù)的壓力驟增，這就是緩存穿透的問(wèn)題。

緩存穿透的發(fā)生一般有這兩種情況：

• 業(yè)務(wù)誤操作，緩存中的數(shù)據(jù)和數(shù)據(jù)庫(kù)中的數(shù)據(jù)都被誤刪除了，所以導(dǎo)致緩存和數(shù)據(jù)庫(kù)中都沒(méi)有數(shù)據(jù)；

• 黑客惡意攻擊，故意大量訪問(wèn)某些讀取不存在數(shù)據(jù)的業(yè)務(wù)；

應(yīng)對(duì)緩存穿透的方案，常見(jiàn)的方案有三種。

• 第一種方案，非法請(qǐng)求的限制；

• 第二種方案，緩存空值或者默認(rèn)值；

• 第三種方案，使用布隆過(guò)濾器快速判斷數(shù)據(jù)是否存在，避免通過(guò)查詢(xún)數(shù)據(jù)庫(kù)來(lái)判斷數(shù)據(jù)是否存在；

第一種方案，非法請(qǐng)求的限制

當(dāng)有大量惡意請(qǐng)求訪問(wèn)不存在的數(shù)據(jù)的時(shí)候，也會(huì)發(fā)生緩存穿透，因此在 API 入口處我們要判斷求請(qǐng)求參數(shù)是否合理，請(qǐng)求參數(shù)是否含有非法值、請(qǐng)求字段是否存在，如果判斷出是惡意請(qǐng)求就直接返回錯(cuò)誤，避免進(jìn)一步訪問(wèn)緩存和數(shù)據(jù)庫(kù)。

第二種方案，緩存空值或者默認(rèn)值

當(dāng)我們線(xiàn)上業(yè)務(wù)發(fā)現(xiàn)緩存穿透的現(xiàn)象時(shí)，可以針對(duì)查詢(xún)的數(shù)據(jù)，在緩存中設(shè)置一個(gè)空值或者默認(rèn)值，這樣后續(xù)請(qǐng)求就可以從緩存中讀取到空值或者默認(rèn)值，返回給應(yīng)用，而不會(huì)繼續(xù)查詢(xún)數(shù)據(jù)庫(kù)。

第三種方案，使用布隆過(guò)濾器快速判斷數(shù)據(jù)是否存在，避免通過(guò)查詢(xún)數(shù)據(jù)庫(kù)來(lái)判斷數(shù)據(jù)是否存在。

我們可以在寫(xiě)入數(shù)據(jù)庫(kù)數(shù)據(jù)時(shí)，使用布隆過(guò)濾器做個(gè)標(biāo)記，然后在用戶(hù)請(qǐng)求到來(lái)時(shí)，業(yè)務(wù)線(xiàn)程確認(rèn)緩存失效后，可以通過(guò)查詢(xún)布隆過(guò)濾器快速判斷數(shù)據(jù)是否存在，如果不存在，就不用通過(guò)查詢(xún)數(shù)據(jù)庫(kù)來(lái)判斷數(shù)據(jù)是否存在。

即使發(fā)生了緩存穿透，大量請(qǐng)求只會(huì)查詢(xún) Redis 和布隆過(guò)濾器，而不會(huì)查詢(xún)數(shù)據(jù)庫(kù)，保證了數(shù)據(jù)庫(kù)能正常運(yùn)行，Redis 自身也是支持布隆過(guò)濾器的。

那問(wèn)題來(lái)了，布隆過(guò)濾器是如何工作的呢？接下來(lái)，我介紹下。

布隆過(guò)濾器由「初始值都為 0 的位圖數(shù)組」和「 N 個(gè)哈希函數(shù)」兩部分組成。當(dāng)我們?cè)趯?xiě)入數(shù)據(jù)庫(kù)數(shù)據(jù)時(shí)，在布隆過(guò)濾器里做個(gè)標(biāo)記，這樣下次查詢(xún)數(shù)據(jù)是否在數(shù)據(jù)庫(kù)時(shí)，只需要查詢(xún)布隆過(guò)濾器，如果查詢(xún)到數(shù)據(jù)沒(méi)有被標(biāo)記，說(shuō)明不在數(shù)據(jù)庫(kù)中。

布隆過(guò)濾器會(huì)通過(guò) 3 個(gè)操作完成標(biāo)記：

• 第一步，使用 N 個(gè)哈希函數(shù)分別對(duì)數(shù)據(jù)做哈希計(jì)算，得到 N 個(gè)哈希值；

• 第二步，將第一步得到的 N 個(gè)哈希值對(duì)位圖數(shù)組的長(zhǎng)度取模，得到每個(gè)哈希值在位圖數(shù)組的對(duì)應(yīng)位置。

• 第三步，將每個(gè)哈希值在位圖數(shù)組的對(duì)應(yīng)位置的值設(shè)置為 1；

舉個(gè)例子，假設(shè)有一個(gè)位圖數(shù)組長(zhǎng)度為 8，哈希函數(shù) 3 個(gè)的布隆過(guò)濾器。

在數(shù)據(jù)庫(kù)寫(xiě)入數(shù)據(jù) x 后，把數(shù)據(jù) x 標(biāo)記在布隆過(guò)濾器時(shí)，數(shù)據(jù) x 會(huì)被 3 個(gè)哈希函數(shù)分別計(jì)算出 3 個(gè)哈希值，然后在對(duì)這 3 個(gè)哈希值對(duì) 8 取模，假設(shè)取模的結(jié)果為 1、4、6，然后把位圖數(shù)組的第 1、4、6 位置的值設(shè)置為 1。當(dāng)應(yīng)用要查詢(xún)數(shù)據(jù) x 是否數(shù)據(jù)庫(kù)時(shí)，通過(guò)布隆過(guò)濾器只要查到位圖數(shù)組的第 1、4、6 位置的值是否全為 1，只要有一個(gè)為 0，就認(rèn)為數(shù)據(jù) x 不在數(shù)據(jù)庫(kù)中。

布隆過(guò)濾器由于是基于哈希函數(shù)實(shí)現(xiàn)查找的，高效查找的同時(shí)存在哈希沖突的可能性，比如數(shù)據(jù) x 和數(shù)據(jù) y 可能都落在第 1、4、6 位置，而事實(shí)上，可能數(shù)據(jù)庫(kù)中并不存在數(shù)據(jù) y，存在誤判的情況。

所以，查詢(xún)布隆過(guò)濾器說(shuō)數(shù)據(jù)存在，并不一定證明數(shù)據(jù)庫(kù)中存在這個(gè)數(shù)據(jù)，但是查詢(xún)到數(shù)據(jù)不存在，數(shù)據(jù)庫(kù)中一定就不存在這個(gè)數(shù)據(jù)。

總結(jié)

緩存異常會(huì)面臨的三個(gè)問(wèn)題：緩存雪崩、擊穿和穿透。

其中，緩存雪崩和緩存擊穿主要原因是數(shù)據(jù)不在緩存中，而導(dǎo)致大量請(qǐng)求訪問(wèn)了數(shù)據(jù)庫(kù)，數(shù)據(jù)庫(kù)壓力驟增，容易引發(fā)一系列連鎖反應(yīng)，導(dǎo)致系統(tǒng)奔潰。不過(guò)，一旦數(shù)據(jù)被重新加載回緩存，應(yīng)用又可以從緩存快速讀取數(shù)據(jù)，不再繼續(xù)訪問(wèn)數(shù)據(jù)庫(kù)，數(shù)據(jù)庫(kù)的壓力也會(huì)瞬間降下來(lái)。因此，緩存雪崩和緩存擊穿應(yīng)對(duì)的方案比較類(lèi)似。

而緩存穿透主要原因是數(shù)據(jù)既不在緩存也不在數(shù)據(jù)庫(kù)中。因此，緩存穿透與緩存雪崩、擊穿應(yīng)對(duì)的方案不太一樣。

我這里整理了表格，你可以從下面這張表格很好的知道緩存雪崩、擊穿和穿透的區(qū)別以及應(yīng)對(duì)方案。