設(shè)置
  • 日夜間
    隨系統(tǒng)
    淺色
    深色
  • 主題色

我是 Redis,MySQL 大哥被我害慘了!

編程技術(shù)宇宙 2022/11/27 16:03:07 責(zé)編:遠(yuǎn)生

本文來(lái)自微信公眾號(hào):編程技術(shù)宇宙 (ID:xuanyuancoding),作者:軒轅之風(fēng) O

我是 Redis

你好,我是 Redis,一個(gè)叫 Antirez 的男人把我?guī)У搅诉@個(gè)世界上。

說(shuō)起我的誕生,跟關(guān)系數(shù)據(jù)庫(kù) MySQL 還挺有淵源的。

在我還沒(méi)來(lái)到這個(gè)世界上的時(shí)候,MySQL 過(guò)的很辛苦,互聯(lián)網(wǎng)發(fā)展的越來(lái)越快,它容納的數(shù)據(jù)也越來(lái)越多,用戶請(qǐng)求也隨之暴漲,而每一個(gè)用戶請(qǐng)求都變成了對(duì)它的一個(gè)又一個(gè)讀寫(xiě)操作,MySQL 是苦不堪言。尤其是到“雙 11”、“618“這種全民購(gòu)物狂歡的日子,都是 MySQL 受苦受難的日子。

據(jù)后來(lái) MySQL 告訴我說(shuō),其實(shí)有一大半的用戶請(qǐng)求都是讀操作,而且經(jīng)常都是重復(fù)查詢一個(gè)東西,浪費(fèi)它很多時(shí)間去進(jìn)行磁盤(pán) I / O。

后來(lái)有人就琢磨,是不是可以學(xué)學(xué) CPU,給數(shù)據(jù)庫(kù)也加一個(gè)緩存呢?于是我就誕生了!

出生不久,我就和 MySQL 成為了好朋友,我們倆常常攜手出現(xiàn)在后端服務(wù)器中。

應(yīng)用程序們從 MySQL 查詢到的數(shù)據(jù),在我這里登記一下,后面再需要用到的時(shí)候,就先找我要,我這里沒(méi)有再找 MySQL 要。

為了方便使用,我支持好幾種數(shù)據(jù)結(jié)構(gòu)的存儲(chǔ):

String

Hash

List

Set

SortedSet

Bitmap

······

因?yàn)槲野训怯浀臄?shù)據(jù)都記錄在內(nèi)存中,不用去執(zhí)行慢如蝸牛的 I / O 操作,所以找我要比找 MySQL 要省去了不少的時(shí)間呢。

可別小瞧這簡(jiǎn)單的一個(gè)改變,我可為 MySQL 減輕了不小的負(fù)擔(dān)!隨著程序的運(yùn)行,我緩存的數(shù)據(jù)越來(lái)越多,有相當(dāng)部分時(shí)間我都給它擋住了用戶請(qǐng)求,這一下它可樂(lè)得清閑自在了!

有了我的加入,網(wǎng)絡(luò)服務(wù)的性能提升了不少,這都?xì)w功于我為數(shù)據(jù)庫(kù)挨了不少槍子兒。

緩存過(guò)期 && 緩存淘汰

不過(guò)很快我發(fā)現(xiàn)事情不妙了,我緩存的數(shù)據(jù)都是在內(nèi)存中,可是就算是在服務(wù)器上,內(nèi)存的空間資源還是很有限的,不能無(wú)節(jié)制的這么存下去,我得想個(gè)辦法,不然吃棗藥丸。

不久,我想到了一個(gè)辦法:給緩存內(nèi)容設(shè)置一個(gè)超時(shí)時(shí)間,具體設(shè)置多長(zhǎng)交給應(yīng)用程序們?nèi)ピO(shè)置,我要做的就是把過(guò)期了的內(nèi)容從我里面刪除掉,及時(shí)騰出空間就行了。

超時(shí)時(shí)間有了,我該在什么時(shí)候去干這個(gè)清理的活呢?

最簡(jiǎn)單的就是定期刪除,我決定 100ms 就做一次,一秒鐘就是 10 次!

我清理的時(shí)候也不能一口氣把所有過(guò)期的都給刪除掉,我這里面存了大量的數(shù)據(jù),要全面掃一遍的話那不知道要花多久時(shí)間,會(huì)嚴(yán)重影響我接待新的客戶請(qǐng)求的!

時(shí)間緊任務(wù)重,我只好隨機(jī)選擇一部分來(lái)清理,能緩解內(nèi)存壓力就行了。

就這樣過(guò)了一段日子,我發(fā)現(xiàn)有些個(gè)鍵值運(yùn)氣比較好,每次都沒(méi)有被我的隨機(jī)算法選中,每次都能幸免于難,這可不行,這些長(zhǎng)時(shí)間過(guò)期的數(shù)據(jù)一直霸占著不少的內(nèi)存空間!氣抖冷!

我眼里可揉不得沙子!于是在原來(lái)定期刪除的基礎(chǔ)上,又加了一招:

那些原來(lái)逃脫我隨機(jī)選擇算法的鍵值,一旦遇到查詢請(qǐng)求,被我發(fā)現(xiàn)已經(jīng)超期了,那我就絕不客氣,立即刪除。

這種方式因?yàn)槭潜粍?dòng)式觸發(fā)的,不查詢就不會(huì)發(fā)生,所以也叫惰性刪除!

可是,還是有部分鍵值,既逃脫了我的隨機(jī)選擇算法,又一直沒(méi)有被查詢,導(dǎo)致它們一直逍遙法外!而與此同時(shí),可以使用的內(nèi)存空間卻越來(lái)越少。

而且就算退一步講,我能夠把過(guò)期的數(shù)據(jù)都刪除掉,那萬(wàn)一過(guò)期時(shí)間設(shè)置的很長(zhǎng),還沒(méi)等到我去清理,內(nèi)存就吃滿了,一樣要吃棗藥丸,所以我還得想個(gè)辦法。

我苦思良久,終于憋出了個(gè)大招:內(nèi)存淘汰策略,這一次我要徹底解決問(wèn)題!

我提供了 8 種策略供應(yīng)用程序選擇,用于我遇到內(nèi)存不足時(shí)該如何決策:

noeviction:返回錯(cuò)誤,不會(huì)刪除任何鍵值

allkeys-lru:使用 LRU 算法刪除最近最少使用的鍵值

volatile-lru:使用 LRU 算法從設(shè)置了過(guò)期時(shí)間的鍵集合中刪除最近最少使用的鍵值

allkeys-random:從所有 key 隨機(jī)刪除

volatile-random:從設(shè)置了過(guò)期時(shí)間的鍵的集合中隨機(jī)刪除

volatile-ttl:從設(shè)置了過(guò)期時(shí)間的鍵中刪除剩余時(shí)間最短的鍵

volatile-lfu:從配置了過(guò)期時(shí)間的鍵中刪除使用頻率最少的鍵

allkeys-lfu:從所有鍵中刪除使用頻率最少的鍵

有了上面幾套組合拳,我再也不用擔(dān)心過(guò)期數(shù)據(jù)多了把空間撐滿的問(wèn)題了~

緩存穿透 && 布隆過(guò)濾器

我的日子過(guò)的還挺舒坦,不過(guò) MySQL 大哥就沒(méi)我這么舒坦了,有時(shí)候遇到些煩人的請(qǐng)求,查詢的數(shù)據(jù)不存在,MySQL 就要白忙活一場(chǎng)!不僅如此,因?yàn)椴淮嬖?,我也沒(méi)法緩存啊,導(dǎo)致同樣的請(qǐng)求來(lái)了每次都要去讓 MySQL 白忙活一場(chǎng)。我作為緩存的價(jià)值就沒(méi)得到體現(xiàn)啦!這就是人們常說(shuō)的緩存穿透。

這一來(lái)二去,MySQL 大哥忍不住了:“唉,兄弟,能不能幫忙想個(gè)辦法,把那些明知道不會(huì)有結(jié)果的查詢請(qǐng)求給我擋一下”

這時(shí)我想到了我的另外一個(gè)好朋友:布隆過(guò)濾器

我這位朋友別的本事沒(méi)有,就擅長(zhǎng)從超大的數(shù)據(jù)集中快速告訴你查找的數(shù)據(jù)存不存在(悄悄告訴你,我的這位朋友有一點(diǎn)不靠譜,它告訴你存在的話不能全信,其實(shí)有可能是不存在的,不過(guò)它他要是告訴你不存在的話,那就一定不存在)。

如果你對(duì)我這位朋友感興趣的話,可以看看這里《白話布隆過(guò)濾器 BloomFilter》。

我把這位朋友介紹給了應(yīng)用程序,不存在的數(shù)據(jù)就不必去叨擾 MySQL 了,輕松幫忙解決了緩存穿透的問(wèn)題。

緩存擊穿 && 緩存雪崩

這之后過(guò)了一段時(shí)間太平日子,直到那一天???

有一次,MySQL 那家伙正優(yōu)哉游哉的摸魚(yú),突然一大堆請(qǐng)求給他懟了過(guò)去,給他打了一個(gè)措手不及。

一陣忙活之后,MySQL 怒氣沖沖的找到了我,“兄弟,咋回事啊,怎么一下子來(lái)的這么猛”

我查看了日志,趕緊解釋到:“大哥,實(shí)在不好意思,剛剛有一個(gè)熱點(diǎn)數(shù)據(jù)到了過(guò)期時(shí)間,被我刪掉了,不巧的是隨后就有對(duì)這個(gè)數(shù)據(jù)的大量查詢請(qǐng)求來(lái)了,我這里已經(jīng)刪了,所以請(qǐng)求都發(fā)到你那里來(lái)了”

“你這干的叫啥事,下次注意點(diǎn)啊”,MySQL 大哥一臉不高興的離開(kāi)了。

這一件小事我也沒(méi)怎么放在心上,隨后就拋之腦后了,卻沒(méi)曾想幾天之后竟捅了更大的簍子。

那一天,又出現(xiàn)了大量的網(wǎng)絡(luò)請(qǐng)求發(fā)到了 MySQL 那邊,比上一次的規(guī)模大得多,MySQL 大哥一會(huì)兒功夫就給干趴下了好幾次!

等了好半天這一波流量才算過(guò)去,MySQL 才緩過(guò)神來(lái)。

“老弟,這一次又是什么原因?”,MySQL 大哥累的沒(méi)了力氣。

“這一次比上一次更不巧,這一次是一大批數(shù)據(jù)幾乎同時(shí)過(guò)了有效期,然后又發(fā)生了很多對(duì)這些數(shù)據(jù)的請(qǐng)求,所以比起上一次這規(guī)模更大了”

MySQL 大哥聽(tīng)了眉頭一皺,“那你倒是想個(gè)辦法啊,三天兩頭折磨我,這誰(shuí)頂?shù)米“。?/strong>”

“其實(shí)我也很無(wú)奈,這個(gè)時(shí)間也不是我設(shè)置的,要不我去找應(yīng)用程序說(shuō)說(shuō),讓他把緩存過(guò)期時(shí)間設(shè)置的均勻一些?至少別讓大量數(shù)據(jù)集體失效”

“走,咱倆一起去”

后來(lái),我倆去找應(yīng)用程序商量了,不僅把鍵值的過(guò)期時(shí)間隨機(jī)了一下,還設(shè)置了熱點(diǎn)數(shù)據(jù)永不過(guò)期,這個(gè)問(wèn)題緩解了不少。哦對(duì)了,我們還把這兩次發(fā)生的問(wèn)題分別取了個(gè)名字:緩存擊穿緩存雪崩

我們終于又過(guò)上了舒適的日子???

彩蛋

那天,我正在努力工作中,不小心出了錯(cuò),整個(gè)進(jìn)程都崩潰了。

當(dāng)我再次啟動(dòng)后,之前緩存的數(shù)據(jù)全都沒(méi)了,暴風(fēng)雨似的請(qǐng)求再一次全都懟到了 MySQL 大哥那里。

唉,要是我能夠記住崩潰前緩存的內(nèi)容就好了???

預(yù)知后事如何,請(qǐng)關(guān)注后續(xù)精彩??????

廣告聲明:文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時(shí)間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。

相關(guān)文章

關(guān)鍵詞:編程,Redis

軟媒旗下網(wǎng)站: IT之家 最會(huì)買(mǎi) - 返利返現(xiàn)優(yōu)惠券 iPhone之家 Win7之家 Win10之家 Win11之家

軟媒旗下軟件: 軟媒手機(jī)APP應(yīng)用 魔方 最會(huì)買(mǎi) 要知