CPU沒有存儲(chǔ)功能，那么緩存到底是干什么的？CPU緩存是用于減少處理器訪問內(nèi)存所需平均時(shí)間的部件，作用類似于CPU內(nèi)部的內(nèi)存。

更詳細(xì)來講，在計(jì)算機(jī)系統(tǒng)中，CPU高速緩存在金字塔式存儲(chǔ)體系中它位于自頂向下的第二層，僅次于CPU寄存器。其容量遠(yuǎn)小于內(nèi)存，但速度卻可以接近處理器的頻率，比內(nèi)存快得多。

緩存的出現(xiàn)主要是為了解決CPU運(yùn)算速度與內(nèi)存讀寫速度不匹配的矛盾，因?yàn)镃PU運(yùn)算速度要比內(nèi)存讀寫速度快很多，這樣會(huì)使CPU花費(fèi)很長(zhǎng)時(shí)間等待數(shù)據(jù)到來或把數(shù)據(jù)寫入內(nèi)存。

據(jù)電池電路板廠了解，按照數(shù)據(jù)讀取順序和與CPU結(jié)合的緊密程度，CPU緩存可以分為一級(jí)緩存，二級(jí)緩存，部分高端CPU還具有三級(jí)緩存。

之所以CPU需要采用這種層級(jí)結(jié)構(gòu)，主要就是是從成本、性能、容量還有面積上來平衡的。

1. 提升命中率：所謂的命中率是在高速緩存中找到內(nèi)存引用的速率，我們希望能夠首先通過緩存中獲得信息，以得到速度優(yōu)勢(shì)，所以緩存需要最大限度地實(shí)現(xiàn)這一目標(biāo)。對(duì)于單個(gè)高速緩存，大小、關(guān)聯(lián)性和塊大小決定命中率。

2. 降低更低級(jí)別內(nèi)存下的開銷：高速緩存是內(nèi)存層次結(jié)構(gòu)的一部分，其性能會(huì)影響其它性能，處理其它內(nèi)存花費(fèi)的時(shí)間越長(zhǎng)，意味著系統(tǒng)性能越低，也就是說盡可能讓處理在緩存中完成。

3. 減少錯(cuò)失懲罰：緩存中不能命中是無法避免的事情，但是我們可以減少處理未命中所需的時(shí)間以獲得更好的處理器性能，通過提升命中率并通過應(yīng)用不同的優(yōu)化，能夠降低錯(cuò)失懲罰。