CPU沒有存儲功能，那么緩存到底是干什么的？CPU緩存是用于減少處理器訪問內存所需平均時間的部件，作用類似于CPU內部的內存。

更詳細來講，在計算機系統中，CPU高速緩存在金字塔式存儲體系中它位于自頂向下的第二層，僅次于CPU寄存器。其容量遠小于內存，但速度卻可以接近處理器的頻率，比內存快得多。

緩存的出現主要是為了解決CPU運算速度與內存讀寫速度不匹配的矛盾，因為CPU運算速度要比內存讀寫速度快很多，這樣會使CPU花費很長時間等待數據到來或把數據寫入內存。

據電池電路板廠了解，按照數據讀取順序和與CPU結合的緊密程度，CPU緩存可以分為一級緩存，二級緩存，部分高端CPU還具有三級緩存。

之所以CPU需要采用這種層級結構，主要就是是從成本、性能、容量還有面積上來平衡的。

1. 提升命中率：所謂的命中率是在高速緩存中找到內存引用的速率，我們希望能夠首先通過緩存中獲得信息，以得到速度優勢，所以緩存需要最大限度地實現這一目標。對于單個高速緩存，大小、關聯性和塊大小決定命中率。

2. 降低更低級別內存下的開銷：高速緩存是內存層次結構的一部分，其性能會影響其它性能，處理其它內存花費的時間越長，意味著系統性能越低，也就是說盡可能讓處理在緩存中完成。

3. 減少錯失懲罰：緩存中不能命中是無法避免的事情，但是我們可以減少處理未命中所需的時間以獲得更好的處理器性能，通過提升命中率并通過應用不同的優化，能夠降低錯失懲罰。