處理器要想發(fā)揮出優(yōu)異的性能，除了與核心架構(gòu)有關(guān)之外，緩存的作用也是功不可沒。那什么是CPU的緩存呢？其實很好解釋，CPU緩存（Cache Memoney）就是位于CPU與內(nèi)存之間的臨時存儲器，它的容量比內(nèi)存小但數(shù)據(jù)交換速率卻快很多。

【圖】處理器緩存工作原理
　　緩存的工作原理是當(dāng)CPU要讀取一個數(shù)據(jù)時，首先從緩存中查找，如果找到就立即讀取并送給CPU處理；如果沒有找到，就用相對慢的速度從內(nèi)存中讀取并送給CPU處理，同時把這個數(shù)據(jù)所在的數(shù)據(jù)塊調(diào)入緩存中，可以使得以后對整塊數(shù)據(jù)的讀取都從緩存中進(jìn)行，不必再調(diào)用內(nèi)存。

【圖】處理器緩存構(gòu)造
　　正是這樣的讀取機制使CPU讀取緩存的命中率非常高（大多數(shù)CPU可達(dá)90%左右），也就是說CPU下一次要讀取的數(shù)據(jù)90%都在緩存中，只有大約10%需要從內(nèi)存讀取。這大大節(jié)省了CPU直接讀取內(nèi)存的時間，也使CPU讀取數(shù)據(jù)時基本無需等待?？偟膩碚f，CPU讀取數(shù)據(jù)的順序是先緩存后內(nèi)存。

【圖】L2級緩存
　　在高速運轉(zhuǎn)的處理器緩存世界中，事實上還有很多不為大眾所了解的“內(nèi)幕”，今天筆者將圍繞很多玩家還存在的四種認(rèn)識誤區(qū)展開，感興趣的玩家一定不要錯過哦。
　　錯誤觀點一：處理器緩存可以用來取代內(nèi)存

【圖】擁有8MB緩存的Intel 65nm四核心Kentsfield處理器



#p#
　　處理器緩存的傳輸速率確實很高，然而還不足以取代內(nèi)存的地位，這主要是由于緩存只是內(nèi)存中少部分?jǐn)?shù)據(jù)的復(fù)制品，所以CPU到緩存中尋找數(shù)據(jù)時，也會出現(xiàn)找不到的情況（因為這些數(shù)據(jù)沒有從內(nèi)存復(fù)制到緩存中去），這時CPU還是會到內(nèi)存中去找數(shù)據(jù)。與此同時系統(tǒng)的速度就慢了下來，不過CPU會把這些數(shù)據(jù)復(fù)制到緩存中去，以便下一次不用再到內(nèi)存中去取。就目前緩存容量、成本以及功耗表現(xiàn)來看，還遠(yuǎn)遠(yuǎn)無法與內(nèi)存抗衡，另外從某種意義上來說，內(nèi)存也是處理器緩存的一種表現(xiàn)形式，只不過在速率上慢很多，然而卻在容量、功耗以及成本方面擁有巨大優(yōu)勢。如果內(nèi)存在將來可以做到足夠強的話，反而很有取代處理器緩存的可能。
　　錯誤觀點二：處理器緩存是一個整體

【圖】生產(chǎn)技術(shù)對緩存容量大小的影響

【圖】PCB上帶緩存的PentiumIII處理器
　　事實上最早先的CPU緩存確實是個整體，而且容量也很低。英特爾公司從Pentium時代開始后就把緩存進(jìn)行了分類，當(dāng)時集成在CPU內(nèi)核中的緩存已不足以滿足CPU的需求，而制造工藝上的限制又不能大幅度提高緩存的容量。因此出現(xiàn)了集成在與CPU同一塊電路板上或主板上的緩存，此時就把CPU內(nèi)核集成的緩存稱為一級緩存，而外部的稱為二級緩存；后來隨著生產(chǎn)技術(shù)的不斷提高，最終二級緩存也被挪進(jìn)了處理器當(dāng)中。通常一級緩存中還分?jǐn)?shù)據(jù)緩存（Data Cache，D-Cache）和指令緩存（Instruction Cache，I-Cache）。二者分別用來存放數(shù)據(jù)和執(zhí)行這些數(shù)據(jù)的指令，而且兩者可以同時被CPU訪問，減少了爭用Cache所造成的沖突，提高了處理器效能。英特爾公司在推出Pentium 4處理器時，還新增了一種一級追蹤緩存，容量為12KB。
　　錯誤觀點三：L1級緩存和L2級緩存只有容量上的差別
　　用于存儲數(shù)據(jù)的緩存部分通常被稱為RAM，掉電以后其中的信息就會消失。RAM又分兩種，其中一種是靜態(tài)RAM（SRAM）；另外一種是動態(tài)RAM（DRAM）。前者的存儲速度要比后者快得多，我們現(xiàn)在使用的內(nèi)存一般都是動態(tài)RAM。處理器的L1級緩存通常都是靜態(tài)RAM，速度非常的快，但是靜態(tài)RAM集成度低（存儲相同的數(shù)據(jù)，靜態(tài)RAM的體積是動態(tài)RAM的6倍），而且價格也相對較為昂貴（同容量的靜態(tài)RAM是動態(tài)RAM的四倍）。擴大靜態(tài)RAM作為緩存是一個不太合算的做法，但是為了提高系統(tǒng)的性能和速度又必須要擴大緩存，這就有了一個折中的方法：在不擴大原來的靜態(tài)RAM緩存容量的情況下，僅僅增加一些高速動態(tài)RAM做為L2級緩存。高速動態(tài)RAM速度要比常規(guī)動態(tài)RAM快，但比原來的靜態(tài)RAM緩存慢，而且成本也較為適中。一級緩存和二級緩存中的內(nèi)容都是內(nèi)存中訪問頻率高的數(shù)據(jù)的復(fù)制品（映射），它們的存在都是為了減少高速CPU對慢速內(nèi)存的訪問。



　　二級緩存是CPU性能表現(xiàn)的關(guān)鍵之一，在CPU核心不變化的情況下，增加二級緩存容量能使性能大幅度提高。而同一核心的CPU高低端之分往往也是在二級緩存上存在差異，由此可見二級緩存對CPU的重要性。CPU在緩存中找到有用的數(shù)據(jù)被稱為命中，當(dāng)緩存中沒有CPU所需的數(shù)據(jù)時（這時稱為未命中），CPU才訪問內(nèi)存。從理論上講，在一顆擁有二級緩存的CPU中，讀取一級緩存的命中率為80%。也就是說CPU一級緩存中找到的有用數(shù)據(jù)占數(shù)據(jù)總量的80%，剩下的20%從二級緩存中讀取。由于不能準(zhǔn)確預(yù)測將要執(zhí)行的數(shù)據(jù)，讀取二級緩存的命中率也在80%左右（從二級緩存讀到有用的數(shù)據(jù)占總數(shù)據(jù)的16%）。那么還有的數(shù)據(jù)就不得不從內(nèi)存調(diào)用，但這已經(jīng)是一個相當(dāng)小的比例了。目前的較高端CPU中，還會帶有三級緩存，它是為讀取二級緩存后未命中的數(shù)據(jù)設(shè)計的—種緩存，在擁有三級緩存的CPU中，只有約5%的數(shù)據(jù)需要從內(nèi)存中調(diào)用，這進(jìn)一步提高了CPU的效率，從某種意義上說，預(yù)取效率的提高，大大降低了生產(chǎn)成本卻提供了非常接近理想狀態(tài)的性能。除非某天生產(chǎn)技術(shù)變得非常強，否則內(nèi)存仍會存在，緩存的性能遞增特性也仍會保留。
　　錯誤觀點四：緩存只是隨意調(diào)取數(shù)據(jù)并無選擇
　　即便處理器內(nèi)部集成的緩存數(shù)據(jù)交換能力非常強，也仍需要對調(diào)取數(shù)據(jù)做一定的篩選。這是因為隨著時間的變化，被訪問得最頻繁的數(shù)據(jù)不是一成不變的，也就是說，剛才還不頻繁的數(shù)據(jù)，此時已經(jīng)需要被頻繁的訪問，剛才還是最頻繁的數(shù)據(jù)，現(xiàn)在又不頻繁了，所以說緩存中的數(shù)據(jù)要經(jīng)常按照一定的算法來更換，這樣才能保證緩存中的數(shù)據(jù)經(jīng)常是被訪問最頻繁的。命中率算法中較常用的“最近最少使用算法”（LRU算法），它是將最近一段時間內(nèi)最少被訪問過的行淘汰出局。因此需要為每行設(shè)置一個計數(shù)器，LRU算法是把命中行的計數(shù)器清零，其他各行計數(shù)器加1。當(dāng)需要替換時淘汰行計數(shù)器計數(shù)值最大的數(shù)據(jù)行出局。這是一種高效、科學(xué)的算法，其計數(shù)器清零過程可以把一些頻繁調(diào)用后再不需要的數(shù)據(jù)淘汰出緩存，提高緩存的利用率。

【圖】擁有144MB緩存的八路IBM POWER5處理器
　　總結(jié)：
　　高速緩存做為處理器不可分割的一部分，已經(jīng)融入到性能提升的考慮因素當(dāng)中，伴隨生產(chǎn)技術(shù)的進(jìn)一步發(fā)展，緩存的級數(shù)還將增加，容量也會進(jìn)一步提高。作為處理器性能助推器的高速緩存，仍會在成本和功耗控制發(fā)揮巨大的優(yōu)勢，而性能方面也會有長足的發(fā)展?？梢院敛豢鋸埖恼f：緩存技術(shù)帶領(lǐng)處理器走進(jìn)了多彩的天堂。

最新評論