1. 什么是偽共享

CPU 緩存系統(tǒng)中是以緩存行（cache line）為單位存儲(chǔ)的。目前主流的 CPU Cache 的 Cache Line 大小都是 64 Bytes。在多線程情況下，如果需要修改“共享同一個(gè)緩存行的變量”，就會(huì)無(wú)意中影響彼此的性能，這就是偽共享（False Sharing）。

2. 緩存行

由于共享變量在 CPU 緩存中的存儲(chǔ)是以緩存行為單位，一個(gè)緩存行可以存儲(chǔ)多個(gè)變量（存滿當(dāng)前緩存行的字節(jié)數(shù)）；而CPU對(duì)緩存的修改又是以緩存行為最小單位的，那么就會(huì)出現(xiàn)上訴的偽共享問(wèn)題。

Cache Line 可以簡(jiǎn)單的理解為 CPU Cache 中的最小緩存單位，今天的 CPU 不再是按字節(jié)訪問(wèn)內(nèi)存，而是以 64 字節(jié)為單位的塊(chunk)拿取，稱(chēng)為一個(gè)緩存行(cache line)。當(dāng)你讀一個(gè)特定的內(nèi)存地址，整個(gè)緩存行將從主存換入緩存，并且訪問(wèn)同一個(gè)緩存行內(nèi)的其它值的開(kāi)銷(xiāo)是很小的。

3. CPU 的三級(jí)緩存

由于 CPU 的速度遠(yuǎn)遠(yuǎn)大于內(nèi)存速度，所以 CPU 設(shè)計(jì)者們就給 CPU 加上了緩存(CPU Cache)。 以免運(yùn)算被內(nèi)存速度拖累。（就像我們寫(xiě)代碼把共享數(shù)據(jù)做Cache不想被DB存取速度拖累一樣），CPU Cache 分成了三個(gè)級(jí)別：L1，L2，L3。越靠近CPU的緩存越快也越小。所 以L1 緩存很小但很快，并且緊靠著在使用它的 CPU 內(nèi)核。L2 大一些，也慢一些，并且仍然只能被一個(gè)單獨(dú)的 CPU 核使用。L3 在現(xiàn)代多核機(jī)器中更普遍，仍然更大，更慢，并且被單個(gè)插槽上的所有 CPU 核共享。最后，你擁有一塊主存，由全部插槽上的所有 CPU 核共享。

當(dāng) CPU 執(zhí)行運(yùn)算的時(shí)候，它先去L1查找所需的數(shù)據(jù)，再去L2，然后是L3，最后如果這些緩存中都沒(méi)有，所需的數(shù)據(jù)就要去主內(nèi)存拿。走得越遠(yuǎn)，運(yùn)算耗費(fèi)的時(shí)間就越長(zhǎng)。所以如果你在做一些很頻繁的事，你要確保數(shù)據(jù)在L1緩存中。

4. 緩存關(guān)聯(lián)性

目前常用的緩存設(shè)計(jì)是N路組關(guān)聯(lián)(N-Way Set Associative Cache)，他的原理是把一個(gè)緩存按照N個(gè) Cache Line 作為一組（Set），緩存按組劃為等分。每個(gè)內(nèi)存塊能夠被映射到相對(duì)應(yīng)的set中的任意一個(gè)緩存行中。比如一個(gè)16路緩存，16個(gè) Cache Line 作為一個(gè)Set，每個(gè)內(nèi)存塊能夠被映射到相對(duì)應(yīng)的 Set 中的16個(gè) CacheLine 中的任意一個(gè)。一般地，具有一定相同低bit位地址的內(nèi)存塊將共享同一個(gè)Set。

下圖為一個(gè)2-Way的Cache。由圖中可以看到 Main Memory 中的 Index 0,2,4 都映射在Way0的不同 CacheLine 中，Index 1,3,5都映射在Way1的不同 CacheLine 中。

5. MESI 協(xié)議

多核 CPU 都有自己的專(zhuān)有緩存（一般為L(zhǎng)1，L2），以及同一個(gè) CPU 插槽之間的核共享的緩存（一般為L(zhǎng)3）。不同核心的CPU緩存中難免會(huì)加載同樣的數(shù)據(jù)，那么如何保證數(shù)據(jù)的一致性呢，就是 MESI 協(xié)議了。

在 MESI 協(xié)議中，每個(gè) Cache line 有4個(gè)狀態(tài)，可用 2 個(gè) bit 表示，它們分別是：
M(Modified)：這行數(shù)據(jù)有效，數(shù)據(jù)被修改了，和內(nèi)存中的數(shù)據(jù)不一致，數(shù)據(jù)只存在于本 Cache 中；
E(Exclusive)：這行數(shù)據(jù)有效，數(shù)據(jù)和內(nèi)存中的數(shù)據(jù)一致，數(shù)據(jù)只存在于本 Cache 中；
S(Shared)：這行數(shù)據(jù)有效，數(shù)據(jù)和內(nèi)存中的數(shù)據(jù)一致，數(shù)據(jù)存在于很多 Cache 中；
I(Invalid)：這行數(shù)據(jù)無(wú)效。

那么，假設(shè)有一個(gè)變量i=3（應(yīng)該是包括變量i的緩存塊，塊大小為緩存行大小）；已經(jīng)加載到多核（a,b,c）的緩存中，此時(shí)該緩存行的狀態(tài)為S；此時(shí)其中的一個(gè)核a改變了變量i的值，那么在核a中的當(dāng)前緩存行的狀態(tài)將變?yōu)镸，b,c核中的當(dāng)前緩存行狀態(tài)將變?yōu)镮。如下圖：

6. 解決原理

為了避免由于 false sharing 導(dǎo)致 Cache Line 從 L1,L2,L3 到主存之間重復(fù)載入，我們可以使用數(shù)據(jù)填充的方式來(lái)避免，即單個(gè)數(shù)據(jù)填充滿一個(gè)CacheLine。這本質(zhì)是一種空間換時(shí)間的做法。

7. Java 對(duì)于偽共享的傳統(tǒng)解決方案

import java.util.concurrent.atomic.AtomicLong;
 
public final class FalseSharing
  implements Runnable
{
  public final static int NUM_THREADS = 4; // change
  public final static long ITERATIONS = 500L * 1000L * 1000L;
  private final int arrayIndex;
 
  private static VolatileLong[] longs = new VolatileLong[NUM_THREADS];
  static
  {
    for (int i = 0; i < longs.length; i++)
    {
      longs[i] = new VolatileLong();
    }
  }
 
  public FalseSharing(final int arrayIndex)
  {
    this.arrayIndex = arrayIndex;
  }
 
  public static void main(final String[] args) throws Exception
  {
    final long start = System.nanoTime();
    runTest();
    System.out.println("duration = " + (System.nanoTime() - start));
  }
 
  private static void runTest() throws InterruptedException
  {
    Thread[] threads = new Thread[NUM_THREADS];
 
    for (int i = 0; i < threads.length; i++)
    {
      threads[i] = new Thread(new FalseSharing(i));
    }
 
    for (Thread t : threads)
    {
      t.start();
    }
 
    for (Thread t : threads)
    {
      t.join();
    }
  }
 
  public void run()
  {
    long i = ITERATIONS + 1;
    while (0 != --i)
    {
      longs[arrayIndex].set(i);
    }
  }
 
  public static long sumPaddingToPreventOptimisation(final int index)
  {
    VolatileLong v = longs[index];
    return v.p1 + v.p2 + v.p3 + v.p4 + v.p5 + v.p6;
  }
 
  //jdk7以上使用此方法(jdk7的某個(gè)版本oracle對(duì)偽共享做了優(yōu)化)
  public final static class VolatileLong
  {
    public volatile long value = 0L;
    public long p1, p2, p3, p4, p5, p6;
  }
 
  // jdk7以下使用此方法
  public final static class VolatileLong
  {
    public long p1, p2, p3, p4, p5, p6, p7; // cache line padding
    public volatile long value = 0L;
    public long p8, p9, p10, p11, p12, p13, p14; // cache line padding
 
  }
}

8. Java 8 中的解決方案

Java 8 中已經(jīng)提供了官方的解決方案，Java 8 中新增了一個(gè)注解：@sun.misc.Contended。加上這個(gè)注解的類(lèi)會(huì)自動(dòng)補(bǔ)齊緩存行，需要注意的是此注解默認(rèn)是無(wú)效的，需要在 jvm 啟動(dòng)時(shí)設(shè)置 -XX:-RestrictContended 才會(huì)生效。

@sun.misc.Contended
public final static class VolatileLong {
  public volatile long value = 0L;
  //public long p1, p2, p3, p4, p5, p6;

以上就是本文的全部?jī)?nèi)容，希望對(duì)大家的學(xué)習(xí)有所幫助，也希望大家多多支持腳本之家。

最新評(píng)論