前言

CPU Cache一直是理解計(jì)算機(jī)體系架構(gòu)的重要知識(shí)點(diǎn)，也是并發(fā)編程設(shè)計(jì)中的技術(shù)難點(diǎn)，而且相關(guān)參考資料如同過(guò)江之鯽，浩瀚繁星，閱之如臨深淵，味同嚼蠟，三言?xún)烧Z(yǔ)難以入門(mén)。正好網(wǎng)上有人推薦了微軟大牛Igor Ostrovsky一篇博文《漫游處理器緩存效應(yīng)》，文章不僅僅用7個(gè)最簡(jiǎn)單的源碼示例就將CPU cache的原理娓娓道來(lái)，還附加圖表量化分析做數(shù)學(xué)上的佐證，個(gè)人感覺(jué)這種案例教學(xué)的切入方式絕對(duì)是俺的菜，故而忍不住貿(mào)然譯之，以饗列位看官。

原文地址：Gallery of Processor Cache Effects

大多數(shù)讀者都知道cache是一種快速小型的內(nèi)存，用以存儲(chǔ)最近訪問(wèn)內(nèi)存位置。這種描述合理而準(zhǔn)確，但是更多地了解一些處理器緩存工作中的“煩人”細(xì)節(jié)對(duì)于理解程序運(yùn)行性能有很大幫助。

在這篇博客中，我將運(yùn)用代碼示例來(lái)詳解 cache工作的方方面面，以及對(duì)現(xiàn)實(shí)世界中程序運(yùn)行產(chǎn)生的影響。

下面的例子都是用C#寫(xiě)的，但語(yǔ)言的選擇同程序運(yùn)行狀況以及得出的結(jié)論幾乎沒(méi)什么影響。

示例1：內(nèi)存訪問(wèn)和運(yùn)行

你認(rèn)為相較于循環(huán)1，循環(huán)2會(huì)運(yùn)行更快嗎？

int[]?arr?=?new?int[64?*?1024?*?1024];

//?Loop?1
for?(int?i?=?0;?i?3;

//?Loop?2
for?(int?i?=?0;?i?16)?arr[i]?*=?3;

第一個(gè)循環(huán)將數(shù)組的每個(gè)值乘3，第二個(gè)循環(huán)將每16個(gè)值乘3，第二個(gè)循環(huán)只做了第一個(gè)約6%的工作，但在現(xiàn)代機(jī)器上，兩者幾乎運(yùn)行相同時(shí)間：在我機(jī)器上分別是80毫秒和78毫秒。

兩個(gè)循環(huán)花費(fèi)相同時(shí)間的原因跟內(nèi)存有關(guān)。**循環(huán)執(zhí)行時(shí)間長(zhǎng)短由數(shù)組的內(nèi)存訪問(wèn)次數(shù)決定的，而非整型數(shù)的乘法運(yùn)算次數(shù)。**經(jīng)過(guò)下面對(duì)第二個(gè)示例的解釋?zhuān)銜?huì)發(fā)現(xiàn)硬件對(duì)這兩個(gè)循環(huán)的主存訪問(wèn)次數(shù)是相同的。

示例2：緩存行的影響

讓我們進(jìn)一步探索這個(gè)例子。我們將嘗試不同的循環(huán)步長(zhǎng)，而不僅僅是1和16。

for?(int?i?=?0;?i?3;

下圖為該循環(huán)在不同步長(zhǎng)(K)下的運(yùn)行時(shí)間：

注意當(dāng)步長(zhǎng)在1到16范圍內(nèi)，循環(huán)運(yùn)行時(shí)間幾乎不變。但從16開(kāi)始，每次步長(zhǎng)加倍，運(yùn)行時(shí)間減半。

背后的原因是今天的CPU不再是按字節(jié)訪問(wèn)內(nèi)存，而是以64字節(jié)為單位的塊(chunk)拿取，稱(chēng)為一個(gè)緩存行(cache line)。當(dāng)你讀一個(gè)特定的內(nèi)存地址，整個(gè)緩存行將從主存換入緩存，并且訪問(wèn)同一個(gè)緩存行內(nèi)的其它值的開(kāi)銷(xiāo)是很小的。

由于16個(gè)整型數(shù)占用64字節(jié)（一個(gè)緩存行），for循環(huán)步長(zhǎng)在1到16之間必定接觸到相同數(shù)目的緩存行：即數(shù)組中所有的緩存行。當(dāng)步長(zhǎng)為32，我們只有大約每?jī)蓚€(gè)緩存行接觸一次，當(dāng)步長(zhǎng)為64，只有每四個(gè)接觸一次。

理解緩存行對(duì)某些類(lèi)型的程序優(yōu)化而言可能很重要。比如，數(shù)據(jù)字節(jié)對(duì)齊可能決定一次操作接觸1個(gè)還是2個(gè)緩存行。那上面的例子來(lái)說(shuō)，很顯然操作不對(duì)齊的數(shù)據(jù)將損失一半性能。

示例3：L1和L2緩存大小

今天的計(jì)算機(jī)具有兩級(jí)或三級(jí)緩存，通常叫做L1、L2以及可能的L3（譯者注：如果你不明白什么叫二級(jí)緩存，可以參考這篇精悍的博文）。如果你想知道不同緩存的大小，你可以使用系統(tǒng)內(nèi)部工具CoreInfo，或者Windows API調(diào)用GetLogicalProcessorInfo。兩者都將告訴你緩存行以及緩存本身的大小。

在我的機(jī)器上，CoreInfo顯示我有一個(gè)32KB的L1數(shù)據(jù)緩存，一個(gè)32KB的L1指令緩存，還有一個(gè)4MB大小的L2數(shù)據(jù)緩存。L1緩存是處理器獨(dú)享的，L2緩存是成對(duì)處理器共享的。

Logical Processor to Cache Map: — Data Cache 0, Level 1, 32 KB, Assoc 8, LineSize 64 — Instruction Cache 0, Level 1, 32 KB, Assoc 8, LineSize 64 -– Data Cache 1, Level 1, 32 KB, Assoc 8, LineSize 64 -– Instruction Cache 1, Level 1, 32 KB, Assoc 8, LineSize 64 – Unified Cache 0, Level 2, 4 MB, Assoc 16, LineSize 64 –- Data Cache 2, Level 1, 32 KB, Assoc 8, LineSize 64 –- Instruction Cache 2, Level 1, 32 KB, Assoc 8, LineSize 64 — Data Cache 3, Level 1, 32 KB, Assoc 8, LineSize 64 — Instruction Cache 3, Level 1, 32 KB, Assoc 8, LineSize 64 –** Unified Cache 1, Level 2, 4 MB, Assoc 16, LineSize 64

（譯者注：作者平臺(tái)是四核機(jī)，所以L1編號(hào)為0~3，數(shù)據(jù)/指令各一個(gè)，L2只有數(shù)據(jù)緩存，兩個(gè)處理器共享一個(gè)，編號(hào)0~1。關(guān)聯(lián)性字段在后面例子說(shuō)明。）

讓我們通過(guò)一個(gè)實(shí)驗(yàn)來(lái)驗(yàn)證這些數(shù)字。遍歷一個(gè)整型數(shù)組，每16個(gè)值自增1——一種節(jié)約的方式改變每個(gè)緩存行。當(dāng)遍歷到最后一個(gè)值，就重頭開(kāi)始。我們將使用不同的數(shù)組大小，可以看到當(dāng)數(shù)組溢出一級(jí)緩存大小，程序運(yùn)行的性能將急劇滑落。

int?steps?=?64?*?1024?*?1024;
//?Arbitrary?number?of?steps
int?lengthMod?=?arr.Length?-?1;
for?(int?i?=?0;?i?{
????arr[(i?*?16)?&?lengthMod]++;?//?(x?&?lengthMod)?is?equal?to?(x?%?arr.Length)
}

下圖是運(yùn)行時(shí)間圖表：

你可以看到在32KB和4MB之后性能明顯滑落——正好是我機(jī)器上L1和L2緩存大小。

示例4：指令級(jí)別并發(fā)

現(xiàn)在讓我們看一看不同的東西。下面兩個(gè)循環(huán)中你以為哪個(gè)較快？

int?steps?=?256?*?1024?*?1024;
int[]?a?=?new?int[2];

//?Loop?1
for?(int?i=0;?i0]++;?a[0]++;?}

//?Loop?2
for?(int?i=0;?i0]++;?a[1]++;?}

結(jié)果是第二個(gè)循環(huán)約比第一個(gè)快一倍，至少在我測(cè)試的機(jī)器上。為什么呢？這跟兩個(gè)循環(huán)體內(nèi)的操作指令依賴(lài)性有關(guān)。

第一個(gè)循環(huán)體內(nèi)，操作做是相互依賴(lài)的（譯者注：下一次依賴(lài)于前一次）：

但第二個(gè)例子中，依賴(lài)性就不同了：

現(xiàn)代處理器中對(duì)不同部分指令擁有一點(diǎn)并發(fā)性（譯者注：跟流水線有關(guān)，比如Pentium處理器就有U/V兩條流水線，后面說(shuō)明）。這使得CPU在同一時(shí)刻訪問(wèn)L1兩處內(nèi)存位置，或者執(zhí)行兩次簡(jiǎn)單算術(shù)操作。在第一個(gè)循環(huán)中，處理器無(wú)法發(fā)掘這種指令級(jí)別的并發(fā)性，但第二個(gè)循環(huán)中就可以。

[原文更新]：許多人在reddit上詢(xún)問(wèn)有關(guān)編譯器優(yōu)化的問(wèn)題，像{ a[0]++; a[0]++; }能否優(yōu)化為{ a[0]+=2; }。實(shí)際上，C#編譯器和CLR JIT沒(méi)有做優(yōu)化——在數(shù)組訪問(wèn)方面。我用release模式編譯了所有測(cè)試（使用優(yōu)化選項(xiàng)），但我查詢(xún)了JIT匯編語(yǔ)言證實(shí)優(yōu)化并未影響結(jié)果。

示例5：緩存關(guān)聯(lián)性

緩存設(shè)計(jì)的一個(gè)關(guān)鍵決定是確保每個(gè)主存塊(chunk)能夠存儲(chǔ)在任何一個(gè)緩存槽里，或者只是其中一些（譯者注：此處一個(gè)槽位就是一個(gè)緩存行）。

有三種方式將緩存槽映射到主存塊中：

1. 直接映射(Direct mapped cache) 每個(gè)內(nèi)存塊只能映射到一個(gè)特定的緩存槽。一個(gè)簡(jiǎn)單的方案是通過(guò)塊索引chunk_index映射到對(duì)應(yīng)的槽位(chunk_index % cache_slots)。被映射到同一內(nèi)存槽上的兩個(gè)內(nèi)存塊是不能同時(shí)換入緩存的。（譯者注：chunk_index可以通過(guò)物理地址/緩存行字節(jié)計(jì)算得到）
2. N路組關(guān)聯(lián)(N-way set associative cache) 每個(gè)內(nèi)存塊能夠被映射到N路特定緩存槽中的任意一路。比如一個(gè)16路緩存，每個(gè)內(nèi)存塊能夠被映射到16路不同的緩存槽。一般地，具有一定相同低bit位地址的內(nèi)存塊將共享16路緩存槽。（譯者注：相同低位地址表明相距一定單元大小的連續(xù)內(nèi)存）
3. 完全關(guān)聯(lián)(Fully associative cache) 每個(gè)內(nèi)存塊能夠被映射到任意一個(gè)緩存槽。操作效果上相當(dāng)于一個(gè)散列表。

直接映射緩存會(huì)引發(fā)沖突——當(dāng)多個(gè)值競(jìng)爭(zhēng)同一個(gè)緩存槽，它們將相互驅(qū)逐對(duì)方，導(dǎo)致命中率暴跌。另一方面，完全關(guān)聯(lián)緩存過(guò)于復(fù)雜，并且硬件實(shí)現(xiàn)上昂貴。N路組關(guān)聯(lián)是處理器緩存的典型方案，它在電路實(shí)現(xiàn)簡(jiǎn)化和高命中率之間取得了良好的折中。

舉個(gè)例子，4MB大小的L2緩存在我機(jī)器上是16路關(guān)聯(lián)。所有64字節(jié)內(nèi)存塊將分割為不同組，映射到同一組的內(nèi)存塊將競(jìng)爭(zhēng)L2緩存里的16路槽位。

L2緩存有65,536個(gè)緩存行（譯者注：4MB/64），每個(gè)組需要16路緩存行，我們將獲得4096個(gè)集。這樣一來(lái)，塊屬于哪個(gè)組取決于塊索引的低12位bit(2^12=4096)。因此緩存行對(duì)應(yīng)的物理地址凡是以262,144字節(jié)(4096*64)的倍數(shù)區(qū)分的，將競(jìng)爭(zhēng)同一個(gè)緩存槽。我機(jī)器上最多維持16個(gè)這樣的緩存槽。（譯者注：請(qǐng)結(jié)合上圖中的2路關(guān)聯(lián)延伸理解，一個(gè)塊索引對(duì)應(yīng)64字節(jié)，chunk0對(duì)應(yīng)組0中的任意一路槽位，chunk1對(duì)應(yīng)組1中的任意一路槽位，以此類(lèi)推chunk4095對(duì)應(yīng)組4095中的任意一路槽位，chunk0和chunk4096地址的低12bit是相同的，所以chunk4096、chunk8192將同chunk0競(jìng)爭(zhēng)組0中的槽位，它們之間的地址相差262,144字節(jié)的倍數(shù)，而最多可以進(jìn)行16次競(jìng)爭(zhēng)，否則就要驅(qū)逐一個(gè)chunk）。

為了使得緩存關(guān)聯(lián)效果更加明了，我需要重復(fù)地訪問(wèn)同一組中的16個(gè)以上的元素，通過(guò)如下方法證明：

public?static?long?UpdateEveryKthByte(byte[]?arr,?int?K)
{
????Stopwatch?sw?=?Stopwatch.StartNew();
????const?int?rep?=?1024*1024;?//?Number?of?iterations?–?arbitrary
????int?p?=?0;
????for?(int?i?=?0;?i?????{
????????arr[p]++;
????????p?+=?K;
????????if?(p?>=?arr.Length)?p?=?0;
????}
????sw.Stop();
????return?sw.ElapsedMilliseconds;
}

該方法每次在數(shù)組中迭代K個(gè)值，當(dāng)?shù)竭_(dá)末尾時(shí)從頭開(kāi)始。循環(huán)在運(yùn)行足夠長(zhǎng)（2^20次）之后停止。

我使用不同的數(shù)組大?。看卧黾?MB）和不同的步長(zhǎng)傳入U(xiǎn)pdateEveryKthByte()。以下是繪制的圖表，藍(lán)色代表運(yùn)行較長(zhǎng)時(shí)間，白色代表較短時(shí)間：

藍(lán)色區(qū)域（較長(zhǎng)時(shí)間）表明當(dāng)我們重復(fù)數(shù)組迭代時(shí)，更新的值無(wú)法同時(shí)放在緩存中。淺藍(lán)色區(qū)域?qū)?yīng)80毫秒，白色區(qū)域?qū)?yīng)10毫秒。

讓我們來(lái)解釋一下圖表中藍(lán)色部分：

1.為何有垂直線？垂直線表明步長(zhǎng)值過(guò)多接觸到同一組中內(nèi)存位置（大于16次）。在這些次數(shù)里，我的機(jī)器無(wú)法同時(shí)將接觸過(guò)的值放到16路關(guān)聯(lián)緩存中。

一些糟糕的步長(zhǎng)值為2的冪：256和512。舉個(gè)例子，考慮512步長(zhǎng)遍歷8MB數(shù)組，存在32個(gè)元素以相距262,144字節(jié)空間分布，所有32個(gè)元素都會(huì)在循環(huán)遍歷中更新到，因?yàn)?12能夠整除262,144（譯者注：此處一個(gè)步長(zhǎng)代表一個(gè)字節(jié)）。

由于32大于16，這32個(gè)元素將一直競(jìng)爭(zhēng)緩存里的16路槽位。

（譯者注：為何512步長(zhǎng)的垂直線比256步長(zhǎng)顏色更深？在同樣足夠多的步數(shù)下，512比256訪問(wèn)到存在競(jìng)爭(zhēng)的塊索引次數(shù)多一倍。比如跨越262,144字節(jié)邊界512需要512步，而256需要1024步。那么當(dāng)步數(shù)為2^20時(shí)，512訪問(wèn)了2048次存在競(jìng)爭(zhēng)的塊而256只有1024次。最差情況下步長(zhǎng)為262,144的倍數(shù)，因?yàn)槊看窝h(huán)都會(huì)引發(fā)一個(gè)緩存行驅(qū)逐。）

有些不是2的冪的步長(zhǎng)運(yùn)行時(shí)間長(zhǎng)僅僅是運(yùn)氣不好，最終訪問(wèn)到的是同一組中不成比例的許多元素，這些步長(zhǎng)值同樣顯示為藍(lán)線。

2.為何垂直線在4MB數(shù)組長(zhǎng)度的地方停止？因?yàn)閷?duì)于小于等于4MB的數(shù)組，16路關(guān)聯(lián)緩存相當(dāng)于完全關(guān)聯(lián)緩存。

一個(gè)16路關(guān)聯(lián)緩存最多能夠維護(hù)16個(gè)以262,144字節(jié)分隔的緩存行，4MB內(nèi)組17或更多的緩存行都沒(méi)有對(duì)齊在262,144字節(jié)邊界上，因?yàn)?6*262,144=4,194,304。

3.為何左上角出現(xiàn)藍(lán)色三角？在三角區(qū)域內(nèi)，我們無(wú)法在緩存中同時(shí)存放所有必要的數(shù)據(jù)，不是出于關(guān)聯(lián)性，而僅僅是因?yàn)長(zhǎng)2緩存大小所限。

舉個(gè)例子，考慮步長(zhǎng)128遍歷16MB數(shù)組，數(shù)組中每128字節(jié)更新一次，這意味著我們一次接觸兩個(gè)64字節(jié)內(nèi)存塊。為了存儲(chǔ)16MB數(shù)組中每?jī)蓚€(gè)緩存行，我們需要8MB大小緩存。但我的機(jī)器中只有4MB緩存（譯者注：這意味著必然存在沖突從而延時(shí)）。

即使我機(jī)器中4MB緩存是全關(guān)聯(lián)，仍無(wú)法同時(shí)存放8MB數(shù)據(jù)。

4.為何三角最左邊部分是褪色的？注意左邊0~64字節(jié)部分——正好一個(gè)緩存行！就像上面示例1和2所說(shuō)，額外訪問(wèn)相同緩存行的數(shù)據(jù)幾乎沒(méi)有開(kāi)銷(xiāo)。比如說(shuō)，步長(zhǎng)為16字節(jié)，它需要4步到達(dá)下一個(gè)緩存行，也就是說(shuō)4次內(nèi)存訪問(wèn)只有1次開(kāi)銷(xiāo)。

在相同循環(huán)次數(shù)下的所有測(cè)試用例中，采取省力步長(zhǎng)的運(yùn)行時(shí)間來(lái)得短。

將圖表延伸后的模型：

緩存關(guān)聯(lián)性理解起來(lái)有趣而且確能被證實(shí)，但對(duì)于本文探討的其它問(wèn)題比起來(lái)，它肯定不會(huì)是你編程時(shí)所首先需要考慮的問(wèn)題。

示例6：緩存行的偽共享(false-sharing)

在多核機(jī)器上，緩存遇到了另一個(gè)問(wèn)題——一致性。不同的處理器擁有完全或部分分離的緩存。在我的機(jī)器上，L1緩存是分離的（這很普遍），而我有兩對(duì)處理器，每一對(duì)共享一個(gè)L2緩存。這隨著具體情況而不同，如果一個(gè)現(xiàn)代多核機(jī)器上擁有多級(jí)緩存，那么快速小型的緩存將被處理器獨(dú)占。

當(dāng)一個(gè)處理器改變了屬于它自己緩存中的一個(gè)值，其它處理器就再也無(wú)法使用它自己原來(lái)的值，因?yàn)槠鋵?duì)應(yīng)的內(nèi)存位置將被刷新(invalidate)到所有緩存。而且由于緩存操作是以緩存行而不是字節(jié)為粒度，所有緩存中整個(gè)緩存行將被刷新！

為證明這個(gè)問(wèn)題，考慮如下例子：

private?static?int[]?s_counter?=?new?int[1024];
private?void?UpdateCounter(int?position)
{
????for?(int?j?=?0;?j?100000000;?j++)
????{
????????s_counter[position]?=?s_counter[position]?+?3;
????}
}

在我的四核機(jī)上，如果我通過(guò)四個(gè)線程傳入?yún)?shù)0,1,2,3并調(diào)用UpdateCounter，所有線程將花費(fèi)4.3秒。

另一方面，如果我傳入16,32,48,64，整個(gè)操作進(jìn)花費(fèi)0.28秒！

為何會(huì)這樣？第一個(gè)例子中的四個(gè)值很可能在同一個(gè)緩存行里，每次一個(gè)處理器增加計(jì)數(shù)，這四個(gè)計(jì)數(shù)所在的緩存行將被刷新，而其它處理器在下一次訪問(wèn)它們各自的計(jì)數(shù)（譯者注：注意數(shù)組是private屬性，每個(gè)線程獨(dú)占）將失去命中(miss)一個(gè)緩存。這種多線程行為有效地禁止了緩存功能，削弱了程序性能。

示例7：硬件復(fù)雜性

即使你懂得了緩存的工作基礎(chǔ)，有時(shí)候硬件行為仍會(huì)使你驚訝。不用處理器在工作時(shí)有不同的優(yōu)化、探試和微妙的細(xì)節(jié)。

有些處理器上，L1緩存能夠并發(fā)處理兩路訪問(wèn)，如果訪問(wèn)是來(lái)自不同的存儲(chǔ)體，而對(duì)同一存儲(chǔ)體的訪問(wèn)只能串行處理。而且處理器聰明的優(yōu)化策略也會(huì)使你感到驚訝，比如在偽共享的例子中，以前在一些沒(méi)有微調(diào)的機(jī)器上運(yùn)行表現(xiàn)并不良好，但我家里的機(jī)器能夠?qū)ψ詈?jiǎn)單的例子進(jìn)行優(yōu)化來(lái)減少緩存刷新。

下面是一個(gè)“硬件怪事”的奇怪例子：

private?static?int?A,?B,?C,?D,?E,?F,?G;
private?static?void?Weirdness()
{
????for?(int?i?=?0;?i?200000000;?i++)
????{
????????//?do?something...
????}
}

當(dāng)我在循環(huán)體內(nèi)進(jìn)行三種不同操作，我得到如下運(yùn)行時(shí)間：

操作 時(shí)間 A++; B++; C++; D++; 719 ms A++; C++; E++; G++; 448 ms A++; C++; 518 ms

增加A,B,C,D字段比增加A,C,E,G字段花費(fèi)更長(zhǎng)時(shí)間，更奇怪的是，增加A,C兩個(gè)字段比增加A,C,E,G執(zhí)行更久！

我無(wú)法肯定這些數(shù)字背后的原因，但我懷疑這跟存儲(chǔ)體有關(guān)，如果有人能夠解釋這些數(shù)字，我將洗耳恭聽(tīng)。

這個(gè)例子的教訓(xùn)是，你很難完全預(yù)測(cè)硬件的行為。你可以預(yù)測(cè)很多事情，但最終，衡量及驗(yàn)證你的假設(shè)非常重要。

關(guān)于第7個(gè)例子的一個(gè)回帖

Goz：我詢(xún)問(wèn)Intel的工程師最后的例子，得到以下答復(fù)：

“很顯然這涉及到執(zhí)行單元里指令是怎樣終止的，機(jī)器處理存儲(chǔ)-命中-加載的速度，以及如何快速且優(yōu)雅地處理試探性執(zhí)行的循環(huán)展開(kāi)（比如是否由于內(nèi)部沖突而多次循環(huán)）。但這意味著你需要非常細(xì)致的流水線跟蹤器和模擬器才能弄明白。在紙上預(yù)測(cè)流水線里的亂序指令是無(wú)比困難的工作，就算是設(shè)計(jì)芯片的人也一樣。對(duì)于門(mén)外漢來(lái)說(shuō)，沒(méi)門(mén)，抱歉！”

P.S.個(gè)人感悟——局部性原理和流水線并發(fā)

程序的運(yùn)行存在時(shí)間和空間上的局部性，前者是指只要內(nèi)存中的值被換入緩存，今后一段時(shí)間內(nèi)會(huì)被多次引用，后者是指該內(nèi)存附近的值也被換入緩存。如果在編程中特別注意運(yùn)用局部性原理，就會(huì)獲得性能上的回報(bào)。

比如C語(yǔ)言中應(yīng)該盡量減少靜態(tài)變量的引用，這是因?yàn)殪o態(tài)變量存儲(chǔ)在全局?jǐn)?shù)據(jù)段，在一個(gè)被反復(fù)調(diào)用的函數(shù)體內(nèi)，引用該變量需要對(duì)緩存多次換入換出，而如果是分配在堆棧上的局部變量，函數(shù)每次調(diào)用CPU只要從緩存中就能找到它了，因?yàn)槎褩５闹貜?fù)利用率高。

再比如**循環(huán)體內(nèi)的代碼要盡量精簡(jiǎn)，**因?yàn)榇a是放在指令緩存里的，而指令緩存都是一級(jí)緩存，只有幾K字節(jié)大小，如果對(duì)某段代碼需要多次讀取，而這段代碼又跨越一個(gè)L1緩存大小，那么緩存優(yōu)勢(shì)將蕩然無(wú)存。

關(guān)于CPU的流水線(pipeline)并發(fā)性簡(jiǎn)單說(shuō)說(shuō)，Intel Pentium處理器有兩條流水線U和V，每條流水線可各自獨(dú)立地讀寫(xiě)緩存，所以可以在一個(gè)時(shí)鐘周期內(nèi)同時(shí)執(zhí)行兩條指令。但這兩條流水線不是對(duì)等的，U流水線可以處理所有指令集，V流水線只能處理簡(jiǎn)單指令。

CPU指令通常被分為四類(lèi)，第一類(lèi)是常用的簡(jiǎn)單指令，像mov, nop, push, pop, add, sub, and, or, xor, inc, dec, cmp, lea，可以在任意一條流水線執(zhí)行，只要相互之間不存在依賴(lài)性，完全可以做到指令并發(fā)。

第二類(lèi)指令需要同別的流水線配合，像一些進(jìn)位和移位操作，這類(lèi)指令如果在U流水線中，那么別的指令可以在V流水線并發(fā)運(yùn)行，如果在V流水線中，那么U流水線是暫停的。

第三類(lèi)指令是一些跳轉(zhuǎn)指令，如cmp,call以及條件分支，它們同第二類(lèi)相反，當(dāng)工作在V流水線時(shí)才能通U流水線協(xié)作，否則只能獨(dú)占CPU。

第四類(lèi)指令是其它復(fù)雜的指令，一般不常用，因?yàn)樗鼈兌贾荒塥?dú)占CPU。

如果是匯編級(jí)別編程，要達(dá)到指令級(jí)別并發(fā)，必須要注重指令之間的配對(duì)。盡量使用第一類(lèi)指令，避免第四類(lèi)，還要在順序上減少上下文依賴(lài)。

面試官：如果要存 ip 地址，用什么數(shù)據(jù)類(lèi)型比較好？

Java 17：和遺留 25 年的漏洞 Say Goodbye

推薦：本文把 TCP/IP 講絕了！

Python 暴力破解附近局域網(wǎng) WiFi 密碼

一不小心給粉絲送了 100+本新書(shū)