五分鐘掃盲：程序在計(jì)算機(jī)中是如何運(yùn)行起來(lái)的

本文并不會(huì)深入底層寄存器指令與硬件等內(nèi)容，只是借此主題為后續(xù)內(nèi)存管理章節(jié)作掃盲，并幫助各位對(duì)分層存儲(chǔ)體系有一個(gè)整體的把握，以及一個(gè)程序在這樣的存儲(chǔ)體系上，究竟是如何運(yùn)行起來(lái)的，這些存儲(chǔ)器在這個(gè)過(guò)程又分別扮演了什么角色。

為什么設(shè)計(jì)了分層存儲(chǔ)體系

其實(shí)早在操作系統(tǒng)系列開(kāi)篇的那篇文章中，我就簡(jiǎn)單介紹過(guò)分層存儲(chǔ)體系（Memory Hierarchy），先來(lái)回顧下（這里我參考的是《現(xiàn)代操作系統(tǒng) — 第三版》這本書(shū)，其他有些資料可能會(huì)劃分的更為細(xì)致，不過(guò)在理解本文的目的上，以下劃分已經(jīng)足夠清晰了）：

各位不妨想一想，為什么需要設(shè)計(jì)出這樣一個(gè)分層的存儲(chǔ)體系來(lái)供計(jì)算機(jī)使用呢？

首先，有一個(gè)觀點(diǎn)不用多說(shuō)，每個(gè)人都希望自己的計(jì)算機(jī)擁有這樣一個(gè)存儲(chǔ)器：它容量無(wú)限大，CPU 訪問(wèn)它的速度無(wú)限快，并且能夠永久性的存儲(chǔ)數(shù)據(jù)（斷電不會(huì)丟失數(shù)據(jù)），而且價(jià)格不能太高昂。

But，遺憾的是，現(xiàn)階段的技術(shù)仍然滿(mǎn)足不了我們的幻想。

為此，經(jīng)過(guò)多年的探索，人們提出了分層存儲(chǔ)體系的概念，把我們的幻想一個(gè)一個(gè)拆開(kāi)對(duì)應(yīng)到不同的存儲(chǔ)器上。

在這個(gè)體系中，計(jì)算機(jī)擁有若干 KB 超級(jí)快速、超級(jí)昂貴且易失性的寄存器；若干 MB 快速、昂貴且易失性的高速緩存（cache）；若干 GB 的速度與價(jià)格都適中、且同樣易失性的內(nèi)存；以及若干 TB 低速、廉價(jià)、非易失性的磁盤(pán)存儲(chǔ)；另外還有諸如磁帶等可移動(dòng)的存儲(chǔ)裝置。

至于為什么這些存儲(chǔ)器的造價(jià)不同，那就和它們的成本、材料、制作工藝等息息相關(guān)了。寄存器超級(jí)快速且超級(jí)昂貴的原因就是它和 CPU 的制作材料是相同的，所以 CPU 訪問(wèn)起來(lái)幾乎是沒(méi)有時(shí)延的。

另外，這里多提一嘴內(nèi)存，關(guān)于內(nèi)存的分類(lèi)眾說(shuō)紛紜，我覺(jué)得各位對(duì)內(nèi)存的概念有大體的把握就行，不必過(guò)度死扣細(xì)節(jié)。

內(nèi)存也經(jīng)常被人們稱(chēng)為主存和隨機(jī)訪問(wèn)存儲(chǔ)器（Random Access Memory，RAM），還有我們上文說(shuō)到內(nèi)存是易失性的，其實(shí)這都不是絕對(duì)正確的，只不過(guò)是通俗的說(shuō)法并且被大眾所認(rèn)可。

現(xiàn)在許多計(jì)算機(jī)都已經(jīng)在使用少量的非易失性隨機(jī)訪問(wèn)存儲(chǔ)器，也就是只讀存儲(chǔ)器（Read Only Memory，ROM），它在工廠中就被編程完畢，然后再也不能被修改。ROM 速度快并且造價(jià)低廉，很多開(kāi)發(fā)商都會(huì)把用于啟動(dòng)計(jì)算機(jī)的引導(dǎo)加載模塊存放在 ROM 中。

裝入內(nèi)存，讓程序跑起來(lái)

這里我先開(kāi)門(mén)見(jiàn)山的總結(jié)一下內(nèi)存和磁盤(pán)的區(qū)別，也方便大家更好的理解下面的例子。通俗來(lái)說(shuō)，內(nèi)存決定了你的計(jì)算機(jī)能夠同時(shí)流暢運(yùn)行多少個(gè)應(yīng)用程序，而磁盤(pán)決定了你的計(jì)算機(jī)能夠下載安裝多少個(gè)應(yīng)用程序。

舉個(gè)例子，這里面涉及到一個(gè)很重要的概念，各位認(rèn)真看哈：

比方說(shuō)你的計(jì)算機(jī)上安裝了 WeChat，你雙擊了 WeChat 快捷方式，操作系統(tǒng)就會(huì)打開(kāi) WeChat 軟件。

那么，各位有沒(méi)有想過(guò)，在分層的存儲(chǔ)體系上，WeChat 或者各種應(yīng)用程序在你的計(jì)算機(jī)上究竟是怎么跑起來(lái)的呢？這些存儲(chǔ)器在這個(gè)過(guò)程又分別扮演了什么角色呢？

首先，有一點(diǎn)你要明確，你安裝的 WeChat 軟件是保存在磁盤(pán)中的。軟件安裝的本質(zhì)是什么？各位應(yīng)該也都明白，就是將很多數(shù)據(jù)的集合存儲(chǔ)到磁盤(pán)上。

雙擊 WeChat 快捷方式，操作系統(tǒng)就會(huì)知道你要運(yùn)行這個(gè)軟件，它會(huì)在磁盤(pán)中找到你安裝的 WeChat  軟件，將運(yùn)行所需要的數(shù)據(jù)從磁盤(pán)中復(fù)制到內(nèi)存里。注意這里！WeChat 不是直接磁盤(pán)中運(yùn)行的，而是在內(nèi)存中運(yùn)行的。

至于原因，那當(dāng)然是內(nèi)存的讀寫(xiě)速度比磁盤(pán)快得多。

所以，為了緩和磁盤(pán)之間的速度不匹配問(wèn)題，程序執(zhí)行前必須將硬盤(pán)上的數(shù)據(jù)復(fù)制到內(nèi)存，CPU 才能夠著手處理，這個(gè)過(guò)程就叫作載入內(nèi)存（Load into Memory），完成這個(gè)過(guò)程需要一個(gè)不可或缺的程序：載入器或者說(shuō)加載器（Loader）。

CPU 直接與內(nèi)存進(jìn)行交互，它會(huì)讀取內(nèi)存中的數(shù)據(jù)進(jìn)行處理，并將結(jié)果返回并保存到內(nèi)存。當(dāng)然，如果你還需要將數(shù)據(jù)保存到磁盤(pán)，復(fù)制操作也會(huì)在內(nèi)存和磁盤(pán)直接發(fā)生一次。

比如說(shuō)，我們打開(kāi)了某個(gè) Word 文檔，并輸入了一些文字，雖然我們直觀看到的已經(jīng)發(fā)生變化了，但是磁盤(pán)中存儲(chǔ)的文檔仍然沒(méi)有改變，它仍然是之前的數(shù)據(jù)，新增的文字只是暫時(shí)保存到了內(nèi)存，只有我們手動(dòng)保存了這篇文檔比如 Ctrl + s 才會(huì)將修改保存到磁盤(pán)中。

而由于內(nèi)存是易失性的，也就是說(shuō)斷電后數(shù)據(jù)就丟失了，所以如果你編輯完 Word 文檔忘記保存或者斷電導(dǎo)致關(guān)機(jī)了，那么你將永遠(yuǎn)無(wú)法找回這些內(nèi)容（悲劇 ??）。

寄存器與高速緩存去哪里了

讀到這里，各位肯定會(huì)有所困惑，上面不是說(shuō)了還有高速緩存嗎？還有寄存器嗎？它們不是也用來(lái)存儲(chǔ)的嗎，在這個(gè)過(guò)程中它們?nèi)ツ睦锪耍?/p>

OK，從 CPU 的角度來(lái)說(shuō)，內(nèi)存是什么？就是一個(gè)笨逼，它僅僅是一個(gè)存放指令和數(shù)據(jù)的地方，計(jì)算機(jī)并不能在內(nèi)存中完成計(jì)算功能。

若把 CPU 比作人類(lèi)的靈魂，內(nèi)存和磁盤(pán)就是人類(lèi)的軀體。沒(méi)有了 CPU，內(nèi)存和磁盤(pán)就淪為一具行尸走肉。當(dāng)然，沒(méi)有了內(nèi)存和磁盤(pán)也不行，畢竟 CPU 的存儲(chǔ)能力非?？蓱z。

比如說(shuō)我們要計(jì)算 a = b + c，必須將變量 a、b、c 從內(nèi)存中讀取到 CPU 內(nèi)部才能進(jìn)行加法運(yùn)算，而在 CPU 中執(zhí)行運(yùn)算工作的部件，就是運(yùn)算單元，可以說(shuō)運(yùn)算單元就是 CPU 的大腦。

我們不妨來(lái)看一下 CPU 的結(jié)構(gòu)：

可以看出，寄存器（Register）和高速緩存都直接內(nèi)嵌在 CPU 中。

先說(shuō)寄存器，其造價(jià)高昂且容量有限，功能涵括數(shù)學(xué)運(yùn)算、控制程序的執(zhí)行流程、標(biāo)記 CPU 運(yùn)行狀態(tài)等。

有些同學(xué)可能認(rèn)為寄存器就是一個(gè)部件，其實(shí)不然，現(xiàn)代的 CPU 基本都內(nèi)置了幾十個(gè)甚至上百個(gè)寄存器，根據(jù)功能的不同，這些寄存器也擁有不同的名字。

例如，EAX 寄存器通常被用在加法運(yùn)算中，用來(lái)保存某個(gè)加數(shù)或運(yùn)算結(jié)果；EIP 寄存器中存儲(chǔ)的值是下一條指令的地址，CPU 執(zhí)行完當(dāng)前指令后，就會(huì)根據(jù) EIP 的值去尋找下一條指令，也就是說(shuō)如果我們改變 EIP 寄存器的值，也就會(huì)相應(yīng)的改變程序的執(zhí)行流程。

另外，寄存器存放的是二進(jìn)制數(shù)據(jù)，我們常常說(shuō) 32 位或者 64 位的 CPU，其實(shí)指的就是寄存器的位數(shù)。

再來(lái)看緩存，為啥 CPU 里面還要弄個(gè)緩存呢？那當(dāng)然還是離不開(kāi)讀寫(xiě)速度的問(wèn)題，雖然 CPU 訪問(wèn)內(nèi)存的速度相比于磁盤(pán)來(lái)說(shuō)已經(jīng)足夠快了，But，真要和高速緩存做個(gè)對(duì)比，那根本就不是一個(gè)數(shù)量級(jí)的，蚍蜉撼樹(shù)罷了。

如果 CPU 每次都從內(nèi)存中讀取數(shù)據(jù)，會(huì)嚴(yán)重拖慢其運(yùn)行速度，CPU 不得不浪費(fèi)大量的時(shí)間來(lái)等待內(nèi)存中數(shù)據(jù)操作的結(jié)束。為此，我們?cè)?CPU 內(nèi)部設(shè)置一個(gè)緩存，將使用頻繁的數(shù)據(jù)暫時(shí)從內(nèi)存中讀取到緩存里來(lái)，這樣，如果緩存命中，就直接從緩存中讀取即可，不必訪問(wèn)內(nèi)存了。

所以很顯然，緩存容量越大的 CPU 其性能就越好。當(dāng)然，畢竟造價(jià)高昂，搞不起超大容量的緩存，大小有限，所以對(duì)于緩存中數(shù)據(jù)取舍的種種算法又是一門(mén)值得深究的話(huà)題。

另外，緩存的概念其實(shí)并不僅僅局限于此。只要存在大量的資源可以劃分成小的部分，那么，這些資源中的某些部分就會(huì)比其他部分更頻繁的得到使用，使用緩存就可以帶來(lái)性能上的改善。在操作系統(tǒng)中，除了 CPU 中的緩存，內(nèi)存和硬盤(pán)之間其實(shí)也有緩存的概念，也就是下面我們將要討論的虛擬內(nèi)存。

虛擬內(nèi)存和局部性原理

虛擬內(nèi)存（Virtual Memory）、虛擬存儲(chǔ)器，這倆其實(shí)是一個(gè)東西，只不過(guò)網(wǎng)絡(luò)上各種博客說(shuō)法不一樣，沒(méi)有統(tǒng)一起來(lái)，容易讓萌新摸不著頭腦。

上文說(shuō)的種種只是在運(yùn)行一個(gè) WeChat 程序的情況下，各位不妨想一下，如果你的電腦內(nèi)存只有 4G，你同時(shí)運(yùn)行了 WeChat、QQ、網(wǎng)易云音樂(lè)、Chrome 等等很多應(yīng)用程序，假設(shè)它們加起來(lái)一共需要 5G 的內(nèi)存空間，也就意味著需要從磁盤(pán)復(fù)制 5G 的數(shù)據(jù)到只有 4G 存儲(chǔ)空間的內(nèi)存，顯然，這是不可能的。

為此，操作系統(tǒng)中引入了虛擬內(nèi)存的概念。當(dāng)程序運(yùn)行需要的存儲(chǔ)空間大于內(nèi)存的容量時(shí)，會(huì)將內(nèi)存中暫時(shí)不用的數(shù)據(jù)寫(xiě)回磁盤(pán)，當(dāng)需要這些數(shù)據(jù)時(shí)再?gòu)拇疟P(pán)中重新讀取，而內(nèi)存中存放的數(shù)據(jù)也就是所謂的熱點(diǎn)數(shù)據(jù)。這樣，磁盤(pán)中就會(huì)有一部分空間用來(lái)存放內(nèi)存中暫時(shí)不用的數(shù)據(jù)，這一部分空間就叫做虛擬內(nèi)存。我們上面所說(shuō)的情況就需要在磁盤(pán)上分配（5 - 4 = 1G）的虛擬內(nèi)存。

這樣，虛擬內(nèi)存中 "虛擬" 二字的含義也就不言而喻了。只有 4G 內(nèi)存，但是可以正常運(yùn)行占用內(nèi)存超過(guò) 4G 的應(yīng)用程序，在用戶(hù)看來(lái)他似乎擁有了一個(gè)比實(shí)際內(nèi)存大得多的內(nèi)存。當(dāng)然，實(shí)際的物理內(nèi)存大小并沒(méi)有發(fā)生改變，只是在邏輯上進(jìn)行了擴(kuò)充。

可以這么理解，引入虛擬內(nèi)存的概念后，在內(nèi)存和磁盤(pán)之間，內(nèi)存就充當(dāng)了緩存的作用。CPU 優(yōu)先從內(nèi)存中獲取數(shù)據(jù)，如果命中，就不需要去訪問(wèn)磁盤(pán)。這里和我們上文所說(shuō)的 CPU 中的緩存和內(nèi)存之間的關(guān)系是不是一模一樣？

當(dāng)然，我們?yōu)槭裁纯梢赃@樣做？這些數(shù)據(jù)為啥就能被調(diào)入緩存/內(nèi)存呢？虛擬內(nèi)存存在的理論支撐是什么？這就是著名的局部性原理。局部性原理包含兩種，時(shí)間局部性和空間局部性：

1）時(shí)間局部性原理：如果 CPU 執(zhí)行了程序中的某條指令，那么不久后這條指令很有可能再次執(zhí)行；如果某個(gè)數(shù)據(jù)被訪問(wèn)過(guò)，不久之后該數(shù)據(jù)很可能再次被訪問(wèn)；

2）空間局部性原理：一旦程序訪問(wèn)了某個(gè)存儲(chǔ)單元，在不久之后，其附近的存儲(chǔ)單元也很有可能被訪問(wèn)，因?yàn)楹芏鄶?shù)據(jù)在內(nèi)存中都是連續(xù)存放的，并且程序的指令也是順序地在內(nèi)存中存放的。