1. <strong id="7actg"></strong>
    2. <table id="7actg"></table>

    3. <address id="7actg"></address>
      <address id="7actg"></address>
      1. <object id="7actg"><tt id="7actg"></tt></object>

        30 張圖解 | 高頻面試知識(shí)點(diǎn)總結(jié):面試官問我高并發(fā)服務(wù)模型哪家強(qiáng)?

        共 7650字,需瀏覽 16分鐘

         ·

        2020-10-29 15:53

        點(diǎn)擊上方藍(lán)色“后端技術(shù)學(xué)堂”關(guān)注后加個(gè)“星標(biāo)

        最新分享第一時(shí)間看!


        正文共 7032?字 30 圖,預(yù)計(jì)閱讀時(shí)長(zhǎng) 15?分鐘

        ??

        面試中經(jīng)常會(huì)被問到高性能服務(wù)模型選擇對(duì)比,以及如何提高服務(wù)性能和處理能力,這其中涉及操作系統(tǒng)軟件和計(jì)算機(jī)硬件知識(shí),其實(shí)都是在考察候選人的基礎(chǔ)知識(shí)掌握程度,但如果沒準(zhǔn)備的話容易一頭霧水,這次帶大家從頭到尾學(xué)習(xí)一遍,學(xué)完這一篇再也不怕面試官刨根問底了!

        任務(wù)類型

        談高并發(fā)服務(wù)模型選擇之前,我們先來看下程序的的任務(wù)類型,程序任務(wù)類型一般分為 CPU 密集型任務(wù)和 IO 密集型任務(wù),這兩種任務(wù)有各自的特點(diǎn),對(duì)程序的要求是不一樣的需要分開對(duì)待。

        CPU密集型任務(wù)

        一個(gè)程序任務(wù)大部分是計(jì)算類的,比如邏輯處理、數(shù)值比較和計(jì)算,我們就稱它是 CPU 密集型任務(wù)或計(jì)算密集型任務(wù)。CPU 密集型任務(wù)的特點(diǎn)是要進(jìn)行大量的計(jì)算,消耗 CPU 資源,比如計(jì)算圓周率、視頻編解碼這些靠的是 CPU 的運(yùn)算能力。

        CPU 密集型任務(wù)雖然也可以用多任務(wù)完成,但是任務(wù)越多,任務(wù)之間切換的時(shí)間就越多,CPU 執(zhí)行效率反而更低,所以要最高效地利用 CPU,任務(wù)并行數(shù)應(yīng)當(dāng)?shù)扔?CPU 的核心數(shù),避免任務(wù)在 CPU 核之間頻繁切換。

        芯片線路 |圖片來源:www.hippopx.com License?CC0

        IO密集型任務(wù)

        一個(gè)程序涉及到大量網(wǎng)絡(luò)、磁盤等比較耗時(shí)的輸入輸出任務(wù),就稱它是 IO 密集型任務(wù),這類任務(wù)的特點(diǎn)是 CPU 消耗很少,任務(wù)的大部分時(shí)間都在等待 IO 操作完成(因?yàn)?IO 的速度遠(yuǎn)遠(yuǎn)低于 CPU 和內(nèi)存的速度,不是一個(gè)數(shù)量級(jí)的)。

        對(duì)于 IO 密集型任務(wù),任務(wù)越多 CPU 效率越高,但也不是無限的開啟多任務(wù),如果任務(wù)過多頻繁切換的開銷也不可忽視。常見的大部分程序都是執(zhí)行 IO 密集型任務(wù),比如互聯(lián)網(wǎng)業(yè)務(wù)的 Web 服務(wù),數(shù)據(jù)庫(kù)操作等。

        五彩的以太網(wǎng)口?|圖片來源:www.hippopx.com?License?CC0

        服務(wù)模型

        不管是 CPU 密集型任務(wù)還是 IO 密集型任務(wù),要提高服務(wù)器處理能力,可以從軟件和硬件兩個(gè)層面來做文章。

        先說軟件層面,單個(gè)任務(wù)處理能力有限,可以通過啟動(dòng)多個(gè)功能完全相同的服務(wù)實(shí)例,借此來提高服務(wù)整體處理性能,多服務(wù)實(shí)例的實(shí)現(xiàn)主流的技術(shù)有三種:多進(jìn)程、多線程、多協(xié)程。當(dāng)然除了用多實(shí)例的方式,還有 IO 多路復(fù)用、異步 IO 等技術(shù),為了文章主題明確,不在本文展開討論。

        服務(wù)模型哪家強(qiáng)

        既然有三種技術(shù)實(shí)現(xiàn),那么你可能會(huì)問,在三個(gè)模型里選一個(gè)最好的來實(shí)現(xiàn)服務(wù),該如何選擇一個(gè)適合的服務(wù)模型呢?

        抱歉,小孩子才做選擇我全都要!哈哈,開個(gè)玩笑。

        答案是沒有最好,服務(wù)模型選擇要結(jié)合自身服務(wù)處理的任務(wù)類型。任務(wù)類型就是我們上面說的 CPU 密集型和 IO 密集型,只有清楚的知道所處理業(yè)務(wù)的任務(wù)類型,才能在上述服務(wù)模型中選擇其一或多種模型組合,來搭建適合你的高性能服務(wù)框架。

        多進(jìn)程服務(wù)模型

        進(jìn)程概念

        程序是一些保存在磁盤上的指令的有序集合,是靜態(tài)的。進(jìn)程是程序執(zhí)行的過程,包括了動(dòng)態(tài)創(chuàng)建、調(diào)度和消亡的整個(gè)過程,進(jìn)程是程序資源管理的最小單位。

        多進(jìn)程模型

        多進(jìn)程模型是啟動(dòng)多個(gè)服務(wù)進(jìn)程。原來由一個(gè)進(jìn)程做的事,當(dāng)一個(gè)進(jìn)程忙不過來,創(chuàng)建幾個(gè)功能一樣的進(jìn)程來幫它一起干活,人多力量大。

        由于多進(jìn)程地址空間不同,數(shù)據(jù)不能共享,一個(gè)進(jìn)程內(nèi)創(chuàng)建的變量在另一個(gè)進(jìn)程是無法訪問。操作系統(tǒng)看不下去了,憑什么同在一臺(tái)機(jī)器,彼此相愛的兩個(gè)進(jìn)程不能說說話呢?

        于是操作系統(tǒng)提供了各種系統(tǒng)調(diào)用,搭建起各個(gè)進(jìn)程間通信的橋梁,這些方法統(tǒng)稱為進(jìn)程間通信 IPC (IPC InterProcess Communication)

        常見進(jìn)程間通信方式

        管道 Pipe

        管道的實(shí)質(zhì)是一個(gè)內(nèi)核緩沖區(qū),進(jìn)程以先進(jìn)先出 FIFO 的方式從緩沖區(qū)存取數(shù)據(jù)。是一種半雙工的通信方式,數(shù)據(jù)只能單向流動(dòng),而且只能在具有親緣關(guān)系(父子進(jìn)程間)的進(jìn)程間通信。

        管道工作原理

        1. 管道一端的進(jìn)程順序的將數(shù)據(jù)寫入緩沖區(qū),另一端的進(jìn)程則順序的讀出數(shù)據(jù)。

        2. 緩沖區(qū)可以看做是一個(gè)循環(huán)隊(duì)列,一個(gè)數(shù)據(jù)只能被讀一次,讀出來后在緩沖區(qū)就不復(fù)存在了。

        3. 當(dāng)緩沖區(qū)為讀空或?qū)憹M,讀數(shù)據(jù)的進(jìn)程或?qū)憯?shù)據(jù)進(jìn)程進(jìn)入等待隊(duì)列。

        4. 空的緩沖區(qū)有新數(shù)據(jù)寫入,或者滿的緩沖區(qū)有數(shù)據(jù)讀出時(shí),喚醒等待隊(duì)列中的進(jìn)程繼續(xù)讀寫。

        管道圖解

        命名管道 FIFO

        上面介紹的管道也稱為匿名管道,只能用于親緣關(guān)系的進(jìn)程間通信。為了克服這個(gè)缺點(diǎn),出現(xiàn)了有名管道 FIFO 。有名管道提供了一個(gè)路徑名與之關(guān)聯(lián),以文件形式存在于文件系統(tǒng)中,這樣即使不存在親緣關(guān)系的進(jìn)程,只要可以訪問該路徑也能相互通信。

        命名管道支持同一臺(tái)計(jì)算機(jī)的不同進(jìn)程之間,可靠的、單向或雙向的數(shù)據(jù)通信。

        信號(hào) Signal

        信號(hào)是Linux系統(tǒng)中用于進(jìn)程間互相通信或者操作的一種機(jī)制,信號(hào)可以在任何時(shí)候發(fā)給某一進(jìn)程,無需知道該進(jìn)程的狀態(tài)。如果該進(jìn)程當(dāng)前不是執(zhí)行態(tài),內(nèi)核會(huì)暫時(shí)保存信號(hào),當(dāng)進(jìn)程恢復(fù)執(zhí)行后傳遞給它。

        如果一個(gè)信號(hào)被進(jìn)程設(shè)置為阻塞,則該信號(hào)的傳遞被延遲,直到其阻塞被取消時(shí)才被傳遞給進(jìn)程。

        信號(hào)在用戶空間進(jìn)程和內(nèi)核之間直接交互,內(nèi)核可以利用信號(hào)來通知用戶空間的進(jìn)程發(fā)生了哪些系統(tǒng)事件,信號(hào)事件主要有兩個(gè)來源:

        • 硬件來源:用戶按鍵輸入Ctrl+C退出、硬件異常如無效的存儲(chǔ)訪問等。
        • 軟件終止:終止進(jìn)程信號(hào)、其他進(jìn)程調(diào)用 kill 函數(shù)、軟件異常產(chǎn)生信號(hào)。

        消息隊(duì)列 ?Message Queue

        消息隊(duì)列是存放在內(nèi)核中的消息鏈表,每個(gè)消息隊(duì)列由消息隊(duì)列標(biāo)識(shí)符表示, 只有在內(nèi)核重啟或主動(dòng)刪除時(shí),該消息隊(duì)列才會(huì)被刪除。

        消息隊(duì)列是由消息的鏈表,存放在內(nèi)核中并由消息隊(duì)列標(biāo)識(shí)符標(biāo)識(shí)。消息隊(duì)列克服了信號(hào)傳遞信息少、管道只能承載無格式字節(jié)流以及緩沖區(qū)大小受限等缺點(diǎn)。另外,某個(gè)進(jìn)程往一個(gè)消息隊(duì)列寫入消息之前,并不需要另外讀進(jìn)程在該隊(duì)列上等待消息的到達(dá)。

        共享內(nèi)存 Shared memory

        共享內(nèi)存是一個(gè)進(jìn)程把地址空間的一段,映射到能被其他進(jìn)程所訪問的內(nèi)存,一個(gè)進(jìn)程創(chuàng)建、多個(gè)進(jìn)程可訪問,進(jìn)程就可以直接讀寫這一塊內(nèi)存而不需要進(jìn)行數(shù)據(jù)的拷貝,從而大大提高效率。

        共享內(nèi)存使得多個(gè)進(jìn)程可以可以直接讀寫同一塊內(nèi)存空間,是最快的可用 IPC 形式,是針對(duì)其他通信機(jī)制運(yùn)行效率較低而設(shè)計(jì)的。共享內(nèi)存往往與其他通信機(jī)制,如信號(hào)量配合使用,來實(shí)現(xiàn)進(jìn)程間的同步和互斥通信。

        共享內(nèi)存

        套接字 Socket

        套接字你可能沒聽過這個(gè)名字,但絕對(duì)是接觸的最多的一種進(jìn)程間通信方式。因?yàn)槲覀兪煜さ?TCP/IP 協(xié)議棧,也是建立在 socket 通信之上,TCP/IP 構(gòu)建起了當(dāng)前的互聯(lián)網(wǎng)通信網(wǎng)絡(luò)。

        它是一種通信機(jī)制,憑借這種機(jī)制,既可以在本機(jī)進(jìn)程間通信,也可以跨網(wǎng)絡(luò)通過,因?yàn)?,套接字通過網(wǎng)絡(luò)接口將數(shù)據(jù)發(fā)送到本機(jī)的不同進(jìn)程或遠(yuǎn)程計(jì)算機(jī)的進(jìn)程。

        socket套接字

        多線程服務(wù)模型

        線程概念

        線程是操作操作系統(tǒng)能夠進(jìn)行運(yùn)算調(diào)度的最小單位。線程被包含在進(jìn)程之中,是進(jìn)程中的實(shí)際運(yùn)作單位,一個(gè)進(jìn)程內(nèi)可以包含多個(gè)線程,線程是資源調(diào)度的最小單位。

        多線程模型

        啟動(dòng)多個(gè)相同功能的進(jìn)程能提高服務(wù)處理能力,但由于各個(gè)進(jìn)程的地址空間相互隔離,通信不便。

        于是,多線程服務(wù)模型出場(chǎng)。通過前面的學(xué)習(xí)我們知道,一個(gè)進(jìn)程內(nèi)的多個(gè)線程可以共享進(jìn)程的全部系統(tǒng)資源。進(jìn)程內(nèi)創(chuàng)建的多個(gè)線程都可以訪問進(jìn)程內(nèi)的全局變量。

        當(dāng)然沒有免費(fèi)的午餐,線程雖然能方便的訪問進(jìn)程資源,但也帶來了額外的問題。比如多線程訪公共資源帶來的同步與互斥問題,不同線程訪問資源的先后順序會(huì)相互影響,如果不做好同步和互斥會(huì)產(chǎn)生預(yù)期之外的結(jié)果,甚至死鎖。

        什么是多線程同步

        多線程同步是線程之間的一種直接制約關(guān)系,一個(gè)線程的執(zhí)行依賴另一個(gè)線程的通知,當(dāng)它沒有得到另一個(gè)線程的通知時(shí)必須等待,直到消息到達(dá)時(shí)才被喚醒,即有很強(qiáng)的執(zhí)行先后關(guān)系。

        比如你搭建了一個(gè)商城服務(wù)。這個(gè)服務(wù)的下單流程是這樣的:第一步必須要先挑選商品加入購(gòu)物車,第二步才能結(jié)賬計(jì)算訂單金額,假設(shè)這兩個(gè)步驟的操作分別由兩個(gè)線程去完成,則這兩個(gè)線程的操作順序很重要,必須是先下單再結(jié)賬,這就是線程同步。????????????????????????????購(gòu)物車||圖片來源:www.hippopx.com License CC0

        什么是多線程互斥

        多線程互斥指的是多線程對(duì)資源訪問的排他性。所謂排他性,就是當(dāng)有多個(gè)線程都要使用某一共享資源時(shí),任何時(shí)刻最多只允許一個(gè)線程獲得對(duì)這個(gè)共享資源的使用權(quán),當(dāng)共享資源被其中一個(gè)線程占有時(shí),其他未獲得資源的線程必須等待,直到占用資源的線程釋放資源。

        打個(gè)比方,你們班只有一臺(tái)投影儀,當(dāng)一個(gè)同學(xué)在上面放電影的時(shí)候,如果老師進(jìn)來上課要用這個(gè)投影儀,那就只能由這個(gè)同學(xué)放棄投影儀的使用權(quán),交給老師上課投影使用,對(duì),教室里唯一的投影儀是共享資源,具有排他性,老師和學(xué)生比作是兩個(gè)線程的話,那這兩個(gè)線程是互斥的訪問共享資源(投影儀)。

        投影儀?|圖片來源:www.hippopx.com?License?CC0

        多線程同步和互斥方法

        Linux 系統(tǒng)提供以下幾種方法來解決多線程的同步和互斥問題,分別是:互斥鎖、條件變量、讀寫鎖、自旋鎖、條件變量。

        互斥鎖

        互斥鎖的作用是對(duì)臨界區(qū)加以保護(hù),以使任意時(shí)刻只有一個(gè)線程能夠執(zhí)行臨界區(qū)的代碼,實(shí)現(xiàn)了多線程對(duì)臨界資源的互斥訪問。

        互斥鎖接口函數(shù):

        互斥鎖api

        條件變量

        條件變量是用來等待而不是用來上鎖的。條件變量用來自動(dòng)阻塞一個(gè)線程,直到某特殊情況發(fā)生為止。適合多個(gè)線程等待某個(gè)條件的發(fā)生,不使用條件變量,那么每個(gè)線程就不斷嘗試互斥鎖并檢測(cè)條件是否發(fā)生,浪費(fèi)系統(tǒng)資源

        通常條件變量和互斥鎖同時(shí)使用。條件的檢測(cè)是在互斥鎖的保護(hù)下進(jìn)行的。如果一個(gè)條件為假,一個(gè)線程自動(dòng)阻塞,并釋放等待狀態(tài)改變的互斥鎖。如果另一個(gè)線程改變了條件,它發(fā)信號(hào)給關(guān)聯(lián)的條件變量,喚醒一個(gè)或多個(gè)等待它的線程,重新獲得互斥鎖,重新評(píng)價(jià)條件,可以用來實(shí)現(xiàn)線程間的同步。

        條件變量系統(tǒng) API 如下:

        條件變量API

        讀寫鎖

        互斥量要么是加鎖狀態(tài),要么是不加鎖狀態(tài),而且一次只有一個(gè)線程對(duì)其進(jìn)行加鎖。讀寫鎖可以有3種狀態(tài):讀加鎖狀態(tài)、寫加鎖狀態(tài)和不加鎖狀態(tài)。

        一次只有一個(gè)線程可以占有寫模式讀寫鎖,但是可以有多個(gè)線程同時(shí)占有讀模式的讀寫鎖。因此,讀寫鎖適合于對(duì)數(shù)據(jù)結(jié)構(gòu)的讀次數(shù)比寫次數(shù)多得多的情況,且讀寫鎖比互斥量具有更高的并行性。

        讀寫鎖加鎖規(guī)則

        1:如果某線程申請(qǐng)了讀鎖,其它線程可以再申請(qǐng)讀鎖,但不能申請(qǐng)寫鎖;

        2:如果某線程申請(qǐng)了寫鎖,其它線程不能申請(qǐng)讀鎖,也不能申請(qǐng)寫鎖。

        讀寫鎖系統(tǒng) API

        讀寫鎖API

        自旋鎖

        互斥鎖得不到鎖時(shí),線程會(huì)進(jìn)入休眠,引發(fā)任務(wù)上下文切換,任務(wù)切換涉及一系列耗時(shí)的操作,因此用互斥鎖一旦遇到阻塞切換代價(jià)是十分昂貴的。

        而自旋鎖阻塞后不會(huì)引發(fā)上下文切換,當(dāng)鎖被其他線程占有時(shí),獲取鎖的線程便會(huì)進(jìn)入自旋,不斷檢測(cè)自旋鎖的狀態(tài),直到得到鎖,所謂的自旋就是循環(huán)等待的意思。

        自旋鎖在用戶態(tài)使用的比較少,在內(nèi)核使用的比較多。自旋鎖適用于臨界區(qū)代碼比較短,鎖的持有時(shí)間比較短的場(chǎng)景,否則會(huì)讓其他線程一直等待造成饑餓現(xiàn)象。

        自旋鎖 API 接口

        自旋鎖API

        信號(hào)量

        信號(hào)量本質(zhì)上是一個(gè)非負(fù)的整數(shù)計(jì)數(shù)器,它被用來控制對(duì)公共資源的訪問。

        信號(hào)量是一個(gè)特殊類型的變量,它可以被增加或者減少。可根據(jù)操作信號(hào)量值的結(jié)果判斷是否對(duì)公共資源具有訪問的權(quán)限,當(dāng)信號(hào)量值大于 0 時(shí),則可以訪問,否則將阻塞。但對(duì)其的訪問被保證是原子操作,即使在一個(gè)多線程程序中也是如此。

        信號(hào)量類型:

        • 二進(jìn)制信號(hào)量,它只有0和1兩種取值。適用于臨界代碼每次只能被一個(gè)執(zhí)行線程運(yùn)行,就要用到二進(jìn)制信號(hào)量。

        • 計(jì)數(shù)信號(hào)量。它可以有更大的取值范圍,適用于臨界代碼允許有限數(shù)目的線程執(zhí)行,就需要用到計(jì)數(shù)信號(hào)量。

        信號(hào)量 API

        信號(hào)量API

        協(xié)程服務(wù)模型

        什么是協(xié)程

        什么是協(xié)程呢?協(xié)程 Coroutines 是一種比線程更加輕量級(jí)的微線程。類比一個(gè)進(jìn)程可以擁有多個(gè)線程,一個(gè)線程也可以擁有多個(gè)協(xié)程,因此協(xié)程又稱微線程和纖程。

        協(xié)程圖解

        可以粗略的把協(xié)程理解成子程序調(diào)用,每個(gè)子程序都可以在一個(gè)單獨(dú)的協(xié)程內(nèi)執(zhí)行。

        協(xié)程子程序模型

        協(xié)程服務(wù)模型

        為了說明什么是協(xié)程模型,先用多線程下的生產(chǎn)者消費(fèi)者模型舉個(gè)栗子。

        啟動(dòng)兩個(gè)線程分別執(zhí)行兩個(gè)函數(shù) ?Do_some_IODo_some_process ,第一個(gè)做耗時(shí)的 IO 處理操作,第二個(gè)對(duì) IO 操作結(jié)果做快速的處理計(jì)算工作。偽代碼如下:

        函數(shù)偽代碼

        多線程執(zhí)行過程是這樣的:

        1. 生產(chǎn)者線程先調(diào)用函數(shù) Do_some_IO 做比較耗時(shí)的 IO 操作,比如從網(wǎng)絡(luò)套接字中讀取數(shù)據(jù)這類操作。

        2. 在生產(chǎn)者線程執(zhí)行 Do_some_IO 完成數(shù)據(jù)讀取之前,消費(fèi)者線程要阻塞等待。

        3. 在消費(fèi)者線程執(zhí)行 Do_some_process 完成數(shù)據(jù)處理完成之前,生產(chǎn)者線程要阻塞等待。

        4. 在消費(fèi)者線程執(zhí)行 Do_some_process 完成數(shù)據(jù)處理完成之后,要通知生成者線程繼續(xù) Do_some_IO
          ??????????????????????????????????????????線程執(zhí)行時(shí)間線

        可以看到,多線程模型為了保證各個(gè)線程并行工作,需要額外做很多線程間的同步和通知工作,而且線程頻繁的在阻塞和喚醒間切換,我們知道 Linux 下線程是輕量級(jí)線程 LWP ,每次線程切換涉及用戶態(tài)和內(nèi)核態(tài)的切換,還是很消耗性能的。

        同樣的場(chǎng)景在協(xié)程模型里是怎么處理的呢?還是用前面的例子,說明協(xié)程模型的執(zhí)行流程。

        Do_some_IO()???????// IO處理協(xié)程
        Do_some_process()??//?計(jì)算處理協(xié)程
        1. 分配生產(chǎn)者協(xié)程執(zhí)行 Do_some_IO 做 IO 處理操作,分配消費(fèi)者協(xié)程執(zhí)行 Do_some_process 計(jì)算處理操作。
        2. 在生產(chǎn)者協(xié)程工作期間,消費(fèi)者協(xié)程保持等待。
        3. 當(dāng)生產(chǎn)者協(xié)程完成 IO 處理,返回處理結(jié)果給消費(fèi)者,并把程序執(zhí)行權(quán)限交給消費(fèi)者協(xié)程向下執(zhí)行。
        協(xié)程執(zhí)行時(shí)間線

        協(xié)程優(yōu)勢(shì)

        • 由于協(xié)程在線程內(nèi)實(shí)現(xiàn),因此始終都是一個(gè)線程操作共享資源,所以不存在多線程搶占資源和資源同步問題。

        • 生產(chǎn)者協(xié)程和消費(fèi)者協(xié)程,互相配合協(xié)作完成工作,而不是相互搶占,而且協(xié)程創(chuàng)建和切換的開銷比線程小得多。

        硬件提升性能

        前面講的多線程、多進(jìn)程、協(xié)程都還只是軟件層面的提高服務(wù)處理能力。真正硬核的是從硬件層面提高處理能力,增加 CPU 物理核心數(shù)目,當(dāng)然硬件都是有成本的,所以只有軟件層面已經(jīng)充分榨干性能才會(huì)考慮增加硬件。

        不過,老板有錢買最好最貴的服務(wù)器另說,這是人民幣玩家和窮逼玩家的區(qū)別了,軟件工程師留下了貧困的淚水。

        增加機(jī)器核心數(shù)

        CPU領(lǐng)域有一條摩爾定律:大概 18 個(gè)月會(huì)將芯片的性能提高一倍?,F(xiàn)在這個(gè)定律變的越來越難以突破,CPU 晶體管密度工作頻率很難再提高,轉(zhuǎn)而通過增加 CPU 核心數(shù)目的方式提高處理器性能。

        CPU?|圖片來源:www.hippopx.com?License?CC0

        目前商用服務(wù)器架構(gòu)基本都是多核處理器,多核的處理器能夠真正做到程序并行運(yùn)行,處理效率大幅度提升,那該如何查看 CPU 核心數(shù)目呢?

        對(duì)于 Windows 操作系統(tǒng),打開任務(wù)管理器,通過界面的「內(nèi)核」和「邏輯處理器」能看到。

        windows 查看核心

        查看 cpu 核心數(shù)

        對(duì)于 Linux 操作系統(tǒng),通過下面 2 種方式查看 CPU 核心相關(guān)信息。

        1. 通過cpuinfo文件查看

        使用cat /proc/cpuinfo查看 cpu 核心信息,如下兩個(gè)信息:

        • processor,指明第幾個(gè)cpu處理器
        • cpu cores,指明每個(gè)處理器的核心數(shù)

        cpuinfo 輸出示例:

        cpuinfo

        2. 通過編程接口查看

        除了上面以文件的形式查看 cpu 核心信息之外,系統(tǒng)還提供了編程接口可以查詢,系統(tǒng) API 如下。

        查看核數(shù)API

        CPU親和性

        CPU 親和性是綁定某一進(jìn)程或線程到特定的 CPU 或 CPU 集合,從而使得該進(jìn)程或線程只能被調(diào)度運(yùn)行在綁定的 CPU或 CPU 集合上。

        為什么要設(shè)置 CPU 親和性綁定 CPU 呢?理論上進(jìn)程上一次運(yùn)行后的上下文信息會(huì)保留在 CPU 的緩存中,如果下一次仍然將該進(jìn)程調(diào)度到同一個(gè) CPU 上,就能避免緩存未命中對(duì) CPU 處理性能的影響,從而使得進(jìn)程的運(yùn)行更加高效。

        假如某些進(jìn)程或線程是 CPU 密集型的,不希望被頻繁調(diào)度,又或者你有其他特殊需求,不希望進(jìn)程或線程被調(diào)度在不同 CPU 之間頻繁切換,則可以將該進(jìn)程或線程綁定到特定的 CPU 上 ,可以在特定場(chǎng)景下優(yōu)化程序性能。

        綁定進(jìn)程

        在多進(jìn)程模型中,綁定進(jìn)程到特定的核心,下面是綁定進(jìn)程的系統(tǒng) API

        綁定線程

        在多線程模型中,綁定線程到特定的核心,下面是綁定線程的系統(tǒng) API

        設(shè)置線程親和性

        總總結(jié)結(jié)

        本文從程序任務(wù)類型出發(fā),區(qū)分任務(wù)為 CPU 密集型和 IO 密集型兩大類。接著分別說明提高基于這兩類任務(wù)的服務(wù)性能方法,分為軟件層面的方法和硬件層面的方法。

        其中軟件層面主要講述利用多進(jìn)程、多線程以及協(xié)程模型,當(dāng)然現(xiàn)有的技術(shù)還有 IO 多路復(fù)用、異步 IO 、池化技術(shù)等方案,講到多線程和多進(jìn)程,順勢(shì)說明了進(jìn)程間通信和線程間同步互斥技術(shù)。

        第二部分,講解了從硬件層面提高服務(wù)性能:提高機(jī)器核心數(shù),并教你如何查看 CPU 核心數(shù)的方法。最后,還可以通過軟硬結(jié)合的方式,把硬件核心綁定到指定進(jìn)程或者線程執(zhí)行,最大程度的利用 CPU 性能。

        希望通過本文的學(xué)習(xí),讀者對(duì)高性能服務(wù)模型有個(gè)初步的了解,并能對(duì)服務(wù)優(yōu)化的方法和利弊舉例一二,就是本文的價(jià)值所在。

        再聊兩句(求個(gè)三連)

        感謝各位的閱讀,文章的目的是分享對(duì)知識(shí)的理解,技術(shù)類文章我都會(huì)反復(fù)求證以求最大程度保證準(zhǔn)確性,若文中出現(xiàn)明顯紕漏也歡迎指出,我們一起在探討中學(xué)習(xí)。

        如果覺得文章寫的還行,對(duì)你有所幫助,不要白票 lemon,動(dòng)動(dòng)手指點(diǎn)個(gè)「在看」或「分享」是對(duì)我持續(xù)創(chuàng)作的最大支持。

        今天的技術(shù)分享就到這里,我們下期再見。

        精選好文

        別再說你不懂Linux內(nèi)存管理了,10張圖給你安排的明明白白!

        面試都在問的微服務(wù),一文帶你徹底搞懂!

        面試官:你說對(duì)MySQL事務(wù)很熟?那我問你10個(gè)問題

        手把手教你配置VS Code遠(yuǎn)程開發(fā)工具,工作效率提升N倍

        帶你學(xué)夠浪:Go基礎(chǔ)系列-環(huán)境配置和 Hello world

        關(guān)注公眾號(hào)「后端技術(shù)學(xué)堂」

        帶你一起學(xué)編程

        回復(fù)「資源」送你編程學(xué)習(xí)大禮包

        包括3個(gè)G的編程「學(xué)習(xí)資源」


        我建了個(gè)學(xué)習(xí)交流群,群內(nèi)不定期分享優(yōu)質(zhì)技術(shù)文章,一起學(xué)習(xí)一起進(jìn)階,加下面我微信備注「進(jìn)群」我拉你加入

        掃一掃,備注「進(jìn)群

        服務(wù)模型學(xué)會(huì)了嗎?在看分享了嗎

        瀏覽 47
        點(diǎn)贊
        評(píng)論
        收藏
        分享

        手機(jī)掃一掃分享

        分享
        舉報(bào)
        評(píng)論
        圖片
        表情
        推薦
        點(diǎn)贊
        評(píng)論
        收藏
        分享

        手機(jī)掃一掃分享

        分享
        舉報(bào)
        1. <strong id="7actg"></strong>
        2. <table id="7actg"></table>

        3. <address id="7actg"></address>
          <address id="7actg"></address>
          1. <object id="7actg"><tt id="7actg"></tt></object>
            国产露脸对白88av | 日韩久久免费 | 新妺妺窝窝777777野外 | 秋霞丝鲁片一区二区三区手机在绒免 | 日本久久精品一区二区三区 | 黃色三级三级三级三级 | 国产内射在线播放 | 国产在线一卡 | 成人毛片影院 | 天天操天天射天天操 |