與 Python 之父聊天：更快的 Python！
Python貓注：在今年5月的 Python 語言峰會上，Guido van Rossum 作了一場《Making CPython Faster》的分享（材料在此），宣告他加入了激動人心的“香農(nóng)計劃”，旨在 4 年內(nèi)提升 Python 性能至 5 倍。近日，Guido 上了一檔英文播客節(jié)目（時長 30 分鐘），談?wù)摿怂谧龅呐c高性能相關(guān)的工作，解答了幾個問題。播客作者整理了一份內(nèi)容紀(jì)要，本文是對該紀(jì)要的翻譯。注：文末有音頻及文稿下載
1、為什么你會對研究 Python 的性能感興趣？
Guido：在某種意義上，它對我來說是一個相對舒服的話題，因為這意味著與 Python 的核心打交道，而我對這方面還算熟悉。當(dāng)我在微軟工作時，我曾短暫地關(guān)注過 Azure，但我意識到我在谷歌或 Dropbox 時就不喜歡這類工作。然后我關(guān)注了機器學(xué)習(xí)，但這需要花很多時間來做一些與 Python 無關(guān)的事情，甚至它與 Python 相關(guān)的部分就很少。
2、Mark Shannon 關(guān)于 Python 性能的那些想法有何不同，怎么能說服你去實現(xiàn)它們的呢？
Guido：我喜歡他思考問題的方式。大多數(shù)其它聚焦于 Python 性能的方法，如 PyPy 和 Cinder，并不適用于所有的使用場景，因為它們不能向后兼容擴展模塊。Mark 具有 CPython 開發(fā)者的視角和經(jīng)驗，并且有一種可行的方法來維持向后兼容性，這是最難解決的問題。Python 的字節(jié)碼解釋器經(jīng)常要在小版本之間（例如 3.8→3.9）進行修改，原因有很多，比如新的操作碼，所以修改它是一種相對安全的方案。
3、你能給我們解釋一下 Python 解釋器的分層執(zhí)行的概念么？
Guido：當(dāng)執(zhí)行一個程序時，你不知道它會在運行了幾分之一毫秒后崩潰，還是會持續(xù)運行三周時間。因為對于同一份代碼，在第一種情況下，它可能觸發(fā)了一個 bug。如果運行程序需要三周時間，也許提前半小時優(yōu)化所有待運行的代碼是有意義的。
但很明顯，特別是在像 Python 這樣的動態(tài)語言中，我們盡可能多地做，而不要求用戶告訴我們他們到底需要怎么做，你只是想盡快開始執(zhí)行代碼。所以，如果有一個小腳本，或者一個大程序，它碰巧執(zhí)行失敗了或者因為某些原因提前退出了，你就不用花費時間去優(yōu)化全部的代碼了。
所以，我們要做的就是保持字節(jié)碼編譯器的簡單化，以便能盡快地開始執(zhí)行代碼。如果有某些函數(shù)被多次執(zhí)行，那么我們就稱其為 hot 函數(shù)?！癶ot”存在多種定義。在某些情況下，如果一個函數(shù)被調(diào)用超過一次，或者超過兩次，或者超過 10 次，那么它被定義成一個熱門函數(shù)。而在其它保守的情況下，你可能說“只有被調(diào)用 1000 次才算 hot”。
然后，當(dāng)參數(shù)的類型是某些特定類型時，專門化的自適應(yīng)編譯器（PEP-659 Specializing Adaptive Compiler）會嘗試用更快的字節(jié)碼來替換某些字節(jié)碼。一個簡單的假想的例子是 Python 中的加號運算符，它可以令很多對象相加，比如整數(shù)、字符串、列表，甚至元組。但是，你不能將整數(shù)與字符串相加。
因此，優(yōu)化的方法就是提供一個單獨的“兩個整數(shù)相加”的字節(jié)碼，它是一個對用戶隱藏的第二層字節(jié)碼。（“優(yōu)化”通常被稱為加速 quickening，但一般在我們的語境中，我們稱之為專門化 specializing）。這個操作碼假設(shè)它的兩個參數(shù)都是真正的 Python 整型對象，直接讀取這些對象的值，并在機器寄存器中將這些值相加，最后將結(jié)果推回堆棧。
兩個整數(shù)相加的操作仍然需要對參數(shù)進行類型檢查。因此，它不是完全不受約束的，但這種類型檢查相比于完全泛化的面向?qū)ο蟮募犹柌僮鳎罢咴趯崿F(xiàn)上要快得多。
最后，有可能一個函數(shù)被整型參數(shù)調(diào)用了數(shù)百萬次，然后突然一小段代碼用浮點型參數(shù)調(diào)用它，或者出現(xiàn)更糟的情況。此時，解釋器會直接執(zhí)行原始的字節(jié)碼。這是一個重要的部分，讓你始終能得到完整的 Python 語義。
Python貓注：“香農(nóng)計劃”的最終目標(biāo)是將解釋器的執(zhí)行過程分層，并對不同層做出定制的優(yōu)化。詳情請查閱 Github 項目的介紹（https://github.com/markshannon/faster-cpython/blob/master/tiers.md）。
4、通常你會在談 JIT（Just-In-Time）編譯器時聽到這些技術(shù)，但官方 Python 現(xiàn)在還沒有實現(xiàn)。
Guido：即時編譯的方案有一大堆我們想要避免的情感包袱。比如，我們不清楚到底編譯什么，以及什么時候編譯。在程序開始執(zhí)行之前，解釋器將源代碼編譯成字節(jié)碼，然后，再將字節(jié)碼轉(zhuǎn)換為專門的字節(jié)碼。這意味著，所有的事情都在運行時的某個時刻發(fā)生，那么，哪個部分是所謂的即時（Just-In-Time）呢？
另外，人們通常認(rèn)為 JIT 會自動地使所有代碼變得更好。不幸的是，你通常無法真正地預(yù)測代碼的性能。由于有現(xiàn)代的 CPU 和它們神奇的分支預(yù)測，我們已經(jīng)擁有了足夠的性能。例如，我們以一種本認(rèn)為能夠明顯減少內(nèi)存訪問次數(shù)的方式，編寫了一份代碼。但是，當(dāng)對它進行基準(zhǔn)測試時，我們發(fā)現(xiàn)它的運行速度與舊的未優(yōu)化代碼一樣快，因為 CPU 在沒有我們?nèi)魏螏椭那闆r下，計算出了優(yōu)化的訪問模式。我希望我知道現(xiàn)代 CPU 在分支預(yù)測和內(nèi)聯(lián)緩存方面做了什么，因為這就像是魔法一般。