陳天奇：首個機器學(xué)習編譯課程！

陳天奇：「因為世界上還沒有關(guān)于這個方向的系統(tǒng)性課程，所以這一次嘗試應(yīng)該會是和小伙伴們共同的探索」。

隨著機器學(xué)習框架和硬件需求的發(fā)展，機器學(xué)習 / 深度學(xué)習編譯正成為一個越來越受關(guān)注的話題。

在去年 12 月的一篇文章中，TVM、MXNET、XGBoost 作者，CMU 助理教授，OctoML CTO 陳天奇探討了「新一代深度學(xué)習編譯技術(shù)的變革和展望」。他指出，現(xiàn)在深度學(xué)習編譯生態(tài)正圍繞四類抽象展開：計算圖表示、張量程序表示、算子庫和運行環(huán)境、硬件專用指令。

不過，由于篇幅受限，陳天奇并未就這一話題展開系統(tǒng)、詳細的討論，這讓很多對機器學(xué)習 / 深度學(xué)習編譯感興趣的小伙伴感到意猶未盡。陳天奇本人也表示，「目前互聯(lián)網(wǎng)上也有一些關(guān)于機器學(xué)習編譯的介紹，不過大部分都還是介紹其中的各個模塊，或者是針對一個系統(tǒng)的深入內(nèi)部講解?！挂虼?，陳天奇萌生了開一門系統(tǒng)性課程的想法。

6 月 2 日，陳天奇通過知乎宣布，由他主講的機器學(xué)習編譯入門課程將于近期正式開課。

原貼鏈接：https://zhuanlan.zhihu.com/p/523372873

陳天奇介紹說，目前課程已經(jīng)確定了幾點大的方向，「首先，機器學(xué)習編譯本身雖然有『編譯』二字，其涉及到的技術(shù)其實超過了傳統(tǒng)編譯的范疇，包含了如機器學(xué)習搜索自動化，算子庫整合，和機器學(xué)習生態(tài)交互等各個方面。而在相關(guān)抽象設(shè)計上面也有許多機器學(xué)習需求本身的考量?！挂虼耍高@次課程會集中介紹計算圖、張量程序、算子庫和硬件指令四個層面的抽象。而更加重要的一點考量是整合。一般對于機器學(xué)習編譯的介紹都會集中在一個點上，而各大抽象的整合本身反而恰好是真正需要大家關(guān)注的地方?！?/span>

目前，課程的中英文大綱都已經(jīng)在官網(wǎng)上線，課程視頻也是中英文均有。

• 英文課程主頁 https://mlc.ai/summer22/?

• 中文課程主頁 https://mlc.ai/summer22-zh/?

以下是關(guān)于該課程的詳細信息（來自課程官網(wǎng)）：

課程簡介

隨著人工智能應(yīng)用在我們的日常生活中變得越來越普遍，目前存在的挑戰(zhàn)是如何在不同的生產(chǎn)環(huán)境中部署最新的人工智能模型。模型和部署環(huán)境的組合爆炸給訓(xùn)練和推理部署帶來了巨大的挑戰(zhàn)。此外，目前落地的模型也提出了更多的要求，例如減少軟件依賴、全面的模型覆蓋、利用新硬件進行加速、減少內(nèi)存占用，以及更強的可擴展性。

這些模型訓(xùn)練和推理問題，涉及機器學(xué)習編程范式、基于學(xué)習的搜索算法、編譯優(yōu)化以及計算運行時。這些話題的組合生成了一個全新主題——機器學(xué)習編譯，并且該方向正在不斷持續(xù)發(fā)展。這門課程將按照其中的關(guān)鍵元素，系統(tǒng)地研究這一新興領(lǐng)域的關(guān)鍵要素。參與者將學(xué)習一些核心的概念，用以表示機器學(xué)習程序、自動優(yōu)化技術(shù)，以及在端到端機器學(xué)習部署中優(yōu)化環(huán)境依賴、內(nèi)存和性能的方法。

課程受眾和知識儲備要求

關(guān)于這門課程的受眾和要求，陳天奇表示，「這次課程本身并不需要編譯和機器學(xué)習系統(tǒng)的背景知識。只需要對于深度學(xué)習框架有一些使用經(jīng)驗即可」。具體信息如下：

課程安排

從目前公布的課程安排來看，這門課程總共有 11 次課，從 6 月 17 日一直持續(xù)到 8 月 23 日，可以陪伴大家度過一個充實的夏天。

此外，這門課程還設(shè)置了專門的中英文論壇。

• 中文論壇：https://github.com/mlc-ai/mlc-zh/discussions

• 英文論壇：https://github.com/mlc-ai/mlc-en/discussions