Yann LeCun主講，紐約大學(xué)《深度學(xué)習(xí)》2021春季課程放出，免費(fèi)可看

來源：機(jī)器之心

編輯：陳萍

Yann LeCun 主講的《深度學(xué)習(xí)》課程現(xiàn)已全部在線可看！

深度學(xué)習(xí)課程在網(wǎng)上一直有許多教學(xué)資源，比較出名的有吳恩達(dá)老師的《深度學(xué)習(xí)》課程。

近日，由圖靈獎(jiǎng)得主、深度學(xué)習(xí)三巨頭之一的 Yann LeCun 在紐約大學(xué)數(shù)據(jù)科學(xué)中心（CDS）主講的《深度學(xué)習(xí)》2021 年春季課程（DS-GA 1008 ）現(xiàn)已全部在線免費(fèi)可看。

本課程涉及深度學(xué)習(xí)和表示學(xué)習(xí)的最新技術(shù)，重點(diǎn)包括監(jiān)督和無監(jiān)督的深度學(xué)習(xí)、嵌入方法、度量學(xué)習(xí)、卷積和循環(huán)網(wǎng)絡(luò)，以及這些技術(shù)在計(jì)算機(jī)視覺、自然語言理解和語音識(shí)別中的應(yīng)用。目前這門課程只提供了英、法兩種語言版本的講義。

課程主頁：https://cds.nyu.edu/deep-learning/

另外，學(xué)習(xí)這門課程的先決條件是你已經(jīng)參與過 CDS 發(fā)布的 DS-GA 1001 數(shù)據(jù)科學(xué)入門課程或其他一門研究生級(jí)別的機(jī)器學(xué)習(xí)課程。

課程資料示例如上圖所示，點(diǎn)擊超鏈接，就能跳轉(zhuǎn)到相應(yīng)的帶英文字幕的教學(xué)視頻（YouTube ）、書面講義、課件、以及帶有 PyTorch 實(shí)現(xiàn)的可執(zhí)行 Jupyter Notebooks。

該課程由 Yann LeCun 與他的學(xué)生 Alfredo Canziani 等共同執(zhí)教。

Yann LeCun，美國國家工程院院士，紐約大學(xué)終身教授，2018 年圖靈獎(jiǎng)得主，卷積網(wǎng)絡(luò)之父，與 Geoffrey Hinton、Yoshua Bengio 并稱為「深度學(xué)習(xí)三巨頭」。同時(shí)，他還是 Meta 首席 AI 科學(xué)家。

Alfredo Canziani 是紐約大學(xué)庫蘭特?cái)?shù)學(xué)科學(xué)研究所的計(jì)算機(jī)科學(xué)研究助理教授和深度學(xué)習(xí)研究科學(xué)家，由 Kyunghyun Cho 和 Yann LeCun 教授指導(dǎo)。此外，他擁有里雅斯特大學(xué)的電氣工程學(xué)士學(xué)位和碩士學(xué)位，2012 年在克蘭菲爾德大學(xué)獲得理學(xué)碩士學(xué)位，并于 2017 年在普渡大學(xué)獲得博士學(xué)位。他的主要研究方向?yàn)樽詣?dòng)駕駛的機(jī)器學(xué)習(xí)。

課程目錄

該課程為期 14 周，在線學(xué)習(xí)本課程的學(xué)生還可以通過的 Reddit 和 Discord 平臺(tái)與講師直接進(jìn)行交流。共分為 8 個(gè)主題，每個(gè)主題的具體內(nèi)容包括：

• 主題 1 介紹深度學(xué)習(xí)：深度學(xué)習(xí)歷史和資源；梯度下降和反向傳播算法；神經(jīng)網(wǎng)絡(luò)推理；模塊和架構(gòu)；神經(jīng)網(wǎng)絡(luò)訓(xùn)練；

• 主題 2?參數(shù)共享：循環(huán)和卷積網(wǎng)絡(luò)；實(shí)踐中的 ConvNet；自然信號(hào)特性和卷積；循環(huán)神經(jīng)網(wǎng)絡(luò)、vanilla 和 LSTM；

• 主題 3?基于能量的模型（基礎(chǔ)）：基于能量的模型 (I)；用于 LV-EBM 的推理；EBM 優(yōu)點(diǎn)；基于能量的模型 (II)；訓(xùn)練 LV-EBM；

• 主題 4?基于能量的模型（進(jìn)階）：基于能量的模型 (III)；Unsup 學(xué)習(xí)以及自動(dòng)編碼器；基于能量的模型 (VI)；從 LV-EBM 到目標(biāo) prop 到（任何）自動(dòng)編碼器；基于能量的模型 (V)；帶有 PyTorch 和 GAN 的 AEs；

• 主題 5?關(guān)聯(lián)記憶：基于能量的模型 (V)；注意力以及 transformer ；

• 主題 6 圖：Graph transformer 網(wǎng)絡(luò)；圖卷積網(wǎng)絡(luò) (I)；圖卷積網(wǎng)絡(luò) (II)；

• 主題 7 控制：規(guī)劃和控制；The Truck Backer-Upper；不確定性下的預(yù)測和規(guī)劃；

• 主題 8 優(yōu)化：優(yōu)化 (I)；優(yōu)化 (II)；

此外，該課程還涵蓋視覺 SSL、低資源機(jī)器翻譯、Lagrangian 逆向思維、最終項(xiàng)目和問答等其它主題進(jìn)行探索。

想進(jìn)行深度學(xué)習(xí)研究的小伙伴，你不能錯(cuò)過該課程，相信你會(huì)收獲滿滿。

更多資源請參考：

• 英文版講義：https://atcold.github.io/NYU-DLSP21/en/week12/12/

• YouTube 地址：https://www.youtube.com/playlist?list=PLLHTzKZzVU9e6xUfG10TkTWApKSZCzuBI

• 課程資料：https://github.com/Atcold/NYU-DLSP21