李飛飛 : 人工智能領(lǐng)域14大機(jī)遇與挑戰(zhàn)（附pdf）

點(diǎn)擊關(guān)注公眾號(hào)，干貨及時(shí)送達(dá)

來(lái)源：新智元

本文約8000字，建議閱讀10分鐘 
本次報(bào)告評(píng)估了2016年至2021年間人工智能的發(fā)展，涵蓋14大問(wèn)題，探討了人工智能發(fā)展的關(guān)鍵領(lǐng)域。

時(shí)隔5年，由斯坦福大學(xué)教授李飛飛主導(dǎo)的「AI100」研究報(bào)告終于推出了第二期，對(duì)過(guò)去五年來(lái)人工智能領(lǐng)域最重要的14個(gè)大問(wèn)題進(jìn)行了回顧和分析。此外，該報(bào)告據(jù)稱未來(lái)要一直做下去，直到100年。

「AI100」報(bào)告第二彈！

本次報(bào)告評(píng)估了2016年至2021年間人工智能的發(fā)展，涵蓋14大問(wèn)題，探討了人工智能發(fā)展的關(guān)鍵領(lǐng)域。

主題是人工智能在日常生活中的滲透影響：希望、關(guān)注和方向。

報(bào)告研究團(tuán)隊(duì)由布朗大學(xué)計(jì)算機(jī)科學(xué)教授Michael L. Littman教授擔(dān)任團(tuán)隊(duì)主席，來(lái)自學(xué)術(shù)界和行業(yè)研究實(shí)驗(yàn)室的17名成員組成，成員包括計(jì)算機(jī)科學(xué)、工程學(xué)、法律學(xué)、政治學(xué)、政策學(xué)、社會(huì)學(xué)和經(jīng)濟(jì)學(xué)學(xué)者。

與5年前的第一份報(bào)告明確側(cè)重于AI在北美城市的影響相比，這次報(bào)告的重點(diǎn)是更深入地探討AI對(duì)全球人類和社會(huì)的影響。

本報(bào)告具有兩大特性：

專業(yè)性，報(bào)告由該領(lǐng)域核心多學(xué)科研究人員組成的研究小組編寫——這些專家將創(chuàng)建人工智能算法或研究其對(duì)社會(huì)的影響作為他們的主要專業(yè)活動(dòng)，并且已經(jīng)這樣做了很多年。作者牢牢扎根于人工智能領(lǐng)域，并提供「內(nèi)部」視角。

長(zhǎng)期性，這是一項(xiàng)長(zhǎng)期的縱向研究，報(bào)告計(jì)劃每五年發(fā)布一次，持續(xù)100年。2021年9月的這份報(bào)告是計(jì)劃中的系列研究中的第二份報(bào)告，第一份報(bào)告于2016年9月1日發(fā)表后，在大眾媒體上廣為報(bào)道，并全球多項(xiàng)人工智能課程中被廣泛使用。

本報(bào)告的受眾主要有四類：

• 對(duì)于一般公眾來(lái)說(shuō)，它對(duì)人工智能現(xiàn)狀及其潛力做出了無(wú)障礙、科學(xué)和技術(shù)準(zhǔn)確的描述；

• 對(duì)于工業(yè)界來(lái)說(shuō)，報(bào)告指出了相關(guān)技術(shù)和法律和道德上的挑戰(zhàn)，可能有助于指導(dǎo)資源配置；

• 對(duì)地方、國(guó)家和國(guó)際政府來(lái)說(shuō)，報(bào)告有助于更好地規(guī)劃人工智能技術(shù)的綜合治理；

• 最后，對(duì)于人工智能研究人員和研究機(jī)構(gòu)而言，報(bào)告有助于確定研究的優(yōu)先級(jí)，并考慮人工智能研究及其應(yīng)用提出的經(jīng)濟(jì)、道德和法律問(wèn)題。

問(wèn)題1：每個(gè)問(wèn)題后面的圖片即代表該問(wèn)題下影響力最大的技術(shù)進(jìn)步

問(wèn)題2：AI領(lǐng)域最重要的進(jìn)展是什么？

這些圖像是由OpenAI的「DALL-E」根據(jù)提示生成的「帶有藍(lán)色草莓圖像的彩色玻璃窗」。

這表明該系統(tǒng)不僅僅是在檢索相關(guān)的圖像，而是在產(chǎn)生新的視覺(jué)特征組合。

基礎(chǔ)技術(shù)

現(xiàn)在，用戶會(huì)使用人工智能在手機(jī)上進(jìn)行聽(tīng)寫，獲得購(gòu)物、新聞或娛樂(lè)的推薦等。

這些進(jìn)展背后的核心技術(shù)是機(jī)器學(xué)習(xí)，尤其是是深度學(xué)習(xí)，包括生成對(duì)抗網(wǎng)絡(luò)和由大規(guī)模數(shù)據(jù)和計(jì)算資源驅(qū)動(dòng)的強(qiáng)化學(xué)習(xí)。

GANs是一項(xiàng)重大突破，它賦予了深度網(wǎng)絡(luò)產(chǎn)生以假亂真的內(nèi)容的能力。

GANs由兩個(gè)相互關(guān)聯(lián)的部分組成：負(fù)責(zé)創(chuàng)建真實(shí)內(nèi)容的生成器，以及負(fù)責(zé)將生成器的輸出與自然發(fā)生的內(nèi)容區(qū)分開(kāi)來(lái)的辨別器。兩者相互學(xué)習(xí)，隨著時(shí)間的推移，在各自的任務(wù)上變得越來(lái)越好。

語(yǔ)言處理

近五年，語(yǔ)言處理技術(shù)在網(wǎng)絡(luò)架構(gòu)方面有著長(zhǎng)足的發(fā)展，這也就增強(qiáng)了從復(fù)雜和上下文敏感的數(shù)據(jù)中學(xué)習(xí)的能力。

其中，神經(jīng)網(wǎng)絡(luò)語(yǔ)言模型ELMo、GPT、mT5和BERT，學(xué)習(xí)了單詞在語(yǔ)境中的使用方式，包括語(yǔ)法、意義和關(guān)于世界的基本事實(shí)等要素，并由由數(shù)十億個(gè)可調(diào)整的參數(shù)組成。

雖然在回答某些基準(zhǔn)問(wèn)題的表現(xiàn)已經(jīng)超過(guò)人類，但是在更復(fù)雜多變的問(wèn)題上仍然遠(yuǎn)低于人類的水平。

模型的語(yǔ)言能力已經(jīng)在支持機(jī)器翻譯、文本分類、語(yǔ)音識(shí)別、寫作輔助工具和聊天機(jī)器人等應(yīng)用。

然而，模型本身并沒(méi)有表現(xiàn)出對(duì)它們所處理的文本的深入理解，這也就從根本上限制了它們?cè)谠S多敏感應(yīng)用中的效用。

計(jì)算機(jī)視覺(jué)和圖像處理

模型的訓(xùn)練時(shí)間相比于之前已經(jīng)大大減少，例如在ImageNet上完成工作的速度比三年前快100倍。

實(shí)時(shí)物體檢測(cè)系統(tǒng)，如YOLO（You Only Look Once），在圖像中出現(xiàn)時(shí)注意到重要的物體，被廣泛用于人群的視頻監(jiān)控，對(duì)包括自動(dòng)駕駛汽車在內(nèi)的移動(dòng)機(jī)器人非常重要。

在過(guò)去的五年里，人臉識(shí)別技術(shù)也有了很大的改進(jìn)，現(xiàn)在一些智能手機(jī)，甚至辦公大樓都依靠它來(lái)控制進(jìn)出。

雖然面部識(shí)別技術(shù)可以成為提高效率和安全的有力工具，但它也引起了關(guān)于偏見(jiàn)和隱私的問(wèn)題。YOLO的創(chuàng)建者也表示將不再參與：「軍事應(yīng)用和隱私問(wèn)題變得無(wú)法忽視」。

GANs可以讓用戶無(wú)縫地用新的圖像替換現(xiàn)有的圖像，例如將某人插入他們沒(méi)有參加的活動(dòng)的視頻中。

然而Deep Fake也在被用于身份盜用等行為，即生成一個(gè)不存在的人的資料并獲得服務(wù)，這也刺激了對(duì)相關(guān)技術(shù)進(jìn)行自動(dòng)檢測(cè)的研究。

游戲

2015年，DeepMind將深度網(wǎng)絡(luò)應(yīng)用于雅達(dá)利的游戲和圍棋，幫助深度學(xué)習(xí)獲得了廣泛的公眾關(guān)注，而在過(guò)去的五年中又取得了重大進(jìn)展。

現(xiàn)在，人工智能代理已經(jīng)在戰(zhàn)斗和多人游戲中超越了人類，包括「星際爭(zhēng)霸II」、「雷神之錘III」以及撲克等經(jīng)典游戲。

開(kāi)發(fā)AlphaGo的DeepMind團(tuán)隊(duì)繼續(xù)創(chuàng)造了AlphaGoZero，它放棄了從過(guò)去的圍棋比賽中收集大量數(shù)據(jù)，取而代之的是，從零開(kāi)始自行開(kāi)發(fā)棋步和戰(zhàn)術(shù)。

機(jī)器人

過(guò)去的五年里，在機(jī)器學(xué)習(xí)、強(qiáng)大的計(jì)算和通信能力以及復(fù)雜的傳感器系統(tǒng)可用性增加的推動(dòng)下，智能機(jī)器人技術(shù)取得了持續(xù)的進(jìn)展。

例如波士頓動(dòng)力公司制造的最先進(jìn)的仿人機(jī)器人Atlas展示了跳躍、奔跑、后空翻和操縱不平坦地形的能力，而這些能力在幾年前對(duì)機(jī)器人來(lái)說(shuō)是不可能的。

雖然在面向用戶的視覺(jué)和語(yǔ)言技術(shù)中部署人工智能現(xiàn)在已經(jīng)很普遍，但大多數(shù)類型的機(jī)器人系統(tǒng)仍然受限于實(shí)驗(yàn)室。

即便在現(xiàn)實(shí)世界中得到越來(lái)越多的應(yīng)用，比如送貨機(jī)器人，但它們?nèi)匀蝗菀壮鲥e(cuò)，尤其是在部署在未繪制地圖或新的環(huán)境中時(shí)。

出行

自動(dòng)駕駛汽車的設(shè)計(jì)需要整合一系列技術(shù)，包括傳感器融合、人工智能規(guī)劃和決策、車輛動(dòng)力學(xué)預(yù)測(cè)、實(shí)時(shí)改道、車輛間通信等等。

駕駛員輔助系使用傳感器和基于人工智能的分析來(lái)執(zhí)行任務(wù)，如自適應(yīng)巡航控制以安全地調(diào)整速度，以及車道保持協(xié)助以保持車輛在道路上的中心。

不過(guò)，五年前對(duì)完全自動(dòng)駕駛的快速進(jìn)展的樂(lè)觀預(yù)測(cè)未能實(shí)現(xiàn)。

原因可能很復(fù)雜，比如在真實(shí)物理環(huán)境中需要做到更高的安全水平，這使得問(wèn)題的解決比預(yù)期的更有挑戰(zhàn)性，也更昂貴。

健康

近年來(lái)，基于人工智能的成像技術(shù)已經(jīng)從學(xué)術(shù)追求轉(zhuǎn)向商業(yè)項(xiàng)目。

已經(jīng)有工具可以識(shí)別各種眼睛和皮膚疾病，檢測(cè)癌癥，并支持臨床診斷所需的測(cè)量。

其中一些系統(tǒng)可與專家病理學(xué)家和放射科醫(yī)生的診斷能力相媲美，并可幫助減輕繁瑣的任務(wù)（例如，計(jì)算癌癥組織中分裂的細(xì)胞數(shù)量）。

除了治療支持外，人工智能現(xiàn)在還增強(qiáng)了其他一些健康業(yè)務(wù)和測(cè)量，如幫助預(yù)測(cè)手術(shù)持續(xù)時(shí)間以優(yōu)化調(diào)度，以及識(shí)別有可能需要轉(zhuǎn)移到重癥監(jiān)護(hù)的病人。

雖然目前的滲透率相對(duì)較低，但我們可以預(yù)期在未來(lái)看到人工智能在這一領(lǐng)域的應(yīng)用擴(kuò)大。

金融

深度學(xué)習(xí)模型現(xiàn)在為一些貸款機(jī)構(gòu)部分地自動(dòng)做出貸款決定，并通過(guò)信用評(píng)分改變了支付方式，例如微信支付。

這些新系統(tǒng)經(jīng)常利用傳統(tǒng)上不用于信用評(píng)分的消費(fèi)者數(shù)據(jù)。在某些情況下，這種方法可以向新的人群開(kāi)放信貸。

對(duì)于金融機(jī)構(gòu)來(lái)說(shuō)，人工智能的用途不僅僅是檢測(cè)欺詐和加強(qiáng)網(wǎng)絡(luò)安全，還包括自動(dòng)處理法律和合規(guī)文件，以及檢測(cè)洗錢。

此外，基于深度學(xué)習(xí)的系統(tǒng)可以監(jiān)測(cè)簽約基金經(jīng)理的投資風(fēng)格，使金融機(jī)構(gòu)能夠認(rèn)識(shí)到原本看不見(jiàn)的風(fēng)險(xiǎn)，從而促進(jìn)更健全和穩(wěn)定的資產(chǎn)管理實(shí)踐。

推薦系統(tǒng)

推薦系統(tǒng)普遍采用了深度神經(jīng)網(wǎng)絡(luò)，并對(duì)用戶在產(chǎn)品、服務(wù)和內(nèi)容的消費(fèi)上產(chǎn)生了巨大的影響。

越來(lái)越多的人使用復(fù)雜的機(jī)器學(xué)習(xí)技術(shù)來(lái)分析推薦項(xiàng)目的內(nèi)容，而不是只使用元數(shù)據(jù)和用戶點(diǎn)擊或消費(fèi)行為。

包括Spotify對(duì)音樂(lè)的音頻分析，或應(yīng)用大型語(yǔ)言模型，如BERT來(lái)改善對(duì)新聞或社交媒體帖子的推薦。

另一個(gè)趨勢(shì)是對(duì)多種不同的用戶行為進(jìn)行建模和預(yù)測(cè)，而不是一次只對(duì)一種活動(dòng)進(jìn)行推薦；使用所謂的多任務(wù)模型來(lái)促進(jìn)這一功能。

然而這也引起了對(duì)公平性和多樣性等問(wèn)題的極大關(guān)注，例如，系統(tǒng)推薦的是和你一樣的人正在閱讀的新聞故事，而不是真正最重要的內(nèi)容。

問(wèn)題3：最令人激動(dòng)的重大挑戰(zhàn)問(wèn)題都有哪些？

圖靈測(cè)試

阿蘭·圖靈在 1950 年提出了他最初的挑戰(zhàn)性問(wèn)題。詢問(wèn)者通過(guò)書面問(wèn)答交流的形式，區(qū)分女人和試圖模仿女人的機(jī)器。

如果機(jī)器通過(guò)圖靈測(cè)試在模仿女人方面能夠做得和真人一樣好，即通過(guò)測(cè)試。

今天，圖靈測(cè)試的要求更高（而且性別歧視更少）：從模仿女人的單一主題，發(fā)展到與人進(jìn)行日常交流對(duì)話，由于基于人類文本的對(duì)話，需要深入的句法、文化和上下文知識(shí)，因此機(jī)器會(huì)被誤認(rèn)為是人類。

多年來(lái)，人們一直在嘗試改進(jìn)測(cè)試的基本設(shè)計(jì)。

機(jī)器人世界杯

機(jī)器人足球世界杯 RoboCup 是人工智能領(lǐng)域的一項(xiàng)重大挑戰(zhàn)， 它以開(kāi)發(fā)完全自主的機(jī)器人為目標(biāo) ，目的是打造能夠擊敗FIFA世界杯冠軍的機(jī)器人球隊(duì)。

目前有超過(guò) 35 個(gè)國(guó)家參與了這項(xiàng)倡議， 組織了一系列國(guó)際和地區(qū)比賽、座談會(huì)、暑期賽事和其他活動(dòng)。

盡管 RoboCup 的主要目標(biāo)是培養(yǎng)一支表現(xiàn)超越人類的機(jī)器人，但還有一個(gè)目標(biāo)是組建人機(jī)混合的冠軍隊(duì)伍。

這個(gè)目標(biāo)強(qiáng)調(diào)的人機(jī)協(xié)作，促進(jìn)共生的人機(jī)關(guān)系。雖然目前機(jī)器人足球比賽水平與現(xiàn)實(shí)世界的足球相去甚遠(yuǎn)，但已經(jīng)取得了重大進(jìn)步，比賽逐漸貼近更真正的人類比賽。 

國(guó)際數(shù)學(xué)奧林匹克競(jìng)賽 （IMO）

國(guó)際數(shù)學(xué)奧林匹克競(jìng)賽 (IMO) 是一項(xiàng)針對(duì)高中生的國(guó)際數(shù)學(xué)競(jìng)賽。挑戰(zhàn)問(wèn)題是建立一個(gè)可以在 IMO 中獲得金牌的 AI 系統(tǒng)。

發(fā)起這項(xiàng)挑戰(zhàn)的委員會(huì)為成功設(shè)定了精確的標(biāo)準(zhǔn)：AI 必須能夠在與人類選手相當(dāng)?shù)臅r(shí)間內(nèi)解出IMO的題目，并達(dá)到能夠獲得金牌的分?jǐn)?shù)。 

問(wèn)題4：我們?cè)诶斫馊祟愔橇Φ年P(guān)鍵奧秘方面取得了多大進(jìn)展？

在過(guò)去的五年里，人類智能研究的發(fā)展更多的是受到集體智能、認(rèn)知神經(jīng)科學(xué)和人工智能的啟發(fā)，而不是認(rèn)知心理學(xué)或心理測(cè)量學(xué)。

Facebook AI的研究人員表明，深度強(qiáng)化學(xué)習(xí)和類似于「心智理論」的搜索程序的結(jié)合可以在合作游戲中取得SOTA的性能。

集體智力

各個(gè)領(lǐng)域的研究都強(qiáng)化了這樣一個(gè)觀點(diǎn)：智力不僅是個(gè)人的屬性，也是集體的屬性。

研究界開(kāi)始把思想看作是一個(gè)散布在成員中的集體實(shí)體。

我們的理解感受到了他人知識(shí)的影響，我們依靠他人的論據(jù)來(lái)構(gòu)成我們的解釋，而我們往往不知道自己正在這樣做。

例如，我們可能認(rèn)為自己了解一項(xiàng)政策的動(dòng)機(jī)，但實(shí)際上我們依靠專家或互聯(lián)網(wǎng)來(lái)闡述。

認(rèn)知神經(jīng)科學(xué)

認(rèn)知神經(jīng)科學(xué)的工作已經(jīng)開(kāi)始對(duì)與更傳統(tǒng)的智力觀點(diǎn)相關(guān)的各種高層次技能進(jìn)行了富有成效的研究。

首先，認(rèn)知神經(jīng)科學(xué)的一個(gè)支柱是個(gè)人的屬性，如工作記憶和執(zhí)行控制是獨(dú)立于領(lǐng)域的智力的核心，它支配著所有認(rèn)知任務(wù)的表現(xiàn)，而不管其模式如何。

認(rèn)知任務(wù)的表現(xiàn)，無(wú)論其模式或主題如何。

第二個(gè)得到支持的觀點(diǎn)是，能力較高的人的特點(diǎn)是大腦連接模式更有效率。

這兩種觀點(diǎn)都與主流觀點(diǎn)相一致，即智力與頂額葉皮層中更高層次的腦區(qū)有關(guān)。

第三個(gè)想法更激進(jìn)，智力的神經(jīng)相關(guān)因素分布在整個(gè)大腦中。

在這種觀點(diǎn)中，人類智力的首要特征是靈活性，是不斷更新先前知識(shí)和產(chǎn)生預(yù)測(cè)的能力，而智力來(lái)自于大腦動(dòng)態(tài)地產(chǎn)生預(yù)測(cè)感官輸入的推論的能力。

這種靈活性是通過(guò)大腦的可塑性實(shí)現(xiàn)的，其中改變的能力隱藏在神經(jīng)連接中。

計(jì)算模型

幾十年來(lái)，認(rèn)知的計(jì)算模型一直在邏輯（符號(hào)推理）和模式識(shí)別（神經(jīng)網(wǎng)絡(luò)）之間循環(huán)往復(fù)。

計(jì)算模型領(lǐng)域現(xiàn)在充滿了受深度學(xué)習(xí)啟發(fā)的視覺(jué)識(shí)別、語(yǔ)言處理和其他認(rèn)知活動(dòng)的模型。

除了建立計(jì)算模型的努力，深度學(xué)習(xí)模型已經(jīng)成為認(rèn)知科學(xué)武器庫(kù)中的核心方法論武器。

此外，在巨大的數(shù)據(jù)量上訓(xùn)練的巨大網(wǎng)絡(luò)，如GPT-3和Grover，為語(yǔ)言和話語(yǔ)的研究開(kāi)辟了多層次的新領(lǐng)域。

The State of the Art

意識(shí)的本質(zhì)仍然是一個(gè)開(kāi)放的問(wèn)題。一些人看到了進(jìn)步；另一些人認(rèn)為，在理解如何建立一個(gè)有意識(shí)的智能體方面，并不比46年前更進(jìn)一步，當(dāng)時(shí)哲學(xué)家Thomas Nagel提出了一個(gè)著名的問(wèn)題：「做一只蝙蝠是什么感覺(jué)？」

認(rèn)知模型促使人們分析如何整合來(lái)自多種模式、多種感官和多種來(lái)源的信息：大腦、身體、實(shí)物和社會(huì)實(shí)體。

盡管現(xiàn)在有很多證據(jù)表明，正是這種整合的能力支持了人類更卓越的成就，但我們?nèi)绾巫龅竭@一點(diǎn)在很大程度上仍然是神秘的。

與此相關(guān)的是，人們認(rèn)識(shí)到支持意向性行動(dòng)、共同意向性、自由意志和代理權(quán)的過(guò)程的重要性。但在建立這些過(guò)程的嚴(yán)格模型方面，幾乎沒(méi)有什么根本性的進(jìn)展。

問(wèn)題5：更通用的人工智能前景如何？

基于Transformer的自監(jiān)督學(xué)習(xí)

在過(guò)去五年中，自監(jiān)督學(xué)習(xí)取得了重大進(jìn)展，朝著減少對(duì)大型人工標(biāo)記訓(xùn)練集的依賴邁出了一步。

在自監(jiān)督學(xué)習(xí)中，學(xué)習(xí)系統(tǒng)的輸入可以是一個(gè)不完整的例子，系統(tǒng)的工作是正確地完成這個(gè)例子。

例如，給定部分句子「我真的很喜歡讀你的……」，人們可能會(huì)預(yù)測(cè)最后一個(gè)詞是「書」或「文章」，而不是「咖啡」或「自行車」。

自監(jiān)督學(xué)習(xí)不需要明確的人工標(biāo)簽，因?yàn)檩斎霐?shù)據(jù)本身就起到了訓(xùn)練反饋的作用。

持續(xù)和多任務(wù)學(xué)習(xí)

在過(guò)去的幾年里，人工智能系統(tǒng)取得了重大進(jìn)展，持續(xù)和多任務(wù)學(xué)習(xí)系統(tǒng)可以跨多個(gè)任務(wù)學(xué)習(xí)，解決了任務(wù)之間的存在重大干擾的普遍問(wèn)題，在新任務(wù)上訓(xùn)練系統(tǒng)會(huì)導(dǎo)致其忘記如何執(zhí)行它已經(jīng)完成的任務(wù)。

這一領(lǐng)域的大部分進(jìn)展都?xì)w功于元學(xué)習(xí)方法的進(jìn)步。

讓深度強(qiáng)化學(xué)習(xí)更加通用化

幾十年來(lái)，圍棋一直是AI 面臨的重大挑戰(zhàn)之一。2016 年，DeepMind 的程序 AlphaGo 戰(zhàn)勝了這一挑戰(zhàn)，擊敗了人類最優(yōu)秀的圍棋棋手之一的李世石。

雖然 AlphaGo 是AI歷史上的里程碑，它仍然是個(gè)狹隘的勝利 ，因?yàn)榻?jīng)過(guò)訓(xùn)練的程序只能執(zhí)行 一個(gè)任務(wù)：下圍棋。后期AlphaGo 的研究路線中大大減少了對(duì)人類對(duì)局示例的依賴。

在過(guò)去的幾年里，許多研究已經(jīng)讓深度強(qiáng)化學(xué)習(xí)走向更加通用化。強(qiáng)化學(xué)習(xí)的一個(gè)關(guān)鍵部分是 環(huán)境中獎(jiǎng)勵(lì)信號(hào)的定義。

AlphaGo的唯一的獎(jiǎng)勵(lì)信號(hào)是贏得棋局。然而，在現(xiàn)實(shí)世界中，一個(gè)更豐富的集合獎(jiǎng)勵(lì)信號(hào)可能是強(qiáng)化學(xué)習(xí)算法成功所必需的。這些獎(jiǎng)勵(lì)信號(hào)通常由人類程序員定義，并且基于特定的任務(wù)域。

而最近幾年，強(qiáng)化學(xué)習(xí)被應(yīng)用于基于更通用化的策略 旨在執(zhí)行多任務(wù)學(xué)習(xí)或持續(xù)學(xué)習(xí)，系統(tǒng)經(jīng)過(guò)訓(xùn)練可以解決多個(gè)問(wèn)題。

常識(shí)問(wèn)題

目前的研究試圖使 AI 系統(tǒng)通過(guò)多個(gè)任務(wù)，以沒(méi)有任務(wù)間干擾的方式，利用自我監(jiān)督或內(nèi)在動(dòng)機(jī)的方式學(xué)習(xí)。

目前需要進(jìn)一步證明的是，這些方法可以擴(kuò)展到更多樣化和現(xiàn)實(shí)世界的復(fù)雜問(wèn)題。

一個(gè)重要的缺失就是常識(shí)問(wèn)題，常識(shí)的概念包括大量的無(wú)意識(shí)的對(duì)世界的了解，因果關(guān)系，感知情況之間的抽象相似之處的能力，即類比能力。

問(wèn)題6：公眾對(duì)人工智能的情緒如何演變，我們應(yīng)如何告知/教育公眾？

自2016年以來(lái)，「機(jī)器學(xué)習(xí)」的網(wǎng)絡(luò)搜索量大約翻了一番。

公眾對(duì)人工智能帶來(lái)的社會(huì)和經(jīng)濟(jì)影響的前景表示擔(dān)憂，諸如歧視性影響、經(jīng)濟(jì)不平等、勞動(dòng)力替代或剝削等負(fù)面影響。

相比而言，公眾對(duì)人工智能好處的認(rèn)識(shí)偏向于健康和交通等領(lǐng)域的預(yù)期突破，而對(duì)已經(jīng)被廣泛使用的人工智能的現(xiàn)有好處的認(rèn)識(shí)則相對(duì)不足。

目前的GAN仍然包括明顯的視覺(jué)偽影，比如這張圖片中奇怪地沒(méi)有右肩。

盡管如此，以前無(wú)法達(dá)到的逼真程度引起了人們對(duì)使用這種技術(shù)傳播逼真假信息的擔(dān)憂。

問(wèn)題7：為確保AI應(yīng)用是負(fù)責(zé)任的，政府做了些什么？

隨著人工智能日益成熟，其使用也越來(lái)越廣泛，過(guò)去五年尤其如此。

其中面部識(shí)別等私人和政府應(yīng)用也吸引了越來(lái)越多的公眾關(guān)注。

政府對(duì)人工智能問(wèn)題的關(guān)注增加，反映出人們認(rèn)識(shí)到這一主題是復(fù)雜的，并與其他政策優(yōu)先事項(xiàng)相互交叉，包括隱私、公平、人權(quán)、安全、經(jīng)濟(jì)以及國(guó)家和國(guó)際安全。

面部識(shí)別技術(shù)可以在照片中發(fā)現(xiàn)各種各樣的人，并識(shí)別出他們的名字。將該技術(shù)用于大規(guī)模在線發(fā)布的圖像集，可以在公共場(chǎng)合對(duì)陌生人進(jìn)行識(shí)別。

這項(xiàng)技術(shù)引發(fā)了對(duì)AI侵犯隱私和信息安全的擔(dān)憂。 

問(wèn)題8：在開(kāi)發(fā)和部署人工智能技術(shù)以及研究人工智能的影響方面，學(xué)術(shù)界和工業(yè)界的作用應(yīng)該是什么？

在大多數(shù)研究領(lǐng)域，以及歷史上的人工智能領(lǐng)域，學(xué)術(shù)界和工業(yè)界的角色有相對(duì)明確的區(qū)分。

學(xué)術(shù)界更注重基礎(chǔ)研究、教育和培訓(xùn)，而工業(yè)界更注重商業(yè)上可行的應(yīng)用領(lǐng)域的應(yīng)用研究和開(kāi)發(fā)。

然而，在最近幾年的人工智能領(lǐng)域，這種區(qū)別已經(jīng)被削弱。

許多研究人員正在選擇離開(kāi)學(xué)術(shù)界，在工業(yè)界擔(dān)任全職工作，這種轉(zhuǎn)變的長(zhǎng)期后果可能令人擔(dān)憂。

企業(yè)對(duì)學(xué)術(shù)會(huì)議的參與一直在擴(kuò)大。在像NeurIPS這樣的旗艦會(huì)議上，將近三分之一的論文與全球500強(qiáng)企業(yè)關(guān)聯(lián)。

問(wèn)題9：當(dāng)前AI最具前途的機(jī)遇是什么？

本節(jié)描述了 AI 研究的活躍領(lǐng)域和有望在近期產(chǎn)生有益影響的創(chuàng)新成果。主要關(guān)注兩類機(jī)遇。

第一類是增強(qiáng)人類能力的AI。人類和AI具有互補(bǔ)的優(yōu)勢(shì)，比如在在醫(yī)療和醫(yī)患協(xié)作方面發(fā)揮重要促進(jìn)作用。

第二類別是關(guān)于可以實(shí)現(xiàn)自主運(yùn)行AI軟件。比如能夠自動(dòng)將手寫文字自動(dòng)轉(zhuǎn)換為數(shù)據(jù)庫(kù)中的結(jié)構(gòu)化字段和文本的AI軟件。

Transformer神經(jīng)網(wǎng)絡(luò)語(yǔ)言模型由在數(shù)十億個(gè)單詞上訓(xùn)練的數(shù)十億個(gè)參數(shù)組成，可用于語(yǔ)法校正、創(chuàng)意寫作和生成逼真的文本。

圖中基于Transformer的 GPT-3模型為一個(gè)不可能存在的玩具生成了自然的產(chǎn)品描述。

問(wèn)題10：AI最緊迫的危險(xiǎn)是什么？

人工智能系統(tǒng)在現(xiàn)實(shí)世界的應(yīng)用中越來(lái)越有效，導(dǎo)致過(guò)度使用和濫用的風(fēng)險(xiǎn)激增。

隨著人工智能系統(tǒng)能力的提高，以及它們被更充分地整合到社會(huì)基礎(chǔ)設(shè)施中，失去對(duì)它們有意義的控制的影響變得更加令人擔(dān)憂。

一個(gè)特別明顯的危險(xiǎn)是，人工智能可以使人們更容易制造出可以進(jìn)行間諜活動(dòng)甚至大規(guī)模殺人的機(jī)器。但目前還有許多其他重要而微妙的危險(xiǎn)。

GAN可以將低分辨率的人臉圖像轉(zhuǎn)化為高分辨率的人臉圖像。而這樣的轉(zhuǎn)換不是在恢復(fù)缺失的信息，而是在混淆與輸入一致的細(xì)節(jié)。

舉例來(lái)說(shuō)，PULSE系統(tǒng)傾向于生成具有白人特征的圖像，正如美國(guó)前總統(tǒng)巴拉克-奧巴馬的這張輸入圖像所見(jiàn)。

問(wèn)題11：AI對(duì)社會(huì)經(jīng)濟(jì)關(guān)系造成的影響有哪些？

幾千年來(lái)，技術(shù)變革的浪潮一直被視為經(jīng)濟(jì)的雙刃劍。技術(shù)變革可以增加產(chǎn)出和財(cái)富，但同時(shí)可能會(huì)降低工資和工作機(jī)會(huì)。

羅馬皇帝曾拒絕采用一種提高生產(chǎn)力的建筑技術(shù)。19世紀(jì)初，在英國(guó)也發(fā)生過(guò)摧毀紡織機(jī)械的“盧德運(yùn)動(dòng)”。專家警告說(shuō)，新的技術(shù)浪潮可能會(huì)破壞美國(guó)的就業(yè)。

在AI領(lǐng)域。盡管一些人認(rèn)為這是增加物質(zhì)繁榮的關(guān)鍵，但也有人對(duì)AI可以低成本復(fù)制人類勞動(dòng)的現(xiàn)狀表示擔(dān)憂 ，比如可能造成人工福利的下滑。

這些擔(dān)憂有道理嗎？答案很復(fù)雜，可以說(shuō)有道理，同時(shí)也很難精確地說(shuō)明白。

美國(guó)勞工統(tǒng)計(jì)局的數(shù)據(jù)顯示，就在疫情之前，美國(guó)的就業(yè)人口比例達(dá)到了 20 年來(lái)的最高水平，這表明AI技術(shù)的增長(zhǎng)尚未造成大規(guī)模失業(yè)。

問(wèn)題12：從長(zhǎng)遠(yuǎn)來(lái)看，建立我們的思維方式作為一種工程策略是否有效？

在人類心理學(xué)中，存在著自然與養(yǎng)育的問(wèn)題。我們的行為有多少是由于我們的基因，有多少是由于我們的環(huán)境和教養(yǎng)？

人工智能解決方案是由人事先設(shè)計(jì)好的（自然），還是由機(jī)器從數(shù)據(jù)中學(xué)習(xí)的（培育）？

一個(gè)限制是摩爾定律的結(jié)束。

我們不能再像計(jì)算機(jī)時(shí)代開(kāi)始以來(lái)那樣，期望處理能力每?jī)赡攴环?。畢竟，現(xiàn)實(shí)世界中的每一個(gè)指數(shù)趨勢(shì)最終都必須收斂。

對(duì)這種限制的一個(gè)反應(yīng)是建立專門的硬件，優(yōu)化以支持人工智能軟件，例如谷歌的張量處理單元（TPU）。

另一個(gè)限制是模型大小。

2020年5月，GPT-3創(chuàng)造了一個(gè)記錄，這是一個(gè)擁有1750億個(gè)參數(shù)的神經(jīng)網(wǎng)絡(luò)語(yǔ)言模型，是之前最大的語(yǔ)言模型圖靈NLG的十倍以上，而圖靈NLG在三個(gè)月前剛剛推出。

OpenAI的一個(gè)團(tuán)隊(duì)計(jì)算出，自2012年以來(lái)，最大的人工智能訓(xùn)練運(yùn)行中使用的計(jì)算量一直在呈指數(shù)增長(zhǎng)，翻倍時(shí)間大約為三個(gè)半月。

即使摩爾定律繼續(xù)下去，模型規(guī)模如此加速的增長(zhǎng)速度也是無(wú)法支持的。

數(shù)據(jù)的可用性也阻礙了人工智能的進(jìn)一步發(fā)展。

深度學(xué)習(xí)方法通常需要有幾萬(wàn)、幾十萬(wàn)、甚至幾百萬(wàn)的例子的數(shù)據(jù)集。然而有很多問(wèn)題我們沒(méi)有這樣大的數(shù)據(jù)集。

我們可能想建立模型來(lái)預(yù)測(cè)心肺移植的成功率，但可用于訓(xùn)練模型的數(shù)據(jù)有限--全世界已經(jīng)進(jìn)行的這類手術(shù)只有幾百例。

而且像深度學(xué)習(xí)這樣的機(jī)器學(xué)習(xí)方法很難在其訓(xùn)練分布之外的數(shù)據(jù)上工作。

最后一個(gè)限制則是語(yǔ)義。

人工智能方法往往是非常統(tǒng)計(jì)的，并且以與人類完全不同的方式「理解」世界。

谷歌翻譯會(huì)很高興地使用深度學(xué)習(xí)來(lái)逐字翻譯「the keyboard is dead」和「the keyboard is alive」，而不會(huì)像你那樣停下來(lái)思考為什么這個(gè)比喻對(duì)前者有效而對(duì)后者無(wú)效。

除了以上常設(shè)的12個(gè)問(wèn)題以外，本次報(bào)告還加入了兩個(gè)來(lái)自workshop的問(wèn)題。

• 在高風(fēng)險(xiǎn)的公共背景下，如何進(jìn)行人工智能驅(qū)動(dòng)的預(yù)測(cè)，決策者在實(shí)施和治理中必須考慮哪些社會(huì)、組織和實(shí)際因素？——「實(shí)踐中的預(yù)測(cè)」

• 在使用人工智能為有需要的人提供身體和情感關(guān)懷方面，最緊迫的挑戰(zhàn)和重大機(jī)遇是什么？—— 「編碼關(guān)懷」

參考資料：

https://ai100.stanford.edu/sites/g/files/sbiybj18871/files/media/file/AI100Report_MT_10.pdf

編輯：王菁 校對(duì)：林亦霖、龔力

推薦閱讀
（點(diǎn)擊標(biāo)題可跳轉(zhuǎn)閱讀）
JupyterLab 終于出了 Windows 桌面版
李沐大神新作：用梯度下降來(lái)優(yōu)化人生
反對(duì)李沐大佬：反向用隨機(jī)梯度下降來(lái)優(yōu)化人生
神經(jīng)網(wǎng)絡(luò)的5種常見(jiàn)求導(dǎo)，附詳細(xì)的公式過(guò)程
老鐵，三連支持一下，好嗎？↓↓↓