人工智能十問(wèn)：AI會(huì)統(tǒng)治人類嗎？
點(diǎn)擊下方卡片，關(guān)注“新機(jī)器視覺(jué)”公眾號(hào)
視覺(jué)/圖像重磅干貨，第一時(shí)間送達(dá)
摘要：即便是最先進(jìn)的人工智能系統(tǒng)也存在局限性，它們還不如一只貓聰明······
網(wǎng)絡(luò)圖片
人工智能常常被認(rèn)為是一項(xiàng)將要顛覆世界的技術(shù)，從這一概念誕生至今的65年中，無(wú)數(shù)電影與小說(shuō)塑造了各種經(jīng)典的人工智能角色，AI（Artificial Intelligence）也很快成為人類未來(lái)世界藍(lán)圖中的重要組成部分。但在人工智能不斷拓寬我們對(duì)未來(lái)想象的同時(shí)，也不乏“AI 統(tǒng)治世界”、“AI 監(jiān)視隱私”等等一類的消極論調(diào)，那么，我們當(dāng)下討論的 AI 真的即將統(tǒng)治人類嗎？AI 真的在威脅著個(gè)人數(shù)據(jù)與隱私嗎？......又或者，AI 真的比我們更聰明嗎？
如果你也對(duì)這些問(wèn)題心存疑慮，又想免于被互聯(lián)網(wǎng)上的各種言論牽著鼻子走，那么，圖靈獎(jiǎng)得主楊立昆（Yann LeCun）的新書《科學(xué)之路：人，機(jī)器與未來(lái)》或許可以為你提供一份更科學(xué)、客觀且前沿的人工智能問(wèn)題參考手冊(cè)。
在真正開始有關(guān) AI 的倫理思考之前，我們首先要弄清楚以下三個(gè)名詞的關(guān)系：人工智能、機(jī)器學(xué)習(xí)與深度學(xué)習(xí)。人工智能是試圖了解智能的實(shí)質(zhì)，并生產(chǎn)出一種新的能以人類智能相似的方式做出反應(yīng)的智能機(jī)器。目前，開發(fā)新應(yīng)用最常用的人工智能技術(shù)之一就是機(jī)器學(xué)習(xí)，而深度學(xué)習(xí)是實(shí)現(xiàn)機(jī)器學(xué)習(xí)的重要方法之一，也被楊立昆以及其他許多科學(xué)家認(rèn)為是人工智能的未來(lái)。
楊立昆在書中對(duì)人工智能提出了10個(gè)問(wèn)題并進(jìn)行了深入探討，讓我們更全面、更客觀的了解人工智能。
01
人工智能是不可理解的黑匣子嗎？
一些悲觀主義者認(rèn)為深度學(xué)習(xí)系統(tǒng)是“黑匣子”，我們未來(lái)沒(méi)辦法理解和操控人工智能，但他們錯(cuò)了。誠(chéng)然，深度學(xué)習(xí)以模擬人類神經(jīng)網(wǎng)絡(luò)為基礎(chǔ)，當(dāng)神經(jīng)網(wǎng)絡(luò)具有數(shù)百萬(wàn)個(gè)單位和數(shù)十億個(gè)連接時(shí)，似乎很難完全理解它的工作原理，但這不正是所有智能決策的特點(diǎn)嗎？
我們不了解讓出租車司機(jī)、工匠、醫(yī)生或航空公司飛行員完成他們的工作的神經(jīng)運(yùn)作機(jī)制，但我們會(huì)選擇相信他們。為什么要對(duì)一臺(tái)反應(yīng)更快、不知疲倦、從不分心的機(jī)器提出更高的要求呢？當(dāng)你可以證明它比人類更可靠時(shí)，為什么還要對(duì)它產(chǎn)生懷疑呢？
人工智能系統(tǒng)每天做出數(shù)萬(wàn)億個(gè)決策，其中大多數(shù)都與查找、分類和過(guò)濾信息以及一些稍顯無(wú)聊的應(yīng)用程序有關(guān)，例如應(yīng)用于照片和視頻的效果。你是否真的愿意花時(shí)間和精力來(lái)詳細(xì)了解它們？人工智能的工作能夠帶來(lái)令人滿意的效果，這不就夠了嗎？
而且使用沒(méi)有深入了解其運(yùn)行機(jī)制的系統(tǒng)是一種常見的現(xiàn)象。許多常用藥物都是通過(guò)反復(fù)試錯(cuò)獲得的，而我們對(duì)其作用機(jī)制了解甚少。比如，我們熟悉的且在日常生活中不可被替代的阿司匹林是有史以來(lái)使用最廣泛的藥物，它于1897 年首次被合成，可是直到1971 年我們才明確其作用機(jī)制。
02
大腦只是一部可模擬的機(jī)器嗎？
如今，大多數(shù)科學(xué)家都接受了大腦是生化機(jī)器的概念。雖然這是一臺(tái)復(fù)雜的機(jī)器，但總歸是一臺(tái)機(jī)器。神經(jīng)元對(duì)輸入的電信號(hào)做出反應(yīng)，根據(jù)從上游神經(jīng)元接收到的信息計(jì)算是否產(chǎn)生電脈沖信號(hào)、動(dòng)作電位或放電脈沖，并將其發(fā)送給所有下游神經(jīng)元。這是一種十分基本的機(jī)制。但是，通過(guò)結(jié)合數(shù)十億個(gè)相對(duì)簡(jiǎn)單的神經(jīng)元的活動(dòng)，我們便獲得了大腦和思想。
我意識(shí)到，模擬人腦的想法可能會(huì)讓一些哲學(xué)家或有宗教信仰的人極力反對(duì)，但是有許多科學(xué)家認(rèn)為思維機(jī)制最終將會(huì)由可以學(xué)習(xí)的人工智能系統(tǒng)重現(xiàn)。
質(zhì)疑此觀點(diǎn)的人認(rèn)為，我們對(duì)生物、物理、量子和其他系統(tǒng)如何在人體內(nèi)結(jié)合以使大腦發(fā)揮作用的了解還遠(yuǎn)遠(yuǎn)不夠。的確，我們并不能理解這一切，但是我堅(jiān)信，哺乳動(dòng)物或人類的大腦是可以“計(jì)算”的機(jī)器，并且這些計(jì)算原則上可以通過(guò)電子機(jī)器或計(jì)算機(jī)進(jìn)行再現(xiàn)。
03
人工智能會(huì)產(chǎn)生意識(shí)嗎？
意識(shí)是一個(gè)很難討論的話題，我們不知道如何衡量和定義它。它與自我意識(shí)混淆在了一起，同時(shí)，意識(shí)被認(rèn)為是動(dòng)物存在超級(jí)智力的標(biāo)志。在鏡子中認(rèn)出自己的大象和黑猩猩已經(jīng)具有自我意識(shí)，而狗不行。
我個(gè)人認(rèn)為意識(shí)是一種幻覺(jué)，它似乎在許多聰明的動(dòng)物身上存在。人類的意識(shí)與注意力息息相關(guān)，當(dāng)面對(duì)特殊情況時(shí)，我們將注意力集中于此，此時(shí)我們會(huì)非常專注。當(dāng)我們玩益智游戲時(shí)、準(zhǔn)備新的烹飪食譜時(shí)、參加辯論時(shí)，我們的注意力將毫不猶豫地集中在這個(gè)不尋常的復(fù)雜任務(wù)上。它迫使我們開啟“世界模型”以規(guī)劃下一步行動(dòng)。
對(duì)我來(lái)說(shuō)，毫無(wú)疑問(wèn)，未來(lái)的智能機(jī)器應(yīng)該具備某種形式的意識(shí)。也許與人類的不同，它們可以同時(shí)專注于多項(xiàng)任務(wù)。但它是無(wú)法培養(yǎng)意圖或發(fā)展意識(shí)的。我的同事安托萬(wàn)·博茲總結(jié)道：“我們甚至沒(méi)有配方的原料去制造一臺(tái)既能夠制定戰(zhàn)略，又對(duì)世界有敏銳了解的真正智能機(jī)器。如今我們還缺乏一些基礎(chǔ)概念?！?/span>
04
人工智能比人類更聰明嗎？
如今，即便是最先進(jìn)的人工智能系統(tǒng)也存在局限性，它們還不如一只貓聰明。雖然我們已經(jīng)了解了大腦學(xué)習(xí)的原理，知道了大腦的結(jié)構(gòu)，但重現(xiàn)其功能所需的計(jì)算量是無(wú)比巨大的，大約是每秒1.5× 1018量級(jí)的操作。現(xiàn)在一塊 GPU 每秒可執(zhí)行1013次計(jì)算，功耗約為250瓦。為了達(dá)到人腦的計(jì)算能力，必須將10萬(wàn)個(gè)這樣的處理器連接上功耗至少25兆瓦的巨型計(jì)算機(jī)才能實(shí)現(xiàn)。這巨大的能量消耗是人腦的 100 萬(wàn)倍！
因此，深度學(xué)習(xí)的能力十分強(qiáng)大卻又十分有限。目前的深度學(xué)習(xí)系統(tǒng)仍無(wú)法進(jìn)行邏輯推理，因?yàn)楫?dāng)前的邏輯與學(xué)習(xí)能力并不匹配，這是未來(lái)幾年的主要挑戰(zhàn)。只受過(guò)國(guó)際象棋訓(xùn)練的機(jī)器根本無(wú)法下圍棋，而且它完全不理解自己所做的事情，它只不過(guò)是機(jī)械化地執(zhí)行指令。如果以生物的智能做一把標(biāo)尺，人類的智能為 100，老鼠的智能為1 ，那么人工智能在標(biāo)尺上的位置可能更接近后者。
科學(xué)面臨的挑戰(zhàn)是巨大的，技術(shù)也是如此。
也許你要提起那些仿真機(jī)器人來(lái)反駁我了，比如“索菲亞”。索菲亞是一位面帶神秘微笑、長(zhǎng)著一雙玻璃眼珠的美麗的光頭女人，“她”在2017 年的許多舞臺(tái)上都大放異彩。“她”動(dòng)人的臉龐能夠呈現(xiàn)數(shù)十種不同的表情，在調(diào)侃一個(gè)記者關(guān)于地球上有太多機(jī)器人的擔(dān)憂時(shí)，“她”笑道：“您好萊塢電影看太多了 ！”這個(gè)經(jīng)典笑話讓她如此酷似人類，以至沙特阿拉伯在當(dāng)年授予了“她”沙特國(guó)籍。實(shí)際上，“她”只是一個(gè)由工程師預(yù)先設(shè)定好一系列標(biāo)準(zhǔn)答案的“木偶”。當(dāng)我們與“她”交流時(shí)，所有的談話內(nèi)容均會(huì)經(jīng)過(guò)匹配系統(tǒng)處理，并從得到的答案中選擇最合適的一個(gè)輸出。索菲亞欺騙了人們，“她” 只是一個(gè)完成度很高的塑料制品，只不過(guò)是我們（被這個(gè)激活了的物體所感動(dòng)的人類）賦予了它某些智能。
所以，人工智能比人類聰明嗎？也許它們?cè)趫?zhí)行十分精確嚴(yán)密的特定任務(wù)時(shí)所表現(xiàn)出的性能遠(yuǎn)超人類。但至少目前，任何一種機(jī)器學(xué)習(xí)方法都沒(méi)有人類的學(xué)習(xí)更加有效。
網(wǎng)絡(luò)圖片
05
人工智能會(huì)產(chǎn)生人類感情嗎？
我絲毫不會(huì)懷疑自主智能機(jī)器有一天會(huì)產(chǎn)生情感。
當(dāng)用于測(cè)量機(jī)器人電池電量的鏡頭元件產(chǎn)生了較高的成本而致使機(jī)器人開始尋找電源時(shí)，不正與饑餓的感覺(jué)相似嗎？
當(dāng)機(jī)器因成本高昂而避免采取行動(dòng)時(shí)，或者由于成本低廉而執(zhí)行任務(wù)時(shí)，這是否已經(jīng)可以看作是一種情感的標(biāo)志？
當(dāng)計(jì)算饑餓的目標(biāo)函數(shù)的組成部分產(chǎn)生高成本時(shí)，它會(huì)觸發(fā)對(duì)食物的搜索。普遍地觀點(diǎn)認(rèn)為，這些行為是目標(biāo)模塊組件不滿意的結(jié)果。
我很清楚地意識(shí)到所有這些似乎都是可以簡(jiǎn)化的。情感是人性的重要組成部分，因此人們不愿意將其數(shù)字化為簡(jiǎn)單的數(shù)學(xué)函數(shù)計(jì)算，對(duì)將人類行為簡(jiǎn)化為目標(biāo)函數(shù)的最小化也心存疑慮。但是，我在此提出的僅是關(guān)于智能系統(tǒng)的一般體系結(jié)構(gòu)的假設(shè)，沒(méi)有否認(rèn)目標(biāo)函數(shù)和世界模型的豐富性或復(fù)雜性。
06
人工智能可以預(yù)測(cè)未來(lái)嗎？
人們都很喜歡預(yù)測(cè)，例如預(yù)測(cè)庫(kù)存、預(yù)測(cè)產(chǎn)品的需求、預(yù)測(cè)一只股票或財(cái)務(wù)價(jià)值的演變曲線...... 那么，人工智能可以預(yù)測(cè)未來(lái)嗎？
如今的人工智能有一個(gè)悖論：它功能極其強(qiáng)大、極其專業(yè)化，卻沒(méi)有一點(diǎn)常識(shí)。
常識(shí)至關(guān)重要，它制約著我們與世界的聯(lián)系，它能填補(bǔ)空白，彌補(bǔ)隱含的信息。當(dāng)我們看到一個(gè)坐在桌子旁的人時(shí)，可能看不到他的腿，但我們知道他肯定有腿，因?yàn)槲覀儗?duì)人類有一定的常識(shí)。我們的大腦還整合了物理學(xué)的基本定律，比如，如果有人打翻了眼前的玻璃杯，那么杯子里的水就會(huì)灑得滿桌子都是。我們知道如果不拿住某個(gè)東西，它就會(huì)掉下去。我們還能夠意識(shí)到時(shí)間流逝、萬(wàn)物運(yùn)動(dòng)。
目前，機(jī)器帶有的預(yù)測(cè)能力十分有限。當(dāng)然，如果給定一個(gè)有些刪減的文本，機(jī)器有能力給出一個(gè)可能的后續(xù)單詞列表。但是，如果這段文字是阿加莎·克里斯蒂(Agatha Christie)的小說(shuō)，在最后一幕波羅探長(zhǎng)宣布“兇手是......先生”，那么，為了完成這個(gè)句子需要讀者有很強(qiáng)的常識(shí)和對(duì)人性的了解。很顯然，沒(méi)有哪一臺(tái)機(jī)器能做到這一點(diǎn)。更不用提預(yù)測(cè)人類世界的未來(lái)了。
07
人工智能會(huì)統(tǒng)治世界嗎？
在經(jīng)典科幻電影《我，機(jī)器人》（I,Robot）中，機(jī)器人具有自我進(jìn)化能力，轉(zhuǎn)化成了人類的“機(jī)械公敵”，制造者和被制造者展開了戰(zhàn)爭(zhēng)。這恐怕也是很多人對(duì)人工智能未來(lái)的擔(dān)憂。
我們對(duì)機(jī)器人想要取得權(quán)力的恐懼主要來(lái)自人性特質(zhì)在機(jī)器上的投射。對(duì)大多數(shù)人來(lái)說(shuō)，人類與智慧生物的唯一互動(dòng)就是與其他人類的互動(dòng)，正因如此，我們混淆了智力和人性。這是一個(gè)錯(cuò)誤，因?yàn)檫€有其他形式的智力存在，即使在動(dòng)物界也是如此。
人類同倭黑猩猩、黑猩猩、狒狒和其他一些靈長(zhǎng)類動(dòng)物一樣具有復(fù)雜且通常帶有等級(jí)制的社會(huì)組織，每個(gè)個(gè)體的生存（或舒適度）取決于它影響該物種其他成員的能力（統(tǒng)治只是影響的一種形式）。我們是社會(huì)性動(dòng)物的事實(shí)解釋了我們?yōu)槭裁窗褜?duì)統(tǒng)治的渴望與智力聯(lián)系在一起。
除了對(duì)統(tǒng)治的渴望，為了人類物種（或基因）的生存，我們的許多沖動(dòng)和情感已通過(guò)進(jìn)化建立了起來(lái)，其中包括好奇心，對(duì)探索的渴望，競(jìng)爭(zhēng)力，屈服，渴望與我們的同類接觸，愛，仇恨，掠食，以及我們對(duì)家庭成員、我們的部族、我們的文化、我們的國(guó)家的偏愛，沒(méi)有這些沖動(dòng)和情感的人、動(dòng)物或機(jī)器也都可以是有智慧的。我們必須將這個(gè)問(wèn)題說(shuō)得清晰透徹：只有當(dāng)我們?cè)谥悄軝C(jī)器中明確地建立了這種欲望時(shí)，它們才會(huì)渴望統(tǒng)治人類。但我們?yōu)槭裁匆@樣做呢？
電影《我，機(jī)器人》劇照
08
人工智能會(huì)被濫用嗎？
霍金于2014年向英國(guó)廣播公司稱，“人工智能可能意味著人類的毀滅”， 但后來(lái)他改變了想法。就像任何一位出色的天體物理學(xué)家一樣，他的時(shí)間尺度是以數(shù)百萬(wàn)或數(shù)十億年為單位的。試想，我們?cè)趺磿?huì)如此聰明地設(shè)計(jì)出一個(gè)超人類的智能機(jī)器，同時(shí)又如此愚蠢地賦予它荒謬至極的目標(biāo)呢？
請(qǐng)記住，人工智能始終都是由人類開發(fā)出來(lái)為人類服務(wù)的工具，目的是放大人類的智能。
我們認(rèn)可的造福人類的所有技術(shù)革命都有其陰暗面，每一項(xiàng)技術(shù)都帶來(lái)了問(wèn)題，而這些問(wèn)題最終都得到了解決。
為了防止這些濫用，我?guī)椭鷦?chuàng)建了“ 人工智能伙伴關(guān)系” （PAI），這個(gè)組織匯集了約100名成員，包括大型公司、互聯(lián)網(wǎng)巨頭、學(xué)者社團(tuán)、人權(quán)組織（國(guó)際特赦組織、美國(guó)公民自由聯(lián)盟、電子前沿基金會(huì)）、媒體（《紐約時(shí)報(bào)》）、大學(xué)團(tuán)體和政府機(jī)構(gòu)等。我們討論道德問(wèn)題，警告危險(xiǎn)并發(fā)布建議。人工智能是一個(gè)新領(lǐng)域，其深度展開的后果并非總是可預(yù)測(cè)的，我們必須多加考慮。
09
人工智能會(huì)帶來(lái)軍事風(fēng)險(xiǎn)嗎？
像其他所有技術(shù)一樣，人工智能可以被用于做最好的事情，也可能被用于做最惡的事情。有些聲音反對(duì)在軍事上使用人工智能，主要是反對(duì)致命性自主武器系統(tǒng)（lethal autonomous weapon systems），它通常也被稱為“殺手機(jī)器人”。相對(duì)應(yīng)的保障措施已經(jīng)較為成熟，大多數(shù)軍隊(duì)都有極為嚴(yán)格的規(guī)則來(lái)管理啟動(dòng)打擊的授權(quán)程序。無(wú)論是何種武器，決策的源頭始終是高級(jí)軍官。我們都知道，自動(dòng)或半自動(dòng)武器已經(jīng)存在很長(zhǎng)時(shí)間了，彈道導(dǎo)彈、巡航導(dǎo)彈也是如此。在所有具有很強(qiáng)殺傷性的自動(dòng)武器中，最古老的當(dāng)屬地雷。自1999 年以來(lái)，地雷就被一項(xiàng)國(guó)際公約禁止使用，不是因?yàn)樗鼈兒苈斆鳎且驗(yàn)樗鼈兒苡薮馈?/span>
那么，智能化武器是否會(huì)有滑向軍備競(jìng)賽的危險(xiǎn)？弗拉基米爾·普京（Vladimir Putin）在曾表示，“人工智能的領(lǐng)導(dǎo)者將成為世界的統(tǒng)治者”。面對(duì)人工智能推動(dòng)的可能存在的軍事失控，危險(xiǎn)是無(wú)比真實(shí)的。避免這些危險(xiǎn)最重要的力量來(lái)自我們的國(guó)際機(jī)構(gòu)，堅(jiān)定捍衛(wèi)已有的保護(hù)措施比以往任何時(shí)候都更加有必要，因?yàn)樗鼈兪艿搅嗣翊庵髁x、民族主義和孤立主義的威脅。
10
你會(huì)被人工智能取代嗎？
我不確定人工智能革命是否會(huì)影響所有人。與那些從事可能被（部分或全部）系統(tǒng)化和自動(dòng)化工作的人相比，深耕于有資質(zhì)的、創(chuàng)新性的、專注于人際關(guān)系或人力資源職位的人更有可能保住工作。如果我們的政府不通過(guò)財(cái)政措施糾正存在的問(wèn)題，那么人工智能帶來(lái)的收益將無(wú)法平均分配，貧富差距會(huì)進(jìn)一步擴(kuò)大。
自動(dòng)化已經(jīng)取代了人類來(lái)完成重復(fù)性或艱巨的任務(wù)，而人工智能將在那些一定程度上需要加入感知、推理、決策和行動(dòng)計(jì)劃等內(nèi)容的工作中取代人類。自動(dòng)駕駛汽車會(huì)減少卡車、出租車和載客專車（VTC）的駕駛員的數(shù)量，因?yàn)樗鼈儠?huì)更加安全。醫(yī)學(xué)圖像分析系統(tǒng)已經(jīng)走進(jìn)放射科醫(yī)生的日常工作中，患者也因此得到更可靠、更便宜的檢查。在以上這些健康和交通運(yùn)輸領(lǐng)域，人工智能將會(huì)挽救更多的生命。
所有的職業(yè)都將受到科技變化帶來(lái)的影響。有一件事是可以確定的：人工智能及其應(yīng)用無(wú)法參與競(jìng)爭(zhēng)的東西會(huì)變得更有價(jià)值。
我們每個(gè)人都可以花不到2 歐元的低價(jià)或通過(guò)訂閱的方式聆聽最喜歡的音樂(lè)家的作品，然而如果要欣賞搖滾音樂(lè)會(huì)或歌劇，我們就需要支付50～300 歐元。區(qū)別在哪里？區(qū)別在于，獨(dú)特的事物賦予了生命獨(dú)特的時(shí)刻。一頓大餐，參觀自然景點(diǎn)或博物館，聽一場(chǎng)爵士樂(lè)音樂(lè)會(huì)—作為一個(gè)開明的業(yè)余愛好者，我因?yàn)槟軌蜃鲞@些事情而感到高興 ！—我們?cè)絹?lái)越重視創(chuàng)造力和獨(dú)到的體驗(yàn)，越來(lái)越不看重大眾化的產(chǎn)品。在健康、藝術(shù)、科學(xué)、教育、體育等領(lǐng)域的職業(yè)中，感性的方面在未來(lái)將占有重要的一席之地。
網(wǎng)絡(luò)圖片
本文摘編自中信集團(tuán)8月新書《科學(xué)之路：人、機(jī)器與未來(lái)》
【內(nèi)容簡(jiǎn)介】
“圖靈獎(jiǎng)”得主、“深度學(xué)習(xí)三巨頭”之一、“卷積神經(jīng)網(wǎng)絡(luò)之父”……由于在人工智能領(lǐng)域的突出貢獻(xiàn)，楊立昆被中國(guó)計(jì)算機(jī)科學(xué)界和企業(yè)界所熟知。
楊立昆的科學(xué)之路，譜寫了一段關(guān)于勇氣的宣言。他為了知識(shí)本身求學(xué)，而不是文憑，他用自己的經(jīng)歷，證明了通過(guò)激烈的考試競(jìng)爭(zhēng)進(jìn)入名校不是科學(xué)成功的唯一路徑。他廣泛閱讀，為他科學(xué)思維的形成奠定了堅(jiān)實(shí)的理論基礎(chǔ)。他特立獨(dú)行，做自己感興趣的事情，即便那件事在短時(shí)間里不被人看好。在人工神經(jīng)網(wǎng)絡(luò)研究的低谷期，他寂寞地堅(jiān)持，終于取得了舉世矚目的成就。
人工智能正在顛覆人類社會(huì)，未來(lái)機(jī)器能思考嗎？楊立昆的這部著作，講述正是人工智能在我們面前崛起——這個(gè)歷史上絕無(wú)僅有的時(shí)刻發(fā)生的故事。
—版權(quán)聲明—
僅用于學(xué)術(shù)分享，版權(quán)屬于原作者。
若有侵權(quán)，請(qǐng)聯(lián)系微信號(hào):yiyang-sy 刪除或修改！