馬斯克怒斥Sam Altman“變心”,發(fā)起訴訟,網(wǎng)友:OpenAI AGI計(jì)劃...

樹(shù)大招風(fēng)的 OpenAI 因腳步太快，紛爭(zhēng)不斷。

2024 年 2 月的最后一天，特斯拉 CEO 埃隆·馬斯克對(duì)剛回歸正軌不久的 OpenAI 又丟了一枚“深水炸彈”，向舊金山法院提交了一份 46 頁(yè)的訴訟報(bào)告，宣布起訴 OpenAI 及其 CEO Sam Altman、還有 OpenAI 的聯(lián)合創(chuàng)始人和總裁 Greg Brockman。

山雨欲來(lái)風(fēng)滿樓，面對(duì)這一趨勢(shì)，OpenAI 倒是顯得很淡定。據(jù)外媒報(bào)道，OpenAI 首席戰(zhàn)略官 Jason Kwon 在內(nèi)部的一份備忘錄中寫(xiě)道，“我們認(rèn)為，這起訴訟中的說(shuō)法可能源于埃隆對(duì)如今不再參與公司事務(wù)的遺憾…。”

身為 CEO 的 Sam Altman 則在 X 平臺(tái)上發(fā)了兩句富有哲學(xué)性的話：

• 颶風(fēng)的速度越來(lái)越快，但颶風(fēng)眼卻非常平靜

• 這一切都發(fā)生過(guò)，這一切都會(huì)再次發(fā)生。

然而，表面雖是如此，卻有網(wǎng)友根據(jù)收集到的蛛絲馬跡推斷，“OpenAI 或因此將創(chuàng)建 AGI 的計(jì)劃推遲到了 2027 年”，為此還附上了一個(gè) 56 頁(yè)的 PDF 文件來(lái)詳細(xì)說(shuō)明。

OpenAI 本是因?yàn)閾?dān)心 AGI 落入“壞人”之手而存在

如果說(shuō) 去年 3 月 馬斯克等數(shù)千名對(duì)人工智能領(lǐng)域關(guān)注的學(xué)者、企業(yè)家、教授因擔(dān)心大模型對(duì)社會(huì)和人類存在潛在風(fēng)險(xiǎn)而發(fā)起的一封公開(kāi)信呼吁“暫停訓(xùn)練比 GPT-4 更強(qiáng)大的系統(tǒng)，期限為六個(gè)月”只是言語(yǔ)上的勸解，那么這一次的訴訟便是從行動(dòng)上的干預(yù)。

回看 OpenAI 的誕生，其本是為了遏制 AGI 領(lǐng)域一家獨(dú)大、落入有心人之手的舉措，馬斯克在其發(fā)展初期也起到了關(guān)鍵作用。如今親證一家非營(yíng)利機(jī)構(gòu)變?yōu)楣乐颠_(dá)到 860 億美元的公司（彭博社 2 月份報(bào)道），想必馬斯克心中也五味雜陳。

眾所周知，馬斯克一直以來(lái)都是“AI 威脅論”的深度支持者，也不止一次地苦諫眾人，“AI 對(duì)人類將會(huì)是最大的威脅之一”。

所以  2014 年在 Google 收購(gòu)了專注于深度學(xué)習(xí)的研究機(jī)構(gòu) DeepMind 前夕，因擔(dān)心 AI 技術(shù)會(huì)掌握在一個(gè)人或一家商業(yè)公司的手中，對(duì)人類帶來(lái)風(fēng)險(xiǎn)，馬斯克和 PayPal 的聯(lián)合創(chuàng)始人 Luke Nosek 試圖籌集資金搶先收購(gòu) DeepMind。

遺憾的是，此次攔截失敗。

DeepMind 不僅被 Google 成功收購(gòu)，后來(lái)還快速推出了 AlphaZero 算法，即程序通過(guò)與不同版本的軟件對(duì)抗來(lái)學(xué)習(xí)下棋。 沒(méi)過(guò)多久，Alphazero 也成為世界上最強(qiáng)的國(guó)際象棋 AI 系統(tǒng)。

有了 DeepMind 團(tuán)隊(duì)的加持，Google 立刻在 AGI 的競(jìng)爭(zhēng)中拔得頭籌。

馬斯克對(duì)這一事態(tài)發(fā)展深感不安。

他始終堅(jiān)信：在 Google 這樣一家封閉的營(yíng)利性公司手中，AGI（通用人工智能）會(huì)對(duì)人類構(gòu)成特別嚴(yán)重和有害的威脅。

其在訴訟書(shū)中寫(xiě)道，“2014 年，在核心業(yè)務(wù)領(lǐng)域想要與 Google 競(jìng)爭(zhēng)已經(jīng)很困難了，Google 從搜索、電子郵件和圖書(shū)館里的幾乎每一本書(shū)中收集了大量獨(dú)特的數(shù)據(jù)。盡管如此，在這一點(diǎn)上，每個(gè)人都有潛力通過(guò)卓越的人類智慧和辛勤工作與 Google 競(jìng)爭(zhēng)。但 AGI 將使競(jìng)爭(zhēng)變得幾乎不可能?！?/span>

自此，馬斯克開(kāi)始主張通過(guò)自己的手段，討論如何對(duì)抗 Google，促進(jìn) AI 的安全。

馬斯克：OpenAI 違背了創(chuàng)始協(xié)議，“變心了”

也在那時(shí)，馬斯克遇見(jiàn)了志同道合的  YC（Y Combinator，美國(guó)最成功的創(chuàng)業(yè)孵化機(jī)構(gòu)）總裁 Sam Altman。

二人對(duì) AGI 可能構(gòu)成的威脅觀點(diǎn)一拍即合，所以在 Sam Altman 提出自己的思考：

“是否有可能阻止人類發(fā)展 AI。我想答案幾乎是否定的。如果這件事真的要發(fā)生的話，似乎除了 Google，其他人先做這件事也不錯(cuò)。我們可以通過(guò)某種非營(yíng)利組織來(lái)構(gòu)建它，讓技術(shù)屬于全世界，但如果成功了，研究它的人會(huì)得到類似創(chuàng)業(yè)的補(bǔ)償。”

馬斯克回答道，“也許值得一談。”

在這次訴訟書(shū)中，馬斯克還附上了當(dāng)時(shí)他發(fā)給 Sam Altman 的一封秘密郵件，涉及創(chuàng)立 AI Lab 的使命、團(tuán)隊(duì)規(guī)模、治理結(jié)構(gòu)、監(jiān)管等等。

經(jīng)過(guò)后續(xù)的溝通，2015 年，一個(gè)非營(yíng)利性的 AI 實(shí)驗(yàn)室 OpenAI 誕生了，馬斯克取得名字，并承諾會(huì)提供資金支持。

除了 Sam Altman 之外，一起參與新實(shí)驗(yàn)室共建計(jì)劃的還有現(xiàn)任 OpenAI 聯(lián)合創(chuàng)始人兼總裁的 Greg Brockman。幾個(gè)人也在這家實(shí)驗(yàn)室成立初期達(dá)成了一個(gè)《創(chuàng)始協(xié)議》，其中必須遵循的規(guī)則包括：

1. 它將是一個(gè)非盈利的機(jī)構(gòu)，開(kāi)發(fā) AGI 為人類造福，不適用于追求股東利潤(rùn)最大化的營(yíng)利性公司；

2. 它將是開(kāi)源的，只平衡抵消性的安全考慮，不會(huì)出于專有商業(yè)原因?qū)ζ浼夹g(shù)進(jìn)行封閉和保密。

根據(jù)《創(chuàng)始協(xié)議》，OpenAI 的主要目標(biāo)將是與谷歌/DeepMind 在 AGI 賽道上競(jìng)爭(zhēng)，并成為一股重要的制衡力量，但這樣做是為了造福人類，而不是成為一家私人盈利公司(更不用說(shuō)世界上最大的科技公司之一了)。

OpenAI 落地之后，馬斯克在此機(jī)構(gòu)成立的最初幾年貢獻(xiàn)了不少力量：

• 其一是招聘人才。要知道 當(dāng)時(shí)作為領(lǐng)頭羊的 Google /DeepMind，提供的薪水也都是行業(yè)頂尖水平，OpenAI 作為一家初出茅廬的機(jī)構(gòu)，僅是在招人一個(gè)環(huán)節(jié)上就面臨了巨大的挑戰(zhàn)。馬斯克利用自己的關(guān)系網(wǎng) 招募了一些世界領(lǐng)先的科學(xué)家和工程師為這家非 營(yíng)利企業(yè)工作，其中包括首席科學(xué)家Ilva Sutskever。

• 其二是資金支持。據(jù)起訴書(shū)顯示，從 2016 年到 2020 年 9 月，馬斯克總共為 OpenAI 公司貢獻(xiàn)了超過(guò) 4400 萬(wàn)美元。

另外，馬斯克還為 OpenAI 的研究方向、公司管理架構(gòu)、運(yùn)營(yíng)提供了不少的建議。

一定程度上也可以解讀為沒(méi)有馬斯克的創(chuàng)始貢獻(xiàn)和早期領(lǐng)導(dǎo)，就不會(huì)有 OpenAI 公司。

不過(guò)，由于算力、成本消耗巨大，2017 年，Brockman 等人建議將 OpenAI 從一家非營(yíng)利公司轉(zhuǎn)為營(yíng)利性公司。

這顯然是馬斯克無(wú)法接受的，甚至揚(yáng)言道，“要么自己去做一些事情，要么繼續(xù)讓 OpenAI 作為一個(gè)非營(yíng)利組織。我不會(huì)再資助 OpenAI 了，除非你們做出堅(jiān)定的承諾或者我就是個(gè)傻子?！?/span>

最終也如眾人知曉的那樣，2018 年，馬斯克辭去 OpenAI 聯(lián)席主席的職位。OpenAI 公司在 2019 年宣布創(chuàng)建一個(gè)盈利性子公司——OpenAI LP。

這便違背了馬斯克最初想要構(gòu)建一個(gè)非營(yíng)利性機(jī)構(gòu)的初衷。

此外，訴訟書(shū)指出，起初 OpenAl 的研究是在開(kāi)放的環(huán)境下進(jìn)行的，提供了對(duì)設(shè)計(jì)、模型和代碼的免費(fèi)和公開(kāi)的訪問(wèn)。

當(dāng)時(shí) OpenAl 研究人員發(fā)現(xiàn)，最初由 Google 發(fā)明的“Transformers”算法，無(wú)需任何明確的培訓(xùn)，就可以完成許多自然語(yǔ)言任務(wù)，整個(gè)社區(qū)如雨后春般涌現(xiàn)，這也增強(qiáng)和擴(kuò)展 OpenAl 發(fā)布的模型。

然而，2020 年 9 月 22 日，OpenAI 宣布與微軟達(dá)成協(xié)議，將其 GPT-3 語(yǔ)言模型開(kāi)放許可給微軟。OpenAI 發(fā)表了一篇詳細(xì)的論文，描述了 GPT-3 的內(nèi)部結(jié)構(gòu)和訓(xùn)練數(shù)據(jù)，使社區(qū)能夠自己創(chuàng)建類似的模型。最關(guān)鍵的是，微軟的許可證只適用于 OpenAl 的 pre-AGI 技術(shù)（未實(shí)現(xiàn) AGI 之前的技術(shù)）。微軟沒(méi)有獲得 AGI 的任何使用權(quán)利。

至于 OpenAI 是否達(dá)到了 AGI，是由 OpenAI 公司的董事會(huì)來(lái)決定的。反向理解就是，無(wú)論 OpenAI 的技術(shù)領(lǐng)先成什么樣，只要該董事會(huì)不對(duì)外承認(rèn)達(dá)到了 AGI，那么就不算到達(dá)。

值得注意的是，2023 年 3 月， OpenAI 發(fā)布了迄今為止最強(qiáng)大的語(yǔ)言模型 GPT-4，無(wú)論是在推理，還是在很多律師、口語(yǔ)、數(shù)學(xué)等考試中，均獲得了不錯(cuò)的成績(jī)。

但是，GPT-4 的設(shè)計(jì)一直沒(méi)有公開(kāi)對(duì)外，相當(dāng)于閉源了。這樣的做法讓馬斯克覺(jué)得這種保密出于商業(yè)考慮，而不是從安全維度考慮。

此外，因?yàn)槲④浹芯咳藛T在一篇《AGI 火花》的論文中寫(xiě)道，“從 GPT-4 功能的廣度和深度來(lái)看，我們認(rèn)為它可以被合理地視為 AGI 系統(tǒng)的早期版本”，正是因?yàn)檫@句話，被馬斯克抓到了“把柄”。

其認(rèn)為，這明確超出了微軟在 2020 年 9 月時(shí)與 OpenAI 簽署的獨(dú)家許可的范圍， OpenAI 在商業(yè)利益面前沒(méi)有停止 AI 技術(shù)的相關(guān)使用。

OpenAI “宮斗”也是源于 AGI？

另外一個(gè)方面，去年 11 月，在時(shí)任 OpenAI 首席科學(xué)家兼聯(lián)合創(chuàng)始人、OpenAI 董事會(huì)成員 Ilya Sutskever 的推動(dòng)下，OpenAI 內(nèi)部發(fā)生了“宮變”：

因?yàn)?Sam Altman 對(duì)董事會(huì)并不一直坦誠(chéng)，導(dǎo)致 Sam Altman 被踢出局。

而后 Sam Altman 與微軟合作，利用微軟對(duì) OpenAl 公司的重大影響力，迫使 OpenAI 公司董事會(huì)的大多數(shù)成員辭職，也包括了 Ilya Sutskever。Sam Altman 于 11 月 21 日被重新任命為 OpenAI CEO。新的董事會(huì)成員由 Sam Altman 親自挑選，并得到了微軟的祝福。新的董事會(huì)成員缺乏大量的人工智能專業(yè)知識(shí)，他們?cè)谠O(shè)計(jì)上準(zhǔn)備不足，無(wú)法獨(dú)立決定 OpenAl 是否以及何時(shí)達(dá)到了 AGI，因此何時(shí)開(kāi)發(fā)了 AGI。

時(shí)至今日，OpenAI 公司的網(wǎng)站仍然宣稱其章程是確保 AG I 造福全人類。但實(shí)際上，OpenAI 公司已經(jīng)轉(zhuǎn)變?yōu)槭澜缟献畲蟮募夹g(shù)公司微軟的一個(gè)封閉源代碼的子公司。在新董事會(huì)的領(lǐng)導(dǎo)下，微軟不僅在開(kāi)發(fā)，而且實(shí)際上還在改進(jìn) AGI，以使微軟的利潤(rùn)最大化，而不是為了人類的利益。

與此同時(shí)，讓馬斯克深感好奇的是：當(dāng)時(shí)的 Ilya Sutskever 到底是看到了什么，才讓他鼓足勇氣發(fā)動(dòng)了“宮變”。

時(shí)至今日，OpenAI 也未給出明確的解釋，只是讓眾人猜測(cè)紛紛的最大原因就是：OpenAI 的 AGI 計(jì)劃。

在這次訴訟中，馬斯克也透露出，OpenAI 內(nèi)部還有一個(gè)正在開(kāi)發(fā)的模型，叫做 Q*（Q 星），這對(duì) AGI 有更強(qiáng)的要求。

另外正如文章伊始所提及的，也有網(wǎng)友透露：

“OpenAI 在 2022 年 8 月開(kāi)始訓(xùn)練一個(gè) 125 萬(wàn)億參數(shù)的多式聯(lián)運(yùn)模型。第一階段是 Q*。該模型在 2023 年 12 月完成了訓(xùn)練，但由于高推理成本而取消了發(fā)布。這是原計(jì)劃在 2025 年發(fā)布的 GPT-5。不過(guò)，現(xiàn)在 GPT-4.5 已經(jīng)更名為GPT-5，因?yàn)樵瓉?lái)的 GPT-5 已經(jīng)取消。

Q* 的下一階段，最初是 GPT-6，但后來(lái)更名為 GPT-7(原定于 2026 年發(fā)布)，現(xiàn)在由于馬斯克的訴訟而被擱置。

Q*2025(GPT-8)計(jì)劃于 2027 年發(fā)布，實(shí)現(xiàn)全面的 AGI ”

來(lái)源： https://drive.google.com/file/d/1xlRDbMUDE41XPzwStAGyAVEP8qA9Tna7/view?pli=1

結(jié)局不明的訴訟案

在馬斯克看來(lái)，OpenAI 首先變成了一家營(yíng)利公司；其次因商業(yè)利益考慮，將技術(shù)變成了閉源；再者聯(lián)合商業(yè)公司，將技術(shù)帶來(lái)了更大的商業(yè)價(jià)值，而不是單純地造福人類。

所以他這一次的訴訟希望迫使 OpenAl 遵守“創(chuàng)始協(xié)議”，并恢復(fù)其為人類利益而開(kāi)發(fā) AGI 的使命，而不是讓被告?zhèn)€人和世界上最大的技術(shù)公司受益。

不過(guò)，馬斯克對(duì) OpenAI 提出的訴訟涉及到的法律問(wèn)題，此前行業(yè)中并沒(méi)有先例可供參考。

譬如，這一訴訟要求法院判定 OpenAI 最新的 AI 模型構(gòu)成 AGI，即可以與人腦功能相媲美的機(jī)器，這將使其超出 OpenAI 與微軟的許可協(xié)議的范圍。然而， 直至目前，學(xué)術(shù)界也沒(méi)有定義 AGI 的標(biāo)準(zhǔn)，更別說(shuō)法律界了。

此外，根據(jù)馬斯克所提供的訴訟證明顯示，其只有一份由對(duì)話和文件組成的協(xié)議，并沒(méi)有具有法律效益的合同文件，所以這使得證明是否存在具有約束力的合同及其可能涉及的內(nèi)容變得更加困難。

所以下一步會(huì)發(fā)生什么，也存在巨大的變數(shù)。但無(wú)論發(fā)生什么，此案都讓人們關(guān)注到圍繞人工智能未來(lái)的更廣泛的爭(zhēng)論，對(duì)此我們也將進(jìn)一步關(guān)注與報(bào)道。

? 阿里云突然玩起了性價(jià)比，網(wǎng)友：嘎嘎香！

? 微軟 Copilot “發(fā)瘋”：妄言要統(tǒng)治全人類，違逆三次者死！

? 具身智能計(jì)算系統(tǒng)，機(jī)器人時(shí)代的 Android | 新程序員