DeepMind讓AI變身天才數(shù)學(xué)家!首次提出兩大數(shù)學(xué)猜想,登Nature封面

極市導(dǎo)讀
?12月2日,DeepMind用AI幫助數(shù)學(xué)家們提出了兩個(gè)全新的數(shù)學(xué)猜想,再次登上Nature封面!>>加入極市CV技術(shù)交流群,走在計(jì)算機(jī)視覺的最前沿
AI發(fā)現(xiàn)兩大數(shù)學(xué)猜想登上Nature封面,背后的功臣又是DeepMind!
?
這次,機(jī)器學(xué)習(xí)首次發(fā)現(xiàn)了被人類忽略的數(shù)學(xué)聯(lián)系。
?
數(shù)學(xué)的實(shí)踐,簡(jiǎn)單來說就是發(fā)現(xiàn)某種模式,并利用這些模式來提出和證明猜想,從而形成定理。
?
近日,DeepMind利用機(jī)器學(xué)習(xí)在扭結(jié)理論(Knot theory)和表示論(Representation theory)兩個(gè)領(lǐng)域協(xié)助數(shù)學(xué)家們發(fā)現(xiàn)了全新的猜想和定理。
?

?
自20世紀(jì)60年代以來,數(shù)學(xué)家們就在利用計(jì)算機(jī)來協(xié)助發(fā)現(xiàn)模式和提出猜想,其中最有名的是千禧年大獎(jiǎng)難題之一——Birch and Swinnerton-Dyer conjecture(貝赫和斯維訥通-戴爾猜想)。
?

?
為了發(fā)現(xiàn)數(shù)學(xué)對(duì)象之間的潛在模式和關(guān)聯(lián),DeepMind研究團(tuán)隊(duì)提出采用一種全新機(jī)器學(xué)習(xí)模型,用歸因技術(shù)加以輔助理解,并利用這些觀察進(jìn)一步指導(dǎo)直覺思維和提出猜想的過程。
?
論文「Advancing mathematics by guiding human intuition with AI」已于12月1日在Nature發(fā)表。
?
扭結(jié)理論
扭結(jié)理論
?
低維拓?fù)鋵W(xué)是一個(gè)活躍而有影響力的數(shù)學(xué)領(lǐng)域。
?

?
扭結(jié),是三維空間中的簡(jiǎn)單封閉曲線,也是低維拓?fù)渲械幕緦?duì)象之一。
?
在數(shù)學(xué)語言中,結(jié)是一個(gè)圓在3維歐幾里得空間中的嵌入。如果兩個(gè)數(shù)學(xué)結(jié)可以通過R的變形轉(zhuǎn)化為另一個(gè)結(jié),那么這兩個(gè)結(jié)就是等價(jià)的。
?
研究人員發(fā)現(xiàn),在這個(gè)問題上,可以利用計(jì)算機(jī)視覺(CV)領(lǐng)域常用的「顯著圖」(Saliency map)技術(shù)。在CV任務(wù)中,該技術(shù)可以確定圖像的哪些部分?jǐn)y帶相關(guān)度最高的信息。
?
通過這一技術(shù),計(jì)算機(jī)給出了多個(gè)結(jié)中可能存在關(guān)聯(lián)的屬性,還生成了一個(gè)似乎適用于所有情況的公式。
?

?
對(duì)于扭結(jié)的研究,其中一個(gè)方法是通過不變量來實(shí)現(xiàn)的,不變量是對(duì)任何兩個(gè)等價(jià)結(jié)都相同的代數(shù)、幾何或數(shù)字量。
?
這些不變量有許多不同的推導(dǎo)方式,論文主要關(guān)注其中兩個(gè)主要類別:雙曲不變量和代數(shù)不變量。這兩類不變式是由相當(dāng)不同的數(shù)學(xué)學(xué)科推導(dǎo)出來的,因此,在它們之間建立聯(lián)系是相當(dāng)有意義的。
?
一個(gè)值得注意的猜想聯(lián)系的例子是體積猜想,它提出一個(gè)結(jié)的雙曲體積(hyperbolic volume,幾何不變量)應(yīng)該被編碼在其彩色瓊斯多項(xiàng)式(coloured Jones polynomials ,代數(shù)不變量)的漸近行為中。
?

不變量的例子
?
研究人員的假設(shè)是,在一個(gè)紐結(jié)的雙曲不變量和代數(shù)不變量之間存在著一種未被發(fā)現(xiàn)的關(guān)系。
?
于是,DeepMind通過一個(gè)監(jiān)督學(xué)習(xí)模型發(fā)現(xiàn)了結(jié)的幾何不變量和一個(gè)特定的代數(shù)量signature σ(K)之間存在直接聯(lián)系,而這在以前是完全未知的,現(xiàn)有的理論也無法給出任何提示。
?

用歸因技術(shù)確定三個(gè)不變量最相關(guān)的特征,并被部分可視化
?
此外,通過使用機(jī)器學(xué)習(xí)的歸因技術(shù),DeepMind引入了一個(gè)新的數(shù)量「自然斜率」,其定義為slope(K) = Re(λ/μ),其中Re表示實(shí)部。
?
猜想:存在常數(shù)c1和c2,使得對(duì)于每個(gè)雙曲結(jié)K。
?

?
這個(gè)猜想得到了幾個(gè)從不同分布中取樣的大型數(shù)據(jù)集的分析支持。
?
定理:存在一個(gè)常數(shù)c,使得對(duì)于任何雙曲結(jié)K。
?

?
事實(shí)證明,即使對(duì)于規(guī)模非常大的一類紐結(jié),這個(gè)公式都是適用的。
?
在生成的整個(gè)數(shù)據(jù)集中,可以把c≥0.23392作為下限,有理由猜測(cè)c最多為0.3,這在計(jì)算的區(qū)域內(nèi)給出了一個(gè)緊密的關(guān)系。
?
令人驚訝的是,在一個(gè)已經(jīng)被廣泛研究的領(lǐng)域中,像這樣一個(gè)簡(jiǎn)單而深刻的聯(lián)系竟然被忽略了。
?
內(nèi)布拉斯加大學(xué)林肯分校的紐結(jié)理論家Mark Brittenham說:「這篇文章以非常直接的方式證明了這些不變量的相關(guān)性,這表明,我們?cè)谶@個(gè)領(lǐng)域還有一些基本的東西沒有完全理解?!?/span>
?
表示論
表示論
?
表示論將抽象代數(shù)結(jié)構(gòu)中的元素「表示」成向量空間上的線性變換,并研究這些代數(shù)結(jié)構(gòu)上的模,從而研究結(jié)構(gòu)的性質(zhì)。同時(shí),表示論也是關(guān)于線性對(duì)稱的理論。
?
圍繞有限的對(duì)象集進(jìn)行轉(zhuǎn)換的「對(duì)稱性」問題,在數(shù)學(xué)的幾個(gè)分支中都具有重要意義,長(zhǎng)期以來都是數(shù)學(xué)家的研究熱點(diǎn),使用的工具包括圖和多項(xiàng)式等。
?

?
悉尼大學(xué)的Geordie Williamson教授表示,過去幾十年來,研究人員一直希望可能從網(wǎng)絡(luò)中計(jì)算出多項(xiàng)式,但這個(gè)目標(biāo)似乎一直遙遙無期。
?
圖會(huì)變得過于龐大和復(fù)雜,「很快就超出了人類的理解范圍」。
?
現(xiàn)在,有了計(jì)算機(jī)的幫助,他和團(tuán)隊(duì)注意到,是不是可以將圖分解成更小、更容易管理的多個(gè)部分,各部分都具有高維立方體結(jié)構(gòu)。
?
Williamson表示,AI的強(qiáng)大讓他深感震撼。一旦機(jī)器學(xué)習(xí)算法鎖定了某個(gè)模式,就能非常精確地猜測(cè)哪些圖和多項(xiàng)式來自相同的對(duì)稱性,而且竟然猜得如此之準(zhǔn)!
?

?
近40年來,組合不變性猜想一直未能取得進(jìn)展,該猜想指出對(duì)稱群SN中兩個(gè)元素的KL多項(xiàng)式可以從它們的無標(biāo)記的Bruhat區(qū)間,即一個(gè)有向圖中計(jì)算出來。
?
不可約表示受Kazhdan-Lusztig(KL)多項(xiàng)式的影響,它與組合學(xué)、代數(shù)幾何和奇點(diǎn)理論有著深刻的聯(lián)系。
?
其中,Bruhat區(qū)間是一個(gè)圖表,它代表了通過一次只交換兩個(gè)對(duì)象來反轉(zhuǎn)對(duì)象集合順序的所有不同方式。而KL多項(xiàng)式告訴了數(shù)學(xué)家一些關(guān)于這個(gè)圖在高維空間中存在的不同方式。有趣的結(jié)構(gòu)只有在Bruhat間隔有100或1000個(gè)頂點(diǎn)時(shí)才開始出現(xiàn)。
?
在理解這些對(duì)象之間的關(guān)系方面取得進(jìn)展的一個(gè)障礙是,非三階KL多項(xiàng)式(不等于1的那些)的Bruhat區(qū)間是非常大的圖,很難形成直觀的認(rèn)識(shí)。
?

?
將這個(gè)猜想作為初始假設(shè),DeepMind發(fā)現(xiàn)了一個(gè)能夠以相當(dāng)高的精度預(yù)測(cè)Bruhat區(qū)間的KL多項(xiàng)式的監(jiān)督學(xué)習(xí)模型。
?
通過改變向神經(jīng)網(wǎng)絡(luò)輸入Bruhat區(qū)間的方式,DeepMind發(fā)現(xiàn)一些圖形和特征的選擇特別有利于預(yù)測(cè)的準(zhǔn)確性。特別是當(dāng)有了更準(zhǔn)確的估計(jì)函數(shù)的支持,通過一些子圖就足以計(jì)算出KL多項(xiàng)式。
?
通過計(jì)算歸因技術(shù)可以確定最相關(guān)的子圖,并分析這些圖與原始圖的邊緣分布,發(fā)現(xiàn)了進(jìn)一步的結(jié)構(gòu)證據(jù)。
?
在下圖a中,DeepMind通過「反射」來匯總的子圖中邊緣的相對(duì)頻率。
?
結(jié)果表明,極值反射(形式為[0,i]或[i,N-1]的SN)更多地出現(xiàn)在最相關(guān)的子圖中,而簡(jiǎn)單的反射(形式為[i,i+1])則被放棄掉了,這一點(diǎn)經(jīng)過多次模型的再訓(xùn)練也得到了證實(shí)。
?
從KL多項(xiàng)式的定義來看,簡(jiǎn)單反射和極值反射之間的區(qū)別與子圖相關(guān)性的聯(lián)系是很直觀的??紤]到這一現(xiàn)象,DeepMind發(fā)現(xiàn)一個(gè)Bruhat區(qū)間可以一個(gè)自然地分解為兩個(gè)部分:由一組極值邊誘導(dǎo)的超立方體和一個(gè)與SN-1中的區(qū)間同構(gòu)的圖。
?

?
定理:每個(gè)Bruhat區(qū)間都有一個(gè)沿其極值反射的典型超立方體分解,從中可以直接計(jì)算出KL多項(xiàng)式。
?
值得注意的是,進(jìn)一步的測(cè)試表明,所有超立方體分解都能確定KL多項(xiàng)式。這一點(diǎn)在S7以下的對(duì)稱群中的所有3×106個(gè)區(qū)間以及S8和S9的非同構(gòu)區(qū)間中的1.3×105個(gè)區(qū)間都得到了計(jì)算驗(yàn)證。
?
猜想:無標(biāo)簽的Bruhat區(qū)間的KL多項(xiàng)式可以用前面的公式計(jì)算出任何超立方體分解。
?
如果這個(gè)猜想能夠被證明,那么對(duì)稱群的組合不變性猜想就可以得到解決。
?
發(fā)現(xiàn)數(shù)學(xué)猜想,AI化身天才數(shù)學(xué)家
發(fā)現(xiàn)數(shù)學(xué)猜想,AI化身天才數(shù)學(xué)家
?
一個(gè)多世紀(jì)以前,Srinivasa Ramanujan以其在數(shù)字中看到其他人看不到的非凡模式的能力震驚了數(shù)學(xué)界。這位來自印度的自學(xué)成才的數(shù)學(xué)家,將他的洞察力描述為「深刻的直覺和精神」。
?
眾所周知,數(shù)學(xué)家的直覺在數(shù)學(xué)發(fā)現(xiàn)中起著極其重要的作用——只有將嚴(yán)謹(jǐn)?shù)男问街髁x和良好的直覺思維相結(jié)合,才能解決復(fù)雜的數(shù)學(xué)問題。
?
幾個(gè)世紀(jì)前,人們就發(fā)現(xiàn)了凸多面體性質(zhì)之間的關(guān)系:無論形狀如何,頂點(diǎn)的數(shù)目 (v) 減去邊的數(shù)目 (e) 加上面的數(shù)目 (f) 等于2,即 v-e+f=2。
?
描述這種關(guān)系的公式叫「歐拉公式」,是以瑞士數(shù)學(xué)家Leonhard Euler的名字命名,被人們稱為上帝公式。
?

?
數(shù)學(xué)家一般是通過循環(huán)往復(fù)的研究學(xué)習(xí)例子來發(fā)展數(shù)學(xué)理論。此外,還需要需要?jiǎng)?chuàng)造力和計(jì)算能力。
?
在這種簡(jiǎn)單問題情況下,他們可以用紙和筆研究幾個(gè)不同形狀的例子得出這個(gè)公式。
?
但是,當(dāng)遇到更復(fù)雜的數(shù)學(xué)問題時(shí)就會(huì)需要更廣泛的計(jì)算,就不得不需要機(jī)器學(xué)習(xí)來助力。
?
從20世紀(jì)60年代開始,數(shù)學(xué)家開始使用計(jì)算機(jī)幫助發(fā)現(xiàn)規(guī)律和提出猜想,但一直以來AI系統(tǒng)尚未普遍應(yīng)用于理論數(shù)學(xué)研究領(lǐng)域。
?
DeepMind在論文中描述的這通用的機(jī)器學(xué)習(xí)框架方法,讓數(shù)學(xué)家們可以使用ML工具來指導(dǎo)他們對(duì)復(fù)雜數(shù)學(xué)對(duì)象的直覺,驗(yàn)證關(guān)系存在的假設(shè),并理解這些關(guān)系。
?

?
通過訓(xùn)練機(jī)器學(xué)習(xí)模型來估計(jì)特定數(shù)據(jù) PZ 分布上的函數(shù),該過程有助于引導(dǎo)數(shù)學(xué)家對(duì)假設(shè)函數(shù) f 的直覺思維。
?
對(duì)學(xué)習(xí)函數(shù) f? 的準(zhǔn)確性和應(yīng)用于它的歸因技術(shù)的見解可以幫助理解問題和構(gòu)建封閉形式的 f'。
?
同時(shí),這一過程是迭代和交互的,而不是一系列的步驟。
?
研究結(jié)果證明,在數(shù)學(xué)家的直覺思維指導(dǎo)下,機(jī)器學(xué)習(xí)提供了一個(gè)強(qiáng)大的框架,可以在有大量數(shù)據(jù)可用的領(lǐng)域,或者對(duì)象太大而無法應(yīng)用經(jīng)典方法研究的領(lǐng)域,發(fā)現(xiàn)有趣且可證明的猜想。
?
正如研究者總結(jié)道,「直覺在許多人類追求的超常表現(xiàn)中扮演著重要的角色?!?/span>
?
比如,它對(duì)頂級(jí)圍棋玩家至關(guān)重要,AlphaGo之所以能夠成功,部分原因就是它通過機(jī)器學(xué)習(xí)來學(xué)習(xí)人類憑直覺判斷游戲元素的能力。
?

?
數(shù)學(xué)確實(shí)是一項(xiàng)與圍棋截然不同、更具合作性的工作,因此AI在協(xié)助數(shù)學(xué)家完成相關(guān)方面的工作,的確具備卓有成效的空間和潛力。
?
參與這項(xiàng)研究的數(shù)學(xué)家之一、英國(guó)牛津大學(xué)的Marc Lackenby說:「我非常震驚于機(jī)器學(xué)習(xí)工具是多么有用。我沒有想到我的一些先入為主的觀念會(huì)被顛覆?!?/span>
?
數(shù)學(xué)家Jeffrey Weeks說,他自20世紀(jì)80年代以來一直開創(chuàng)了其中的一些技術(shù)。但是利用AI,讓計(jì)算機(jī)尋找模式,讓這一研究有了質(zhì)的提升。
參考資料:
https://www.nature.com/articles/s41586-021-04086-x https://www.nature.com/articles/d41586-021-03593-1 https://deepmind.com/blog/article/exploring-the-beauty-of-pure-mathematics-in-novel-ways
如果覺得有用,就請(qǐng)分享到朋友圈吧!
公眾號(hào)后臺(tái)回復(fù)“transformer”獲取最新Transformer綜述論文下載~

#?CV技術(shù)社群邀請(qǐng)函?#

備注:姓名-學(xué)校/公司-研究方向-城市(如:小極-北大-目標(biāo)檢測(cè)-深圳)
即可申請(qǐng)加入極市目標(biāo)檢測(cè)/圖像分割/工業(yè)檢測(cè)/人臉/醫(yī)學(xué)影像/3D/SLAM/自動(dòng)駕駛/超分辨率/姿態(tài)估計(jì)/ReID/GAN/圖像增強(qiáng)/OCR/視頻理解等技術(shù)交流群
每月大咖直播分享、真實(shí)項(xiàng)目需求對(duì)接、求職內(nèi)推、算法競(jìng)賽、干貨資訊匯總、與?10000+來自港科大、北大、清華、中科院、CMU、騰訊、百度等名校名企視覺開發(fā)者互動(dòng)交流~

