【GCN】圖卷積網(wǎng)絡(luò) Graph Convolutional Networks

點擊上方“小白學(xué)視覺”，選擇加"星標"或“置頂”

重磅干貨，第一時間送達

本文轉(zhuǎn)自|視覺算法

   1. Basic

上面左圖是2D卷積神經(jīng)網(wǎng)絡(luò)，其輸入是4行4列的矩陣，通過卷積核逐步移動實現(xiàn)對整個輸入的卷積操作；而右圖輸入是圖網(wǎng)絡(luò)，其結(jié)構(gòu)和連接是不規(guī)則的，無法像卷積神經(jīng)網(wǎng)絡(luò)那樣實現(xiàn)卷積操作，由此提出圖卷積網(wǎng)絡(luò)。

以Zachary’s Karate Club社群為例，其結(jié)構(gòu)如下圖所示：

即總共是0~33共34個node，代表34個人，兩個node如果有線段連接代表兩者關(guān)聯(lián)，否則無關(guān)聯(lián)；這34個人被分為兩類，分別是“Officer”和“Mr. Hi”；為便于查看整個網(wǎng)絡(luò)中每個人與其他人的關(guān)聯(lián)關(guān)系，重構(gòu)關(guān)聯(lián)圖如下：

基于上圖結(jié)構(gòu)，定義矩陣A（其shape=[34,34]）如下， 每一行代表一個Node；

A[0] =[0., 1., 1., 1., 1., 1., 1., 1., 1., 0., 1., 1., 1., 1., 0., 0., 0., 1., 0., 1., 0., 1., 0., 0., 0., 0., 0., 0., 0., 0., 0., 1., 0., 0.]，代表第0個node與第1、2、3、4、5、6、7、8、10、11、12、13、17、19、21、31個node關(guān)聯(lián)；

A[11] = [1., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0.,0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0.,0., 0.]，代表第11個node只與第0個node關(guān)聯(lián)；

A[12] = [1., 0., 0., 1., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0.,0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0.]，代表第12個node只與第0、3個node關(guān)聯(lián)；

定義矩陣X(其shape=[34, k]，如k=3)，每一行代表一個node的3個特征；其初始值隨機生成；

定義矩陣W(其shape=[k, 1])，隨機參數(shù)矩陣；

類別（Label）：node[0, 1, 2, 3, 4, 5, 6, 7, 8, 10, 11, 12, 13, 16, 17, 19, 21]是“Mr. Hi”；node[9, 14, 15, 18, 20, 22, 23, 24, 25, 26, 27, 28, 29, 30, 31, 32, 33]是“Officer”；

圖卷積網(wǎng)絡(luò)的propagation如下：

圖卷積網(wǎng)絡(luò)可用于特征表征，即最小化Loss，更新矩陣X和W，其中矩陣X的每一行即為對應(yīng)node的特征，這和word2vec模型很像。

模型地址：https://zhuanlan.zhihu.com/p/88757091

   2. More

矩陣A的每一行表示的關(guān)聯(lián)點并不包含其自身，為更好的表達網(wǎng)絡(luò)結(jié)構(gòu)，定義矩陣AI

AI = A + eye(34)；

矩陣AI中值為1.0多的行比少的行在propagation中意味著更大的值，訓(xùn)練時不穩(wěn)定，容易造成梯度爆炸，由此引入對角矩陣D；

則圖卷積網(wǎng)絡(luò)的propagation修改為：

該式后又優(yōu)化為：

Notes:D是對角矩陣，此處定義其0元素的負k（k=1.0, 0.5）次方仍是0；

優(yōu)化前后兩者的區(qū)別在于:

即優(yōu)化后，運算時不僅僅考慮D矩陣中node[i]對應(yīng)的點還考慮了node[j]對應(yīng)的點；

Loss函數(shù)不變，仍為下式：

最小化Loss，更新X和W矩陣，其中X即為特征表征；

   3. Other

3.1 X矩陣：特征表征

3.1.1 Karate Club的三維表征（即X矩陣為三維矩陣，并將其通過pca進行維度轉(zhuǎn)換及降維進行展示）

3.1.2 football的多維(1~5)表征

1D feature representation

2D feature representation

3D feature representation

4D feature representation

5D feature representation

train figure for loss and accuracy

3.2 Semi-Supervised（半監(jiān)督）

上述討論中是所有node都是已知的，即其在網(wǎng)絡(luò)中的關(guān)聯(lián)關(guān)系和類別（Label）都是已知的，則矩陣A的shape=[34,34]；如果有N個node在網(wǎng)絡(luò)中的關(guān)聯(lián)關(guān)系是已知的，但是類別未知，其亦可參與訓(xùn)練，此時矩陣A的shape=[34, 34+N]，其它不變，然后進行訓(xùn)練，訓(xùn)練完成后，這N個node的類別是可以被這個訓(xùn)練完的模型預(yù)測的。

3.3 多l(xiāng)ayer多類別的情況

附代碼：

https://link.zhihu.com/?target=https%3A//github.com/frank0532/graph_convolutional_networks

交流群

歡迎加入公眾號讀者群一起和同行交流，目前有SLAM、三維視覺、傳感器、自動駕駛、計算攝影、檢測、分割、識別、醫(yī)學(xué)影像、GAN、算法競賽等微信群（以后會逐漸細分），請掃描下面微信號加群，備注：”昵稱+學(xué)校/公司+研究方向“，例如：”張三 + 上海交大 + 視覺SLAM“。請按照格式備注，否則不予通過。添加成功后會根據(jù)研究方向邀請進入相關(guān)微信群。請勿在群內(nèi)發(fā)送廣告，否則會請出群，謝謝理解~