誰(shuí)是2018年AI圈最靚的仔？

這頂“桂冠”只有兩位候選人：俗話(huà)說(shuō)，前端能打看BERT，底層深度看圖網(wǎng)絡(luò)。其實(shí)并沒(méi)有這句俗話(huà)……但是BERT和圖網(wǎng)絡(luò)在今天的AI界并駕齊驅(qū)，堪稱(chēng)被討論最多的兩種技術(shù)，這一點(diǎn)是毫無(wú)疑問(wèn)的。谷歌的BERT作為一種算法模型，在語(yǔ)言任務(wù)上展現(xiàn)出了不講道理的應(yīng)用效果，熠熠奪目自然很容易理解。

但另一個(gè)最近大家聽(tīng)到很多次的詞，圖網(wǎng)絡(luò)，可能就沒(méi)那么容易理解了。相比某種算法，圖網(wǎng)絡(luò)更像是一個(gè)學(xué)術(shù)思考下若干種技術(shù)解決思路的集合，非常抽象和底層。它的價(jià)值到底在哪？為什么甚至能被抬高到“深度學(xué)習(xí)的救星”這種程度？我們發(fā)現(xiàn)，目前關(guān)于圖網(wǎng)絡(luò)的解釋?zhuān)�大多都是從論文出發(fā)。非技術(shù)背景的讀者可能會(huì)看得有點(diǎn)暈。所以這里想用一些“大白話(huà)”，來(lái)描述一下：風(fēng)口浪尖上的圖網(wǎng)絡(luò)，究竟有什么秘密？

想讓自己在AI圈潮酷起來(lái)嗎？聊Graph和GNN吧

所謂圖網(wǎng)絡(luò)，并不是指有圖片的網(wǎng)站……而是指基于圖（Graph）數(shù)據(jù)進(jìn)行工作的神經(jīng)網(wǎng)絡(luò)。

Graph，翻譯成“圖”，或者“圖譜”。這是一個(gè)數(shù)學(xué)概念，指由頂點(diǎn)（nodes）和邊（edges）構(gòu)成的一種數(shù)學(xué)關(guān)系。后來(lái)這個(gè)概念引申到了計(jì)算機(jī)科學(xué)中，成為了一種重要的數(shù)據(jù)形式，用來(lái)表示單元間相互有聯(lián)系的數(shù)據(jù)網(wǎng)絡(luò)。此外，這個(gè)概念還引申到了生物學(xué)、社會(huì)科學(xué)和歷史學(xué)等無(wú)數(shù)學(xué)科，甚至變成了我們生活中的常見(jiàn)概念。在警匪片里，警局或者偵探辦公室的墻上，往往掛著罪犯的關(guān)系網(wǎng)絡(luò)圖，這大概是我們生活中最常見(jiàn)的Graph。

回到計(jì)算機(jī)科學(xué)領(lǐng)域，圖數(shù)據(jù)和基于圖的分析，廣泛應(yīng)用于各種分類(lèi)、鏈路、聚類(lèi)任務(wù)里。人工智能領(lǐng)域有個(gè)重要的分支，叫做知識(shí)圖譜�；�本邏輯就是將知識(shí)進(jìn)行Graph化，從而在我們尋找知識(shí)時(shí)，可以依據(jù)圖譜關(guān)系進(jìn)行追蹤和定位。比如我們?cè)谒阉饕�擎中搜某個(gè)名人時(shí)，相關(guān)推薦會(huì)跳出來(lái)跟這個(gè)人字面意義上無(wú)關(guān)的其他人。這就是知識(shí)圖譜在起作用。

那么圖網(wǎng)絡(luò)是怎么搞出來(lái)的呢？

大家可能知道這樣一個(gè)“唱衰AI”的小故事：用機(jī)器視覺(jué)技術(shù)，AI今天可以很輕松識(shí)別出來(lái)一張照片上的幾張人臉。但它無(wú)法像真人一樣，一眼看出來(lái)圖上是朋友、戀人還是家庭聚會(huì)。換句話(huà)說(shuō)，一般意義上AI無(wú)法獲得和增強(qiáng)用人類(lèi)常識(shí)去進(jìn)行邏輯推理的能力。很多人以此判斷，今天的AI并不怎么智能。

AI科學(xué)家們琢磨了一下，表示這事兒有辦法搞定。如果把圖／圖譜作為AI的一部分，將深度學(xué)習(xí)帶來(lái)的學(xué)習(xí)能力，和圖譜代表的邏輯關(guān)系結(jié)合起來(lái)，是不是就好很多？

事實(shí)上，Graph＋Deeplearning并不是一個(gè)全新概念。最早在2009年，就有研究提出了二者的結(jié)合。近幾年這個(gè)領(lǐng)域陸續(xù)在有研究出來(lái)。對(duì)于這個(gè)組合產(chǎn)物，學(xué)術(shù)界有人稱(chēng)之為圖卷積網(wǎng)絡(luò)（GCN），也有人稱(chēng)呼其為圖神經(jīng)網(wǎng)絡(luò)（GNN）或者圖網(wǎng)絡(luò)（GN，Graph Networks），其技術(shù)內(nèi)涵和命名思路也各不相同。這里暫且使用圖網(wǎng)絡(luò)這個(gè)籠統(tǒng)稱(chēng)呼。

圖網(wǎng)絡(luò)作為一種新的AI研究思路，之所以能夠在2018年被點(diǎn)燃，很大程度還是號(hào)稱(chēng)AI扛把子的DeepMind的功勞。在火種拋出、全球跟進(jìn)以及反復(fù)爭(zhēng)論之后，圖網(wǎng)絡(luò)變成了AI學(xué)術(shù)圈最靚仔的那個(gè)關(guān)鍵詞。今天大有一種，聊深度學(xué)習(xí)不說(shuō)圖網(wǎng)絡(luò)就很low的感覺(jué)……

從識(shí)別小能手到推理專(zhuān)家：AI新貴求職記

有種論調(diào)是這么說(shuō)的：深度學(xué)習(xí)已死，圖網(wǎng)絡(luò)才是未來(lái)。這句話(huà)怎么琢磨都有問(wèn)題。因?yàn)閺膱D網(wǎng)絡(luò)在去年被“翻新”出來(lái)那一刻，它在本質(zhì)上還是對(duì)流行的多層神經(jīng)網(wǎng)絡(luò)的一種補(bǔ)充。讓我們來(lái)打個(gè)比方，看一下跟傳統(tǒng)深度學(xué)習(xí)相比，圖網(wǎng)絡(luò)應(yīng)該是如何工作的。

舉個(gè)例子，假如我們想讓教育我們的孩子，讓他認(rèn)識(shí)新來(lái)的鄰居一家人。我們應(yīng)該怎么辦呢？可以選擇給他講，隔壁新來(lái)了某個(gè)小朋友，他爸爸是誰(shuí)媽媽是誰(shuí)。但是這樣不直觀，孩子很容易記不住。而更快的方式或許是拿著照片給他看，告訴他照片上的人都是什么關(guān)系。而在這個(gè)工作之前，其實(shí)我們已經(jīng)完成了一個(gè)先覺(jué)條件：我們已經(jīng)告訴過(guò)孩子，爸爸媽媽爺爺奶奶這些稱(chēng)呼，分別指代的是什么意思。他理解這些“邊”，然后再代入新鄰居一家人具體的樣貌性格交談作為“頂點(diǎn)”，最終構(gòu)成了對(duì)鄰居一家這個(gè)“圖”的網(wǎng)絡(luò)化認(rèn)識(shí)。

而我們?cè)谟蒙疃葘W(xué)習(xí)教導(dǎo)AI時(shí)，往往是省略掉第一步。直接給出大量照片和語(yǔ)音文字資料進(jìn)行訓(xùn)練，強(qiáng)迫AI去“記住”這一家人的關(guān)系。然而在AI缺乏對(duì)家庭關(guān)系的基本常識(shí)情況下，它到底能不能記住，是怎么記住的，會(huì)不會(huì)出現(xiàn)偏差，其實(shí)我們都是不知道的。

某種程度上，這就是深度學(xué)習(xí)的黑箱性來(lái)源之一。

所以圖網(wǎng)絡(luò)的思路是，首先讓AI構(gòu)建一個(gè)“圖”數(shù)據(jù)，先理解爸爸媽媽這一類(lèi)關(guān)系的含義，再去學(xué)習(xí)具體的家庭數(shù)據(jù)。這樣AI就可以依靠已經(jīng)積累的節(jié)點(diǎn)間的消息傳遞性，來(lái)自己推理下一個(gè)要認(rèn)識(shí)的家庭究竟誰(shuí)是爸爸誰(shuí)是兒子。這也就意味著，圖網(wǎng)絡(luò)某種程度上有了自己推理的能力。如果將這種能力推而廣之，AI就將可能在非常復(fù)雜的聯(lián)系和推理中完成智能工作。

前面說(shuō)了，這個(gè)領(lǐng)域的工作其實(shí)一直沒(méi)有停止。但是之所以沒(méi)有廣泛流行，一方面是因?yàn)檫@個(gè)領(lǐng)域相對(duì)小眾，缺少重磅研究來(lái)引發(fā)大家的關(guān)注；另一方面也是因?yàn)榭床灰?jiàn)摸不著，缺少開(kāi)源模型來(lái)檢驗(yàn)理論的正誤。

去年6月，DeepMind聯(lián)合谷歌大腦、麻省理工等機(jī)構(gòu)的27位學(xué)者，共同發(fā)表了關(guān)于圖網(wǎng)絡(luò)的論文《Relational inductive biases， deep learning， and graph networks．》，接著開(kāi)源了相關(guān)的算法包GraphNet。這篇文章中，DeepMind不僅提出了新的算法模型，希望能用圖網(wǎng)絡(luò)實(shí)現(xiàn)端到端的學(xué)習(xí)；同時(shí)也總結(jié)歸納了此前圖網(wǎng)絡(luò)各個(gè)流派的研究方法，并將其在新算法上進(jìn)行了融合。

在這個(gè)有點(diǎn)承上啟下意味的研究出來(lái)后，大量關(guān)于圖網(wǎng)絡(luò)的綜述、應(yīng)用檢驗(yàn)，以及新算法的探討開(kāi)始在學(xué)術(shù)界萌生。隨著全球AI圈的共同發(fā)力，這門(mén)AI技術(shù)新貴正在嘗試走向臺(tái)前。