GNN在圖像分類中的應(yīng)用和實(shí)驗(yàn)探究報告目錄TOC\o"1-3"\h\u13035GNN在圖像分類中的應(yīng)用和實(shí)驗(yàn)探究報告 )節(jié)點(diǎn)的特征通過卷積神經(jīng)網(wǎng)絡(luò)，將所有的輸入圖像進(jìn)行統(tǒng)一的編碼，對supportset中的樣本標(biāo)簽進(jìn)行one-hot編碼，queryset中的樣本標(biāo)簽假設(shè)未知，所以用零向量填充。鄰接矩陣是根據(jù)節(jié)點(diǎn)之間的相似度計算得到的，并且在每個GNNlayer之前都會動態(tài)的更新，鄰接矩陣和節(jié)點(diǎn)的特征都是迭代更新的，流程如下圖所示：圖4-4迭代更新2.實(shí)驗(yàn)結(jié)果與分析2.1深度學(xué)習(xí)框架pytorchPytorch是Facebook團(tuán)隊開發(fā)出來的開源深度學(xué)習(xí)框架，雖然提出時間晚于keras，TensorFlow等框架，但目前在學(xué)術(shù)圈已處于統(tǒng)治地位，在工業(yè)界其應(yīng)用熱度也居高不下，pytorch支持以快速和靈活的方式搭建動態(tài)神經(jīng)網(wǎng)絡(luò)，是快速實(shí)驗(yàn)的理想選擇。Pytorch目前最新的版本已經(jīng)到了1.7，在其中文文檔里面，會有圖片，音頻，文本，強(qiáng)化學(xué)習(xí)等博客講授，內(nèi)容都可以在GitHub上進(jìn)行查閱。PytorchGeometric是圖神經(jīng)網(wǎng)絡(luò)庫，本論文中的實(shí)驗(yàn)也基于該庫運(yùn)行，該庫中內(nèi)置了部分基準(zhǔn)數(shù)據(jù)集，可以直接拿來訓(xùn)練神經(jīng)網(wǎng)絡(luò)模型，同時，該庫也集成了近些年來頂會論文上提出來的各種圖神經(jīng)網(wǎng)絡(luò)模型，供大家開源使用。2.2數(shù)據(jù)集本論文中前兩個池化實(shí)驗(yàn)（DIFFPOOL、TopK）均采用的是TUDataset數(shù)據(jù)集，TUDataset包含各種圖內(nèi)核數(shù)據(jù)集，例如“IMDB-BINARY”,“REDDIT-BINARY”or“PROTEINS等。第三個池化實(shí)驗(yàn)采用的是DD數(shù)據(jù)集，在蛋白質(zhì)數(shù)據(jù)庫的非冗余子集中抽取了了1178個高分辨率蛋白質(zhì)，使用簡單的特征，如二次結(jié)構(gòu)含量、氨基酸傾向、表面性質(zhì)和配體；其中節(jié)點(diǎn)是氨基酸，如果兩個節(jié)點(diǎn)之間的距離少于6埃（Angstroms），則用一條邊連接2.3圖分類實(shí)驗(yàn)結(jié)果2.3.1DIFFPOOL池化機(jī)制的實(shí)驗(yàn)將數(shù)據(jù)集TUDataset的順序打亂之后，將其劃分為訓(xùn)練、測試、驗(yàn)證數(shù)據(jù)集三個部分，最后通過多次迭代之后完成實(shí)驗(yàn)。模型訓(xùn)練過程中，模型的損失值如下圖（epoch為迭代次數(shù)）：圖5-1diff_pool的損失函數(shù)訓(xùn)練完成之后，模型對測試集的準(zhǔn)確度如下圖：圖5-2diff_pool的準(zhǔn)確率可以看到，損失函數(shù)在迭代近百次之后便降低到了較小的值，而其驗(yàn)證集的準(zhǔn)確率也一致維持在70%左右。2.3.2TopK池化機(jī)制的實(shí)驗(yàn)數(shù)據(jù)集的處理與2.3.1是一致的，其損失函數(shù)和準(zhǔn)確率如下圖所示： 圖5-3topk的損失函數(shù) 圖5-3topk的準(zhǔn)確率可以看到，在處理同一數(shù)據(jù)集的條件下，雖然topk機(jī)制的損失函數(shù)相對較高，但是其準(zhǔn)確率卻接近8