)節(jié)點的特征通過卷積神經(jīng)網(wǎng)絡(luò)，將所有的輸入圖像進行統(tǒng)一的編碼，對supportset中的樣本標(biāo)簽進行one-hot編碼，queryset中的樣本標(biāo)簽假設(shè)未知，所以用零向量填充。鄰接矩陣是根據(jù)節(jié)點之間的相似度計算得到的，并且在每個GNNlayer之前都會動態(tài)的更新，鄰接矩陣和節(jié)點的特征都是迭代更新的，流程如下圖所示：圖4-4迭代更新5.實驗結(jié)果與分析5.1深度學(xué)習(xí)框架pytorchPytorch是Facebook團隊開發(fā)出來的開源深度學(xué)習(xí)框架，雖然提出時間晚于keras，TensorFlow等框架，但目前在學(xué)術(shù)圈已處于統(tǒng)治地位，在工業(yè)界其應(yīng)用熱度也居高不下，pytorch支持以快速和靈活的方式搭建動態(tài)神經(jīng)網(wǎng)絡(luò)，是快速實驗的理想選擇。Pytorch目前最新的版本已經(jīng)到了1.7，在其中文文檔里面，會有圖片，音頻，文本，強化學(xué)習(xí)等博客講授，內(nèi)容都可以在GitHub上進行查閱。PytorchGeometric是圖神經(jīng)網(wǎng)絡(luò)庫，本論文中的實驗也基于該庫運行，該庫中內(nèi)置了部分基準(zhǔn)數(shù)據(jù)集，可以直接拿來訓(xùn)練神經(jīng)網(wǎng)絡(luò)模型，同時，該庫也集成了近些年來頂會論文上提出來的各種圖神經(jīng)網(wǎng)絡(luò)模型，供大家開源使用。5.2數(shù)據(jù)集本論文中前兩個池化實驗（DIFFPOOL、TopK）均采用的是TUDataset數(shù)據(jù)集，TUDataset包含各種圖內(nèi)核數(shù)據(jù)集，例如“IMDB-BINARY”,“REDDIT-BINARY”or“PROTEINS等。第三個池化實驗采用的是DD數(shù)據(jù)集，在蛋白質(zhì)數(shù)據(jù)庫的非冗余子集中抽取了了1178個高分辨率蛋白質(zhì)，使用簡單的特征，如二次結(jié)構(gòu)含量、氨基酸傾向、表面性質(zhì)和配體；其中節(jié)點是氨基酸，如果兩個節(jié)點之間的距離少于6埃（Angstroms），則用一條邊連接5.3圖分類實驗結(jié)果5.3.1DIFFPOOL池化機制的實驗將數(shù)據(jù)集TUDataset的順序打亂之后，將其劃分為訓(xùn)練、測試、驗證數(shù)據(jù)集三個部分，最后通過多次迭代之后完成實驗。模型訓(xùn)練過程中，模型的損失值如下圖（epoch為迭代次數(shù)）：圖5-1diff_pool的損失函數(shù)訓(xùn)練完成之后，模型對測試集的準(zhǔn)確度如下圖：圖5-2diff_pool的準(zhǔn)確率可以看到，損失函數(shù)在迭代近百次之后便降低到了較小的值，而其驗證集的準(zhǔn)確率也一致維持在70%左右。5.3.2TopK池化機制的實驗數(shù)據(jù)集的處理與5.3.1是一致的，其損失函數(shù)和準(zhǔn)確率如下圖所示： 圖5-3topk的損失函數(shù) 圖5-3topk的準(zhǔn)確率可以看到，在處理同一數(shù)據(jù)集的條件下，雖然topk機制的損失函數(shù)相對較高，但是其準(zhǔn)確率卻接近80%。5.3.3基于自注意力的池化機制實驗迭代訓(xùn)練200次后，其損失函數(shù)值穩(wěn)定在0.18左右，測試用例的準(zhǔn)確率為77%。6.總結(jié)與展望6.1全文總結(jié)全文用六個大的章節(jié)介紹了畢業(yè)設(shè)計所做的具體工作和學(xué)習(xí)到的理論知識。首先是緒論，介紹課題的研究背景，研究現(xiàn)狀闡述；然后從卷積神經(jīng)網(wǎng)絡(luò)為切入點，重點闡述了圖神經(jīng)網(wǎng)絡(luò)下的卷積與池化操作；再然后重點介紹了三種池化機制實現(xiàn)圖分類，以及試驗結(jié)果；最后是GNN在圖像分類中的應(yīng)用以及對未來工作的總結(jié)與展望。6.2未來工作展望圖神經(jīng)網(wǎng)絡(luò)作為近幾年來人工智能領(lǐng)域的熱門研究方向，在社會生產(chǎn)生活的各個領(lǐng)域也展現(xiàn)出了不俗的潛力。本文雖然實現(xiàn)了三種層次化池化機制來完成圖分類的任務(wù)，但實現(xiàn)方式是直接調(diào)用pytorch封裝好的類和方法，實現(xiàn)方式較為死板，以后的工作是能夠手撕已經(jīng)封裝好的類，并實現(xiàn)優(yōu)化。參考文獻PhamT,TranT,DamH,etal.GraphClassificationviaDeepLearningwithVirtualNodes[J].2017.LeeJ,LeeI,KangJ.Self-AttentionGraphPooling[J].2019.DiehlF.EdgeContractionPoolingforGraphNeuralNetworks[J].2019.CangeaC,VelikoviP,JovanoviN,etal.TowardsSparseHierarchicalGraphClassifiers[J].2018.GarciaV,BrunaJ.Few-ShotLearningwithGraphNeuralNetworks[J].2017.ChenZM,WeiXS,WangP,etal.Multi-LabelImageRecognitionWithGraphConvolutionalNetworks[C]//2019IEEE/CVFConferenceonComputerVisionandPatternRecognition(CVPR).IEEE,2019.BrunaJ,ZarembaW,SzlamA,etal.SpectralNetworksandLocallyConnectedNetworksonGraphs[J].ComputerScience,2013.ConvolutionalNeuralNetworksonGraphswithFastLocalizedSpectralFiltering[J].2016.KipFTN,WellingM.Semi-SupervisedClassificationwithGraphConvolutionalNetworks[J].2016.ShumanDI,NarangSK,FrossardP,etal.TheEmergingFieldofSignalProcessingonGraphs:ExtendingHigh-DimensionalDataAnalysistoNetworksandOtherIrregularDomains[J].IEEESignalProcessingMagazine,2013,30(3):83-98.HechtlingerY,ChakravartiP,QinJ.AGeneralizationofConvolutionalNeuralNetworkstoGraph-StructuredData[J].2017.HamiltonWL,YingR,Leskovec