(19)國(guó)家知識(shí)產(chǎn)權(quán)局(12)發(fā)明專利3501號(hào)(72)發(fā)明人楊振宇崔來(lái)平李曉陽(yáng)李怡雯公司37221GO6F40/30(2020.01)GO6N3/0442(2023審查員姜思雨一種基于門控多頭自我關(guān)注的新聞推薦方本發(fā)明提出了一種基于門控多頭自我關(guān)注知識(shí)的預(yù)訓(xùn)練模型GLgz9n續(xù)性交換拼h注…做這網(wǎng)Hquery9u21.一種基于門控多頭自我關(guān)注的新聞推薦方法，其特征在于，包括：獲取歷史點(diǎn)擊新聞和候選新聞，使用預(yù)訓(xùn)練模型BERT分別進(jìn)行新聞編碼，得到歷史點(diǎn)擊新聞特征和候選新聞特征；基于多頭自我注意力，捕捉歷史點(diǎn)擊新聞特征之間的關(guān)聯(lián)性，并用候選新聞特征進(jìn)行所述捕捉歷史點(diǎn)擊新聞特征之間的關(guān)聯(lián)性，具體步驟為：計(jì)算歷史點(diǎn)擊新聞特征中每個(gè)特征的查詢信息、鍵信息和值信息；對(duì)查詢信息、鍵信息和值信息進(jìn)行多輪縮放點(diǎn)積注意力計(jì)算，保存每輪的計(jì)算結(jié)果；將全部計(jì)算結(jié)果進(jìn)行拼接，并進(jìn)行一次線性變化，得到加強(qiáng)后的歷史點(diǎn)擊新聞特征；所述用候選新聞特征進(jìn)行特征過(guò)濾的具體步驟為：基于加強(qiáng)后的歷史點(diǎn)擊新聞特征、查詢信息和候選新聞特征，計(jì)算新聞內(nèi)部信息和通道調(diào)節(jié)門信息；所述查詢信息為歷史點(diǎn)擊新聞特征中每個(gè)特征的查詢信息；所述計(jì)算新聞內(nèi)部信息和通道調(diào)節(jié)門信息，具體過(guò)程門控調(diào)節(jié)單元包含兩條信息流的輸入，一條是通過(guò)多頭注意力重建后的特征Znews和查詢信息Hquery組成的瀏覽新聞的內(nèi)部信息v,另外一條是由候選新聞特征h。和查詢信息Hquery組成的通道調(diào)節(jié)門信息8;為保證特征數(shù)量相同，先將候選新聞特征向量復(fù)制N次并進(jìn)行線性變換，N是用戶歷史點(diǎn)擊新聞的數(shù)量，門控調(diào)節(jié)單元中兩條信息輸入流v和8計(jì)算方式如下：對(duì)新聞內(nèi)部信息和通道調(diào)節(jié)門信息進(jìn)行點(diǎn)積運(yùn)算，得到重構(gòu)后的新聞特征；對(duì)實(shí)現(xiàn)重構(gòu)后的新聞特征進(jìn)行注意力加權(quán)聚合，生成用戶特征；聯(lián)合歷史點(diǎn)擊新聞特征、候選新聞特征和用戶特征，預(yù)測(cè)用戶瀏覽每個(gè)候選新聞的概率，基于預(yù)測(cè)概率向用戶推薦候選新聞。2.如權(quán)利要求1所述的一種基于門控多頭自我關(guān)注的新聞推薦方法，其特征在于，所述新聞編碼的具體步驟為：用Bi-LSTM捕捉文本表征的雙向語(yǔ)義依賴；基于雙向語(yǔ)義依賴，用注意力網(wǎng)絡(luò)對(duì)Bi-LSTM的輸出進(jìn)行聚合，得到含豐富上下文語(yǔ)義信息的新聞特征。3.如權(quán)利要求1所述的一種基于門控多頭自我關(guān)注的新聞推薦方法，其特征在于，所述預(yù)測(cè)用戶瀏覽每個(gè)候選新聞的概率，基于預(yù)測(cè)概率向用戶推薦候選新聞，具體步驟為：構(gòu)建由正樣本和負(fù)樣本組成的訓(xùn)練庫(kù)，對(duì)概率預(yù)測(cè)模型進(jìn)行訓(xùn)練；將待預(yù)測(cè)的候選新聞特征輸入到訓(xùn)練好的模型中，得到候選新聞的點(diǎn)擊概率；3用戶編碼模塊，被配置為：基于多頭自我注意力，捕捉所述捕捉歷史點(diǎn)擊新聞特征之間的關(guān)聯(lián)性，具體步驟為：計(jì)所述用候選新聞特征進(jìn)行特征過(guò)濾的具體步驟為：基于加強(qiáng)后的歷史點(diǎn)擊新聞特征、查詢信息和候選新聞特征，計(jì)算新聞內(nèi)部信息和通道調(diào)節(jié)門信息；所述查詢信息為歷史點(diǎn)擊新聞特征中每個(gè)特征的查詢信息；所述計(jì)算新聞內(nèi)部信息和通道調(diào)節(jié)門信息，具體過(guò)程詢信息Hquery組成的瀏覽新聞的內(nèi)部信息v,另外一條是由候選新聞特征h。和查詢信息對(duì)新聞內(nèi)部信息和通道調(diào)節(jié)門信息進(jìn)行點(diǎn)積運(yùn)算，得到重構(gòu)后征在于，所述處理器執(zhí)行所述程序時(shí)實(shí)現(xiàn)如權(quán)利要求1-5任一項(xiàng)所述的一種基于門控多頭4自我關(guān)注的新聞推薦方法中的步驟。5技術(shù)領(lǐng)域[0001]本發(fā)明屬于新聞的個(gè)性化推薦領(lǐng)域，尤其涉及一種基于門控多頭自我關(guān)注的新聞推薦方法及系統(tǒng)。背景技術(shù)[0002]本部分的陳述僅僅是提供了與本發(fā)明相關(guān)的背景技術(shù)信息，不必然構(gòu)成在先技術(shù)。[0003]新聞推薦作為推薦系統(tǒng)研究領(lǐng)域的一個(gè)重要分支，旨在通過(guò)新聞內(nèi)容和用戶信息盡可能多地幫助用戶找到與用戶興趣偏好相匹配的新聞；不同的單詞和不同的新聞文章在表示新聞和用戶時(shí)所隱含的信息是不同的；注意力機(jī)制的使用可以賦予不同的單詞和新聞不同的權(quán)重，來(lái)實(shí)現(xiàn)捕捉新聞關(guān)鍵的語(yǔ)義信息和用戶的重要的興趣線索；例如An等人提出個(gè)性化的詞級(jí)與新聞級(jí)的關(guān)注機(jī)制來(lái)關(guān)注不同單詞與新聞對(duì)用戶產(chǎn)生的影響；wu等人提出了一個(gè)注意的多視圖學(xué)習(xí)機(jī)制，從新聞的多種成分(標(biāo)題，類別，正文)學(xué)習(xí)新聞的表示；Qi等人進(jìn)一步提出了多頭自我關(guān)注的方法實(shí)現(xiàn)捕捉單詞與單詞、新聞與新聞之間的長(zhǎng)距離的相關(guān)性；在這些方法中，注意力機(jī)制的使用有效的改善了新聞推薦的性能。[0004]然而，在建模用戶興趣過(guò)程中僅考慮了用戶瀏覽新聞之間的關(guān)系可能不是最佳的，這是因?yàn)橛脩舻呐d趣是廣泛的，如在注意力學(xué)習(xí)用戶興趣的過(guò)程中不考慮候選新聞，這會(huì)使得學(xué)習(xí)得到的用戶興趣有較多的與候選新聞無(wú)關(guān)的信息，很難將候選新聞與特定用戶興趣準(zhǔn)確匹配。發(fā)明內(nèi)容[0005]為克服上述現(xiàn)有技術(shù)的不足，本發(fā)明提供了一種基于門控多頭自我關(guān)注的新聞推薦方法及系統(tǒng)，用門控多頭自我關(guān)注機(jī)制來(lái)調(diào)節(jié)用戶的興趣，以便更好地將候選新聞與特定的用戶興趣準(zhǔn)確匹配；而且將豐富語(yǔ)言知識(shí)的預(yù)訓(xùn)練模型BERT應(yīng)用于新聞推薦來(lái)增強(qiáng)新聞文本表示，提高新聞推薦的準(zhǔn)確性。[0006]為實(shí)現(xiàn)上述目的，本發(fā)明的一個(gè)或多個(gè)實(shí)施例提供了如下技術(shù)方案：[0007]本發(fā)明第一方面提供了一種基于門控多頭自我關(guān)注的新聞推薦方法；[0008]一種基于門控多頭自我關(guān)注的新聞推薦方法，包括：[0009]獲取歷史點(diǎn)擊新聞和候選新聞，使用預(yù)訓(xùn)練模型BERT分別進(jìn)行新聞編碼，得到歷史點(diǎn)擊新聞特征和候選新聞特征；[0010]基于多頭自我注意力，捕捉歷史點(diǎn)擊新聞特征之間的關(guān)聯(lián)性，并用候選新聞特征[0011]聯(lián)合歷史點(diǎn)擊新聞特征、候選新聞特征和用戶特征，預(yù)測(cè)用戶瀏覽每個(gè)候選新聞的概率，基于預(yù)測(cè)概率向用戶推薦候選新聞。[0012]進(jìn)一步的，所述新聞編碼的具體步驟為：[0013]用預(yù)訓(xùn)練模型BERT提取新聞的文本表征；6[0014]用Bi-LSTM捕捉文本表征的雙向語(yǔ)義依賴；[0015]基于雙向語(yǔ)義依賴，用注意力網(wǎng)絡(luò)對(duì)Bi-LSTM的輸出進(jìn)行聚合，得到含豐富上下文語(yǔ)義信息的新聞特征。[0016]進(jìn)一步的，所述捕捉歷史點(diǎn)擊新聞特征之間的關(guān)聯(lián)性[0017]計(jì)算歷史點(diǎn)擊新聞特征中每個(gè)特征的查詢信息、鍵信息和值信息；[0018]對(duì)查詢信息、鍵信息和值信息進(jìn)行多輪縮放點(diǎn)積注意力計(jì)算，保存每輪的計(jì)算結(jié)[0019]將全部計(jì)算結(jié)果進(jìn)行拼接，并進(jìn)行一次線性變化，得到加強(qiáng)后的歷史點(diǎn)擊新聞特[0020]進(jìn)一步的，所述用候選新聞特征進(jìn)行特征過(guò)濾的具體步驟為：[0021]基于加強(qiáng)后的歷史點(diǎn)擊新聞特征、查詢信息和候選新聞特征，計(jì)算新聞內(nèi)部信息和通道調(diào)節(jié)門信息；[0022]對(duì)新聞內(nèi)部信息和通道調(diào)節(jié)門信息進(jìn)行點(diǎn)積運(yùn)算，得到重構(gòu)后的新聞特征；[0023]對(duì)實(shí)現(xiàn)重構(gòu)后的新聞特征進(jìn)行注意力加權(quán)聚合，生成用戶特征。[0024]進(jìn)一步的，所述預(yù)測(cè)用戶瀏覽每個(gè)候選新聞的概率，基于預(yù)測(cè)概率向用戶推薦候[0025]構(gòu)建由正樣本和負(fù)樣本組成的訓(xùn)練庫(kù)，對(duì)概率預(yù)測(cè)模型進(jìn)行訓(xùn)練；[0026]將待預(yù)測(cè)的候選新聞特征輸入到訓(xùn)練好的模型中，得到候選新聞的點(diǎn)擊概率；[0027]對(duì)一組候選新聞的點(diǎn)擊概率進(jìn)行排序，取前幾個(gè)候選新聞推薦給用戶。[0028]進(jìn)一步的，所述概率預(yù)測(cè)模型，輸入的是候選新聞特征和用戶特征，輸出的是候選新聞的點(diǎn)擊概率。[0030]本發(fā)明第二方面提供了一種基于門控多頭自我關(guān)注的新聞推薦系統(tǒng)。[0031]一種基于門控多頭自我關(guān)注的新聞推薦系統(tǒng)，包括新聞編碼模塊、用戶編碼模塊和概率預(yù)測(cè)模塊：別進(jìn)行新聞編碼，得到歷史點(diǎn)擊新聞特征和候選新聞特征；[0033]用戶編碼模塊，被配置為：基于多頭自我注意力，捕捉歷史點(diǎn)擊新聞特征之間的關(guān)[0034]概率預(yù)測(cè)模塊，被配置為：聯(lián)合歷史點(diǎn)擊新聞特征、候選新聞特征和用戶特征，預(yù)測(cè)用戶瀏覽每個(gè)候選新聞的概率，基于預(yù)測(cè)概率向用戶推薦候選新聞。[0035]本發(fā)明第三方面提供了計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)，其上存儲(chǔ)有程序，該程序被處理器執(zhí)行時(shí)實(shí)現(xiàn)如本發(fā)明第一方面所述的一種基于門控多頭自我關(guān)注的新聞推薦方法中的步[0036]本發(fā)明第四方面提供了電子設(shè)備，包括存儲(chǔ)器、處理器及存儲(chǔ)在存儲(chǔ)器上并可在處理器上運(yùn)行的程序，所述處理器執(zhí)行所述程序時(shí)實(shí)現(xiàn)如本發(fā)明第一方面所述的一種基于門控多頭自我關(guān)注的新聞推薦方法中的步驟。[0037]以上一個(gè)或多個(gè)技術(shù)方案存在以下有益效果：[0038]本發(fā)明提供了一種基于門控多頭自我關(guān)注的新聞推薦方法，其通過(guò)門控機(jī)制，利7用候選新聞去將歷史瀏覽新聞中與候選新聞無(wú)關(guān)的信息給過(guò)濾掉，以實(shí)現(xiàn)候選新聞與用戶特定興趣的準(zhǔn)確匹配。[0039]本發(fā)明提供了一種基于門控多頭自我關(guān)注的新聞推薦方法，其采用預(yù)訓(xùn)練模型挖掘文本的深層語(yǔ)義，進(jìn)一步加強(qiáng)了新聞的語(yǔ)義表示，大大提高了模型的表現(xiàn)力。[0040]本發(fā)明提供了一種基于門控多頭自我關(guān)注的新聞推薦方法，利用用戶歷史點(diǎn)擊新聞與候選新聞的相關(guān)性，捕捉更相關(guān)的用戶興趣，進(jìn)一步加強(qiáng)了用戶的興趣表示，從而在準(zhǔn)確性和速度之間提供了改進(jìn)的折衷。[0041]本發(fā)明附加方面的優(yōu)點(diǎn)將在下面的描述中部分給出，部分將從下面的描述中變得附圖說(shuō)明[0042]構(gòu)成本發(fā)明的一部分的說(shuō)明書附圖用來(lái)提供對(duì)本發(fā)明的進(jìn)一步理解，本發(fā)明的示意性實(shí)施例及其說(shuō)明用于解釋本發(fā)明，并不構(gòu)成對(duì)本發(fā)明的不當(dāng)限定。[0043]圖1為一個(gè)用戶新聞的閱讀行為的示例圖。[0044]圖2為第一個(gè)實(shí)施例的方法流程圖。[0045]圖3為第二個(gè)實(shí)施例的系統(tǒng)結(jié)構(gòu)圖。具體實(shí)施方式[0046]應(yīng)該指出，以下詳細(xì)說(shuō)明都是示例性的，旨在對(duì)本公開提供進(jìn)一步的說(shuō)明。除非另有指明，本文使用的所有技術(shù)和科學(xué)術(shù)語(yǔ)具有與本公開所屬技術(shù)領(lǐng)域的普通技術(shù)人員通常理解的相同含義。[0047]需要注意的是，這里所使用的術(shù)語(yǔ)僅是為了描述具體實(shí)施方式，而非意圖限制根據(jù)本公開的示例性實(shí)施方式。如在這里所使用的，除非上下文另外明確指出，否則單數(shù)形式備不必限于清楚地列出的那些步驟或單元，而是可包括沒有清楚地列出的或?qū)τ谶@些過(guò)[0048]在不沖突的情況下，本發(fā)明中的實(shí)施例及實(shí)施例中的特征可以相互組合。[0049]事實(shí)上，用戶的興趣是多樣的；當(dāng)候選新聞與用戶發(fā)生匹配時(shí)通常只會(huì)匹配用戶的一小部分興趣，如圖1所示，灰色顯示的是重要的文本片段，從用戶瀏覽的新聞中推斷出他對(duì)動(dòng)物、健康、體育和政治領(lǐng)域的新聞感興趣，第四條候選新聞是與政治主題有關(guān)的新聞，它僅匹配用戶瀏覽的政治方面的新聞，而它與用戶瀏覽的其他主題(動(dòng)物和體育)的新聞相關(guān)性較低；在學(xué)習(xí)用戶興趣過(guò)程中，使用注意力會(huì)側(cè)重建立相關(guān)主題的新聞之間的聯(lián)系；但是不依賴候選新聞的情況下進(jìn)行自注意力學(xué)習(xí)，會(huì)過(guò)多保留與候選新聞無(wú)關(guān)的信息；而這對(duì)候選新聞與特定用戶興趣準(zhǔn)確匹配來(lái)說(shuō)是一種噪音。[0050]如果在用戶建模中不考慮候選新聞信息，則可能難以準(zhǔn)確匹配候選新聞，因此，本發(fā)明提供了一種基于門控多頭自我關(guān)注的新聞推薦方法，提出了一種使用預(yù)訓(xùn)練語(yǔ)言模型增強(qiáng)的具有門控多頭自我關(guān)注的神經(jīng)新聞推薦框架PGRec,門控自注意力機(jī)制利用候選新聞作為通道調(diào)節(jié)門，過(guò)濾用戶瀏覽的新聞特征表示在自注意力學(xué)習(xí)過(guò)程中的輸出結(jié)果，從8而實(shí)現(xiàn)減少候選新聞與特定用戶興趣準(zhǔn)確匹配過(guò)程的噪聲信息。為了更加有效地理解新聞的語(yǔ)義，引入了預(yù)先訓(xùn)練的BERT來(lái)增強(qiáng)新聞的表示；還使用點(diǎn)擊新聞與候選新聞的相關(guān)性來(lái)對(duì)其加權(quán)以捕獲更多相關(guān)的用戶興趣以進(jìn)行匹配；在模型訓(xùn)練過(guò)程中，聯(lián)合K+1條新聞應(yīng)用負(fù)采樣技術(shù)預(yù)測(cè)點(diǎn)擊評(píng)分，即候選新聞?dòng)捎脩舻囊粋€(gè)正樣本和隨機(jī)選擇的該用戶的K個(gè)負(fù)樣本負(fù)樣本組成，之后共同預(yù)測(cè)正面新聞+和個(gè)負(fù)面新聞?lì)A(yù)測(cè)得分。[0051]實(shí)施例一[0052]本實(shí)施例公開了一種基于門控多頭自我關(guān)注的新聞推薦方法；[0053]如圖2所示，一種基于門控多頭自我關(guān)注的新聞推薦方法，主要包括三個(gè)步驟：新聞編碼，候選參與的用戶編碼以及點(diǎn)擊預(yù)測(cè)。[0054]步驟1、獲取歷史點(diǎn)擊新聞和候選新聞，使用預(yù)訓(xùn)練模型BERT分別進(jìn)行新聞編碼，得到歷史點(diǎn)擊新聞特征和候選新聞特征；[0055]步驟101、獲取歷史點(diǎn)擊新聞和候選新聞[0056]獲取給定用戶瀏覽過(guò)的一組歷史點(diǎn)擊新聞，記為D=[D?,D?,…,D],N是用戶歷史點(diǎn)擊新聞的數(shù)量；目標(biāo)是計(jì)算給定用戶點(diǎn)擊一組候選新聞D的概率y,Dc=[D?,D?2,…,DCM],M是候選新聞的數(shù)量，然后對(duì)候選新聞的概率進(jìn)行排序來(lái)推薦最佳的新聞。[0059]新聞編碼旨在學(xué)習(xí)新聞的深層語(yǔ)義表示，之前通常使用預(yù)訓(xùn)練的單詞嵌入如Word2vec以及Glove來(lái)初始化模型的嵌入層，但這些預(yù)訓(xùn)練的單詞嵌入大多數(shù)是上下文無(wú)關(guān)的，這會(huì)使得模型捕捉的語(yǔ)義信息并不是足夠的。[0060]由于預(yù)訓(xùn)練模型BERT(Devlinetal.,2019)具備12層transform以及大量參數(shù)可以使得模型能夠更好的建模文本中復(fù)雜上下文信息的能力，本發(fā)明采用預(yù)訓(xùn)練模型BERT作為新聞編碼器。[0061]將輸入的新聞特征用T個(gè)tokens表示記為[w?,W?,…,w],將新聞文本輸入到BRET模型中經(jīng)過(guò)幾層transform后，將得到的隱藏層的tokens表示記為[e?,e?,…,er][0063]為了進(jìn)一步加強(qiáng)語(yǔ)義關(guān)系，將BRET模型的隱藏層的輸出送到Bi-LSTM中，進(jìn)一步提取文本表征的雙向語(yǔ)義依賴。[0064](3)基于雙向語(yǔ)義依賴，用注意力網(wǎng)絡(luò)對(duì)Bi-LSTM的輸出進(jìn)行聚合，得到含豐富上下文語(yǔ)義信息的新聞特征。[0065]將Bi-LSTM的輸出連接到注意力網(wǎng)絡(luò)中，對(duì)有雙向語(yǔ)義依賴的文本表征進(jìn)行聚合，得到含豐富上下文語(yǔ)義信息的新聞特征h,其中用戶歷史點(diǎn)擊新聞特征和候選新聞特征分[0066]步驟2、基于多頭自我注意力，捕捉歷史點(diǎn)擊新聞特征之間的關(guān)聯(lián)性，并用候選新[0067]用戶編碼旨在從用戶瀏覽的歷史點(diǎn)擊新聞中學(xué)習(xí)用戶的表示，包含兩個(gè)步驟：[0068]步驟201、基于新聞級(jí)別的多頭自我關(guān)注網(wǎng)絡(luò)，捕捉歷史點(diǎn)擊新聞特征之間的關(guān)聯(lián)9為可訓(xùn)練的權(quán)重矩陣。結(jié)果；的公式為：一樣的。特征。[0107]預(yù)測(cè)用戶點(diǎn)擊候選新聞的概率y,概率的計(jì)算是用戶特征u和候選新聞特征的內(nèi)樣本同一曝光序列中但沒有被用戶點(diǎn)擊的新聞組成的；共同預(yù)測(cè)正面新聞和k個(gè)負(fù)面新概率進(jìn)行歸一化，以計(jì)算正樣本的點(diǎn)擊概率，模型訓(xùn)練方法中的損失函數(shù)[是所有正樣本[0114]其中，父表示第i條正面新聞的點(diǎn)擊概率，j表示與第i條正面新聞處于同一時(shí)段的第j條負(fù)面新聞的點(diǎn)擊概率，s是正訓(xùn)練樣本的集合。[0115]步驟302、將待預(yù)測(cè)的候選新聞特征輸入到訓(xùn)練好的模型中，得到候選新聞的點(diǎn)擊[0116]步驟303、對(duì)一組候選新聞的點(diǎn)擊概率進(jìn)行排序，取前幾個(gè)候選新聞推薦給用戶。[0118]本實(shí)施例公開了一種基于門控多頭自我關(guān)注的新聞推薦系統(tǒng)；[0119]如圖3所示，一種基于門控多頭自我關(guān)注的新聞推薦系統(tǒng)，包括新聞編碼模塊、用戶編碼模塊和概率預(yù)測(cè)模塊：[0120]新聞編碼模塊，被配置為：獲取歷史點(diǎn)擊新聞和候選新聞，使用預(yù)訓(xùn)練模型分別進(jìn)行新聞編碼，得到歷史點(diǎn)擊新聞特征和候選新聞特征；[0121]用戶編碼模塊，被配置為：基于多頭自我注意力，捕捉歷史點(diǎn)擊新聞特征之間的關(guān)[0122]概率預(yù)測(cè)模塊，被配置為：聯(lián)合歷史點(diǎn)擊新聞特征、候選新聞特征和用戶特征，預(yù)測(cè)用戶瀏覽每個(gè)候選新聞的概率，基于預(yù)測(cè)概率向用戶推薦候選新聞。[0123]實(shí)施例三[0124]本實(shí)施例的目的是提供計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)。[0125]計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)，其上存儲(chǔ)有計(jì)算機(jī)程序，該程序被處理器執(zhí)行時(shí)實(shí)現(xiàn)如本公開實(shí)施例1所述的一種基于門控多頭自我關(guān)注的新聞推薦方法中的步驟。[0126]實(shí)施例四[0127]本實(shí)施例的目的是提供電子設(shè)備。[0128]電子設(shè)備，包括存儲(chǔ)器、處理器及存儲(chǔ)在存儲(chǔ)器上并可在處理器上運(yùn)行的程序，所述處理器執(zhí)行所述程序時(shí)實(shí)現(xiàn)如本公開實(shí)施例1所述的一種基于門控多頭自我關(guān)注的新聞推薦方法中的步驟。[0129]本領(lǐng)域內(nèi)的技術(shù)人員應(yīng)明白，本公開的實(shí)施例可提供為方法、系統(tǒng)、或計(jì)算機(jī)程序產(chǎn)品，因此，本公開可采用完全硬件實(shí)施例、完全軟件實(shí)施例、或結(jié)合軟件和硬件方面的實(shí)施例的形式，而且，本公開可采用在一個(gè)或多個(gè)其中包含有計(jì)算機(jī)可用程序代碼的計(jì)算機(jī)可用存儲(chǔ)介質(zhì)(包括但不限于磁盤存儲(chǔ)器、CD-ROM、光學(xué)存儲(chǔ)器等)上實(shí)施的計(jì)算機(jī)程序產(chǎn)品的形式。[0130]本公開是參照根據(jù)本公開實(shí)施例的方法、設(shè)備(系統(tǒng))、和計(jì)算機(jī)程序產(chǎn)品的流程圖和/或方框圖來(lái)描述的。應(yīng)理解可由計(jì)算機(jī)程序指令實(shí)現(xiàn)流程圖和/或方框圖中的每一流程和/或方框、以及流程圖和/或方框圖中的流程和/或方框的結(jié)合。可提供這些計(jì)算機(jī)程序指令到通用計(jì)算機(jī)、專用計(jì)算機(jī)、嵌入式處理機(jī)或其他可編程數(shù)據(jù)處理設(shè)備的處理器以產(chǎn)生一個(gè)機(jī)器，使得通過(guò)計(jì)算機(jī)或其他可編程數(shù)據(jù)處理設(shè)備的處理器執(zhí)行的指令產(chǎn)生用于實(shí)現(xiàn)在流程圖一個(gè)流程或多個(gè)流程和/或方框圖一個(gè)方框或多個(gè)方框中指定的功能的裝置。[0131]這些計(jì)算機(jī)程序指令也可存儲(chǔ)在能引導(dǎo)計(jì)算機(jī)或其他可編程數(shù)據(jù)處理設(shè)備以特定方式工作的計(jì)算機(jī)可讀存儲(chǔ)器中，使得存儲(chǔ)在該計(jì)算機(jī)可讀存儲(chǔ)器中的指令產(chǎn)生包括指令裝