深度學(xué)習(xí)在金融領(lǐng)域的應(yīng)用研究的國內(nèi)外文獻(xiàn)綜述1.1LSTM在股票價(jià)格預(yù)測中的應(yīng)用相關(guān)研究近年來，隨著人工智能與機(jī)器學(xué)習(xí)的出現(xiàn)，大數(shù)據(jù)分析技術(shù)不斷發(fā)展，計(jì)算機(jī)的運(yùn)算能力得到提升，傳統(tǒng)用于股價(jià)預(yù)測的計(jì)量經(jīng)濟(jì)學(xué)模型由于其精度較低而被不斷淘汰，深度學(xué)習(xí)算法為其提供了一種新的模型，其中CNN、RNN、LSTM等被廣泛的用來預(yù)測股票價(jià)格以及未來走勢。相比于CNN和RNN，LSTM在二者的基礎(chǔ)上得到一個(gè)提升。其不僅具有記憶能力，能處理長期依賴問題，而且能夠解決RNN存在的梯度消失和爆炸等問題。1997年，Hochreiter和Schmidhuber首次提出LSTM模型，該模型對(duì)原有神經(jīng)網(wǎng)絡(luò)模型RNN中索引位置的隱藏結(jié)構(gòu)進(jìn)行了改進(jìn)，解決了RNN所存在的梯度消失問題REF_Ref102031672\r\h[3]。2013年，Graves等人對(duì)LSTM進(jìn)一步進(jìn)行改進(jìn)，使模型預(yù)測的效果更優(yōu)REF_Ref102032828\r\h[4]。此后，LSTM模型被廣泛的應(yīng)用于語音、圖像識(shí)別等領(lǐng)域，并取得了優(yōu)越的效果。2018年，Chen將LSTM模型與19種預(yù)測模型對(duì)上證綜指波動(dòng)率進(jìn)行預(yù)測，對(duì)比得出結(jié)論LSTM模型的預(yù)測效果明顯好于其他模型REF_Ref102032859\r\h[5]。彭等人通過改變LSTM層數(shù)和隱藏神經(jīng)元個(gè)數(shù)對(duì)比研究發(fā)現(xiàn)雙層LSTM網(wǎng)絡(luò)和全連接層模型預(yù)測精準(zhǔn)度更高REF_Ref102032873\r\h[6]。1.2Self-Attention自注意力機(jī)制研究現(xiàn)狀在大量信息中，選擇性地關(guān)注對(duì)神經(jīng)網(wǎng)絡(luò)有用的信息而忽視其他信息，這就叫注意力機(jī)制。在深度學(xué)習(xí)領(lǐng)域中，模型往往需要接收并處理大量的數(shù)據(jù)信息，而在模型學(xué)習(xí)訓(xùn)練時(shí)，僅有少部分?jǐn)?shù)據(jù)信息是有用信息，基于此注意力機(jī)制就顯得非常重要。2014年，GoogleMind團(tuán)隊(duì)首次在RNN模型上使用了Attention機(jī)制對(duì)圖像進(jìn)行處理，減少了非必要信息的干擾，提高了圖像分類準(zhǔn)確度REF_Ref102032885\r\h[7]。2015年，Bahdanau等人，在自然語言處理中使用attention機(jī)制進(jìn)行工作，首次將Attention機(jī)制用在神經(jīng)網(wǎng)絡(luò)機(jī)器翻譯中，得出結(jié)論其相較于傳統(tǒng)的RNNencdec，在處理長句子方面具有顯著優(yōu)勢REF_Ref102032900\r\h[8]。此后Attention層被廣泛的與RNN/CNN等神經(jīng)網(wǎng)絡(luò)層相結(jié)合作為模型使用在自然語言處理領(lǐng)域REF_Ref102032910\r\h[9]。2017年，Google機(jī)器翻譯團(tuán)隊(duì)完全摒棄傳統(tǒng)的CNN和RNN，搭建完全由Attention機(jī)制組成的網(wǎng)絡(luò)結(jié)構(gòu)，并將其運(yùn)用在機(jī)器翻譯領(lǐng)域，取得了良好的效果REF_Ref102032932\r\h[10]。2018年，LaiG等人提出了一種新穎的深度學(xué)習(xí)模型LSTNet，即通過Attention機(jī)制提升LSTM模型對(duì)時(shí)間序列預(yù)測的能力，為金融市場預(yù)測提供了一個(gè)新的精確度更高的模型REF_Ref102033051\r\h[11]。自注意力機(jī)制(Self-Attention)是對(duì)傳統(tǒng)注意力機(jī)制的一種改進(jìn)，是輸入數(shù)據(jù)中內(nèi)部元素之間的注意力機(jī)制REF_Ref102033063\r\h[12]。相較于Attention機(jī)制，Self-Attention機(jī)制能夠減少模型對(duì)外部信息的依賴，更善于捕獲數(shù)據(jù)的內(nèi)部相關(guān)性，解決長距離依賴問題，提高對(duì)信息的“記憶”能力。1.3多源數(shù)據(jù)融合在股票價(jià)格預(yù)測研究股票市場信息主要來源包括了新聞、股吧論壇等文本數(shù)據(jù)和股票歷史市場數(shù)據(jù)、公司財(cái)務(wù)指標(biāo)等數(shù)值數(shù)據(jù)。而在之前的股票價(jià)格預(yù)測的實(shí)證分析文獻(xiàn)中，大多數(shù)研究都局限于股票歷史市場數(shù)據(jù)、財(cái)務(wù)指標(biāo)等數(shù)值數(shù)據(jù)，忽視了文本數(shù)據(jù)對(duì)金融市場的影響。1933年，Cowles首次提出新聞文本對(duì)股票預(yù)測具有影響，他將華爾街日?qǐng)?bào)中社會(huì)評(píng)論文章分成漲、跌和不確定三類來預(yù)測道瓊斯工業(yè)平均指數(shù)的未來回報(bào)REF_Ref102033077\r\h[13]。2011年，Loughran和McDonald構(gòu)建了金融文本情感詞典，對(duì)行為金融學(xué)中情感分析研究有重要影響REF_Ref102033086\r\h[14]。2020年，姜富偉教授在LoughranandMcDonald詞典的基礎(chǔ)上構(gòu)建了一個(gè)中文金融情感詞典，顯著提高了文本情緒指數(shù)對(duì)股票市場的預(yù)測能力REF_Ref102033095\r\h[15]。此后，投資者情緒、文本情感分析對(duì)股票價(jià)格變動(dòng)的影響成為國內(nèi)外學(xué)界研究的熱點(diǎn)。Chen等人提出的AZFinText系統(tǒng)結(jié)合新聞和股票數(shù)據(jù)對(duì)未來一定時(shí)間間隔后的股票價(jià)格進(jìn)行預(yù)測，研究了不同的稀疏文本表示與股票價(jià)格拼接后作為特征輸入到支持向量回歸模型的預(yù)測效果，其實(shí)驗(yàn)結(jié)果指出結(jié)合文本和數(shù)值數(shù)據(jù)的預(yù)測結(jié)果會(huì)比只用其中一種數(shù)據(jù)的效果更好REF_Ref102033107\r\h[16]。Xu等人通過關(guān)注財(cái)經(jīng)新聞事件，構(gòu)建融入情感分析的LSTM模型，顯著提高了預(yù)測精度，證實(shí)文本情感分析對(duì)股價(jià)預(yù)測的有效性REF_Ref102033116\r\h[17]。1.4研究現(xiàn)狀評(píng)述近年來，國內(nèi)外對(duì)于深度學(xué)習(xí)在金融市場領(lǐng)域的研究頗多。現(xiàn)有金融市場中股票價(jià)格預(yù)測方法的研究大多數(shù)已淘汰最初的ANN、CNN等模型，而轉(zhuǎn)為使用利用股票數(shù)據(jù)的時(shí)間序列信息所建立的長短期記憶神經(jīng)網(wǎng)絡(luò)模型，用來提高模型的預(yù)測精度。LSTM的優(yōu)點(diǎn)在于能夠有效的捕捉時(shí)間序列信息，因此，其取代其他傳統(tǒng)模型成為目前股價(jià)預(yù)測中最為常見的模型。但隨著計(jì)算能力的提升以及技術(shù)的進(jìn)步，LSTM模型還存在一定的缺陷。首先，當(dāng)LSTM模型所獲取信息的時(shí)間跨度較大時(shí)，對(duì)數(shù)據(jù)中的非時(shí)序信息的信息處理能力較弱，模型的記憶能力有所衰退，從而導(dǎo)致預(yù)測準(zhǔn)確度降低。其次，行為金融學(xué)理論的研究表明，財(cái)經(jīng)新聞、股吧評(píng)論等投資者情緒對(duì)股票價(jià)格也有一定的影響，而對(duì)股票價(jià)格影響因素中所選擇的數(shù)據(jù)上，大多都僅以股票歷史交易數(shù)據(jù)和公司的財(cái)務(wù)指標(biāo)等數(shù)值數(shù)據(jù)為主，對(duì)于影響股票價(jià)格變動(dòng)的文本數(shù)據(jù)，如新聞、股票評(píng)論則沒有被考慮，從而導(dǎo)致所建模型限制了預(yù)測精度。參考文獻(xiàn)MalkielB.G.FamaE.F.(1970).EfficientCapitalMarkets:Areviewoftheoryandempiricalwork.TheJournalofFinance,25(2),383-417.饒育蕾，彭疊峰，盛虎.行為金融學(xué)[M].北京：機(jī)械工業(yè)出版社，2018：131-180.Hochreiter,S,andJSchmidhuber.“LongShort-TermMemory.”NeuralComputation9,no.8(November1997):1735–80.GravesA,MohamedA,HintonG.Speechrecognitionwithdeeprecurrentneuralnetworks[C]//Acoustics,speechandsignalprocessing(icassp),2013ieeeinternationalconferenceon.IEEE,2013:6645-6649.陳衛(wèi)華.基于深度學(xué)習(xí)的上證綜指波動(dòng)率預(yù)測效果比較研究[J].統(tǒng)計(jì)與信息論壇,2018,33(05):99-106.彭燕,劉宇紅,張榮芬.基于LSTM的股票價(jià)格預(yù)測建模與分析[J].計(jì)算機(jī)工程與應(yīng)用,2019,55(11):209-212.Mnih,Volodymyr,NicolasManfredOttoHeess,AlexGravesandKorayKavukcuoglu.“RecurrentModelsofVisualAttention.”NIPS(2014).Bahdanau,Dzmitry,KyunghyunChoandYoshuaBengio.“NeuralMachineTranslationbyJointlyLearningtoAlignandTranslate.”CoRRabs/1409.0473(2015):n.pag.Shen,T.;Zhou,T.;Long,G.;Jiang,J.;Pan,S.;andZhang,C.Disan:Directionalself-attentionnetworkforrnn/cnn-freelanguageunderstanding.arXivpreprintarXiv:1709.04696,2017.Im,Jinbae,andSungzoonCho.Distance-basedSelf-AttentionNetworkforNaturalLanguageInference.arXivpreprintarXiv:1712.02047,2017.Lai,G.,Chang,W.,Yang,Y.,&Liu,H.(2018).ModelingLong-andShort-TermTemporalPatternswithDeepNeuralNetworks.The41stInternationalACMSIGIRConferenceonResearch&DevelopmentinInformationRetrieval.Vaswani,Ashish,etal.Attentionisallyouneed.AdvancesinNeuralInformationProcessingSystems.2017.COWLESrd,Alfred,.CanStockMarketForecastersForecast,Econometrica,GraduateStudent(PHD).COWLES3rd,Alfred.CanStockMarketForecastersForecast?,Econometrica.[J].PatentsFinance,1933.Loughran,T.,andB.Mcdonald."WhenisaLiabilitynotaLiability?TextualAnalysis,Dictionaries,and10-Ks."SocialScienceElectronicPublishing.姜富偉,孟令超,唐國豪.媒體文本情緒與股票回報(bào)預(yù)測[J].經(jīng)濟(jì)學(xué)(季刊),2021(4):22.陳可嘉,陳榮暉.股市情感詞典自動(dòng)構(gòu)建與優(yōu)化[J].科學(xué)技術(shù)與工程,2020,20(21):8683-8689.許雪晨,田侃.一種基于金融文本情感分析的股票指數(shù)預(yù)測新方法[J].數(shù)量經(jīng)濟(jì)技術(shù)經(jīng)濟(jì)研究,2021,38(12):124-145.黃婷婷.機(jī)器學(xué)習(xí)在金融領(lǐng)域的應(yīng)用[D].合肥：中國科學(xué)技術(shù)大學(xué),2018.付鈺菲,汪明艷.深度學(xué)習(xí)在金融領(lǐng)域的應(yīng)用研究綜述[J].軟件工程,2022,25(03):1-4.黃澤鵬.基于深度學(xué)習(xí)的黃金價(jià)格預(yù)測建模與應(yīng)用[D].上海：上海交通大學(xué)，2017.賈俊平.統(tǒng)計(jì)學(xué)[M].北京：中國人民大學(xué)出版社，2018：6.Zhu,Xiaojin,andAndrewB.Goldberg."Introductiontosemi-supervisedlearning."Synthesislecturesonartificialintelligenceandmachinelearning3.1(2009):1-130.高赫.基于半監(jiān)督建模的金融欺詐行為偵測研究[J].軟件,2022,43(01):89-91.李興媛.基于行為金融學(xué)探究我國資本市場中的投資策略[J].財(cái)經(jīng)界,2021(27):41-42.宋麗娜.基于情感分析和PCA-LSTM模型的股票價(jià)格預(yù)測[J].中國管理信息化,2021,24(21):159-161.劉素輝.基于多源異構(gòu)數(shù)據(jù)的股價(jià)趨勢預(yù)測研究[D].北京科技大學(xué),2021.賈麗麗.基于數(shù)理統(tǒng)計(jì)方法研究金融股價(jià)與財(cái)務(wù)指標(biāo)的相關(guān)性[J].中國市場,2020(02):1-5.國琳,楊寶臣.利用財(cái)務(wù)指標(biāo)預(yù)測股票價(jià)格及財(cái)務(wù)風(fēng)險(xiǎn)預(yù)警[J].科學(xué)技術(shù)與工程,2005(23):1854-1857.TetlockPC.Givingcontenttoinvestorsen