Python文本與語音應(yīng)用設(shè)計文本分類Python文本與語音應(yīng)用設(shè)計實戰(zhàn)案例--基于傳統(tǒng)機(jī)器學(xué)習(xí)的新聞文本分類8.2實戰(zhàn)案例--垃圾郵件分類8.3文本分類方法8.1知識目標(biāo)掌握文本分類的兩種方法及其特點(diǎn)；了解文本分類中常用的特征評分函數(shù)；掌握基于傳統(tǒng)機(jī)器學(xué)習(xí)文本分類的基本步驟；掌握貝葉斯分類器的訓(xùn)練和測試方法。技能目標(biāo)能夠使用貝葉斯分類器或SVM進(jìn)行分類；能夠?qū)崿F(xiàn)文本分類。8.1文本分類方法8.1文本分類方法目前的文本分類方法主要有兩種，分別是基于傳統(tǒng)機(jī)器學(xué)習(xí)的方法和基于深度學(xué)習(xí)的方法。8.1.1基于傳統(tǒng)機(jī)器學(xué)習(xí)的方法8.18.1.1基于傳統(tǒng)機(jī)器學(xué)習(xí)的方法特征工程指的是把原始數(shù)據(jù)轉(zhuǎn)變?yōu)槟Ｐ陀?xùn)練數(shù)據(jù)的過程，它的目的就是獲取更好的訓(xùn)練數(shù)據(jù)特征，使得機(jī)器學(xué)習(xí)模型的性能得到提升。在機(jī)器學(xué)習(xí)中占有非常重要的作用，一般包括特征構(gòu)建、特征提取、特征選擇三個部分。8.18.1.1基于傳統(tǒng)機(jī)器學(xué)習(xí)的方法（1）特征提取又包括特征選擇和特征權(quán)重計算。特征選擇旨在從已有候選特征中，選取最有代表性和最具區(qū)分能力的特征，降低特征空間維度，提高分類的效果與效率。特征選擇需要構(gòu)造面向特征的評分函數(shù)，對候選特征進(jìn)行評估，然后保留評分值最高的特征。8.18.1.1基于傳統(tǒng)機(jī)器學(xué)習(xí)的方法常用的特征評分函數(shù)：文檔頻率(DocumentFrequency，DF)：指在整個文本集合中，出現(xiàn)某個特征的文檔的頻率。信息增益(InformationGain)：計算新增某個特征后信息熵的變化情況，用以衡量特征的信息量。互信息(Mutualinformation)：根據(jù)特征與類別的關(guān)聯(lián)程度來計算特征與類別的相關(guān)度。8.18.1.1基于傳統(tǒng)機(jī)器學(xué)習(xí)的方法常用的特征評分函數(shù)：卡方統(tǒng)計：計算特征與類別關(guān)聯(lián)關(guān)系的方法。它定義了一系列詞t與類別c之間共現(xiàn)或不同現(xiàn)的統(tǒng)計量（A、B、C、D）。8.18.1.1基于傳統(tǒng)機(jī)器學(xué)習(xí)的方法（2）分類器將文本表示為模型可以處理的向量數(shù)據(jù)后，就可以使用機(jī)器學(xué)習(xí)模型來進(jìn)行處理。大部分機(jī)器學(xué)習(xí)方法都在文本分類領(lǐng)域有所應(yīng)用，比如貝葉斯分類器(Na?veBayes)、線性分類器（邏輯回歸）、支持向量機(jī)(SupportVectorMachine，SVM)、最大熵分類器、KNN等。8.1.2基于深度學(xué)習(xí)的方法8.18.1.2基于深度學(xué)習(xí)的方法基于深度學(xué)習(xí)方法的文本分類通常首先使用詞向量進(jìn)行文本表示，然后再利用CNN/RNN等網(wǎng)絡(luò)結(jié)構(gòu)自動獲取特征表達(dá)能力并進(jìn)行分類。常用的文本分類網(wǎng)絡(luò)模型有FastText、TextCNN、TextRNN、TextRCNN、DPCNN、BERT、VDCNN等。單元小結(jié)單元小結(jié)本單元主要介紹了文本分類的兩種方法，其中還在基于傳統(tǒng)機(jī)器學(xué)習(xí)的方法中介紹了文本分類中常用的特征評分函數(shù)，最后對新聞文本分類