摘要隨著我國(guó)經(jīng)濟(jì)發(fā)展水平和居民消費(fèi)水平的不斷提高，葡萄酒逐漸登上了平民百姓的餐桌，傳統(tǒng)的葡萄酒質(zhì)量檢測(cè)主要由品評(píng)師鑒別，存在檢測(cè)成本高、周期長(zhǎng)、容易受主觀因素影響等缺點(diǎn)，一套客觀、有效的葡萄酒評(píng)價(jià)標(biāo)準(zhǔn)對(duì)于葡萄酒的快速、批量質(zhì)量檢測(cè)顯得尤為重要。而葡萄酒的品質(zhì)到底由哪些因素決定呢？用理化指標(biāo)來(lái)對(duì)葡萄酒進(jìn)行品質(zhì)評(píng)定是否可靠？基于此，本文提出了基于一般統(tǒng)計(jì)分析和數(shù)據(jù)挖掘的方法來(lái)對(duì)葡萄酒的品質(zhì)等級(jí)進(jìn)行預(yù)測(cè)。線性回歸中，紅葡萄酒和白葡萄酒的成分及其對(duì)質(zhì)量的影響不盡相同，在預(yù)測(cè)品質(zhì)等級(jí)方面，knn分類(lèi)和決策樹(shù)模型的預(yù)測(cè)效果較好，模型的預(yù)測(cè)正確率均達(dá)到60%以上。關(guān)鍵詞：數(shù)據(jù)挖掘；線性回歸；葡萄酒質(zhì)量預(yù)測(cè)

AbtrastWiththecontinuousdevelopmentofChina'seconomicandthelevelofresidents'consumption,winehasgraduallyenteredthetableofordinarypeople.Traditionalwinequalitytestingismainlyidentifiedbyappraisers,whichhasthedisadvantagesofhightestingcosts,longcycles,andeasytobeaffectedbysubjectivefactors.Asetofobjectiveandeffectivewineevaluationstandardsisparticularlyimportantfortherapidandbatchqualityinspectionofwines.Andwhatfactorsdeterminethequalityofwine?Isitreliabletousephysicalandchemicalindicatorstoevaluatethequalityofwine?Basedonthis,thispaperproposesamethodbasedongeneralstatisticalanalysisanddataminingtopredictthequalitygradeofwine.Inlinearregression,thecompositionofredandwhitewinesandtheireffectsonqualityaredifferent.Intermsofpredictingqualitylevels,knnclassificationanddecisiontreemodelshavebetterpredictionresults,andthemodel'spredictionaccuracyrateismorethan60%.Keywords:Datamining;Linearregression;Winequalityprediction

1.引言1.1研究背景葡萄酒有著數(shù)千年的歷史。西方的許多國(guó)家都擁有世界上最頂級(jí)的葡萄酒釀造工藝，特別是法國(guó)的葡萄酒聞名世界。我們國(guó)家也有適宜種植葡萄的地方，但由于沒(méi)有先進(jìn)的葡萄酒生產(chǎn)技術(shù)和生產(chǎn)經(jīng)驗(yàn)，我國(guó)的葡萄酒質(zhì)量總體來(lái)看遠(yuǎn)遠(yuǎn)落后于歐洲國(guó)家[3]。但近些年來(lái)，隨著國(guó)民經(jīng)濟(jì)的快速增長(zhǎng)，我國(guó)居民生活水平的不斷提高，我國(guó)的葡萄酒的市場(chǎng)銷(xiāo)量有了快速提升。近些年來(lái)我國(guó)相繼出臺(tái)了推動(dòng)葡萄酒產(chǎn)業(yè)發(fā)展的政策，為我國(guó)葡萄酒產(chǎn)業(yè)的持續(xù)發(fā)展提供了有利保障，在一定程度上推動(dòng)了葡萄酒產(chǎn)業(yè)的向前發(fā)展。我國(guó)葡萄酒也已經(jīng)從初級(jí)階段逐步邁進(jìn)發(fā)展階段[1]，我國(guó)也將從全球第五大葡萄酒市場(chǎng)成長(zhǎng)為僅次于美國(guó)的全球第二大葡萄酒市場(chǎng)[2]。對(duì)于一個(gè)如此龐大的葡萄酒市場(chǎng)，我們?cè)鯓幼尨笈可a(chǎn)的葡萄酒的質(zhì)量得到保證，這成為了我國(guó)葡萄酒行業(yè)健康發(fā)展的關(guān)鍵。而且生活水平的提高導(dǎo)致人們對(duì)葡萄酒品質(zhì)的要求越來(lái)越高，所以人們現(xiàn)在也越來(lái)越關(guān)注葡萄酒的質(zhì)量。1.2國(guó)內(nèi)外研究現(xiàn)狀在國(guó)際市場(chǎng)中，許多西方的國(guó)家擁有頂尖的葡萄酒生產(chǎn)加工工藝，國(guó)外的葡萄酒釀造與研究技術(shù)遠(yuǎn)遠(yuǎn)領(lǐng)先于國(guó)內(nèi)。法國(guó)和意大利一直是葡萄酒主要產(chǎn)銷(xiāo)區(qū)，到現(xiàn)在還保留著傳統(tǒng)的釀造工藝，其總量占全世界百分之五十以上[4]。最近幾年，國(guó)外越來(lái)越多的統(tǒng)計(jì)學(xué)家已經(jīng)意識(shí)到葡萄酒中各種化學(xué)物質(zhì)的含量會(huì)影響到葡萄酒的品質(zhì)，從而影響到口感、觸感等多方面的體驗(yàn)，因此，一些國(guó)外的科學(xué)家已經(jīng)開(kāi)始結(jié)合一些現(xiàn)代的科學(xué)技術(shù)手段例如：色相氣譜儀、高壓液相色譜儀和質(zhì)譜儀等，來(lái)對(duì)葡萄酒中的香味和化學(xué)成成分進(jìn)行檢測(cè)。1984年，美國(guó)科學(xué)家首先將PLS應(yīng)用于葡萄酒化學(xué)成分及其含量與葡萄酒感官品評(píng)的質(zhì)量之間的相關(guān)性研究，并進(jìn)行葡萄酒質(zhì)量等級(jí)預(yù)測(cè)的相關(guān)操作，但當(dāng)時(shí)的儀器測(cè)定水平有限[5]。1999年，Ebeler等人也開(kāi)啟了葡萄酒味道的相關(guān)化學(xué)測(cè)定，他提出葡萄酒的質(zhì)量等級(jí)評(píng)估是由理化指標(biāo)測(cè)定和感官測(cè)定共同決定的，他們認(rèn)為葡萄酒的物理及化學(xué)性質(zhì)與感官分析有一定的關(guān)系，但沒(méi)有形成完整的評(píng)估體系。2006年，D.Smith提出對(duì)葡萄酒中化學(xué)成分的測(cè)定主要是測(cè)定密度、ph值等，而感官評(píng)價(jià)則需要依賴(lài)品酒師。2009年，Cortez等人首次將支持向量機(jī)方法運(yùn)用到超過(guò)千個(gè)葡萄酒樣本的品質(zhì)分類(lèi)鑒定當(dāng)中[5]。國(guó)內(nèi)的關(guān)于葡萄酒品質(zhì)鑒定的研究相比于國(guó)外的技術(shù)仍有一定差距。在早期的相關(guān)研究中，大多數(shù)的分析都集中在研究感官品嘗的方面，沒(méi)有使用數(shù)據(jù)挖掘的相關(guān)方法[3]。在2009年，國(guó)內(nèi)開(kāi)始運(yùn)用數(shù)據(jù)挖掘的方法研究葡萄酒理化指標(biāo)與質(zhì)量之間的相關(guān)關(guān)系，李運(yùn)首先利用相關(guān)分析、主成分分析以及聚類(lèi)分析的方法對(duì)葡萄酒樣本進(jìn)行分析，發(fā)現(xiàn)了一些影響葡萄酒品質(zhì)的重要的化學(xué)成分。2010年，高緩緩使用支持向量機(jī)對(duì)葡萄酒進(jìn)行分類(lèi)[5]。2012年劉延玲提出一種改進(jìn)的神經(jīng)網(wǎng)絡(luò)分類(lèi)器，使得分類(lèi)器能夠在較短的收斂時(shí)間內(nèi)根據(jù)葡萄酒的理化性質(zhì)指標(biāo)和感官評(píng)價(jià)結(jié)果，將葡萄酒的質(zhì)量進(jìn)行預(yù)測(cè)分類(lèi)[5]?？偟膩?lái)說(shuō)，現(xiàn)階段國(guó)內(nèi)國(guó)外都已經(jīng)開(kāi)始研究葡萄酒品質(zhì)的預(yù)測(cè)研究和理化性質(zhì)對(duì)葡萄酒品質(zhì)的影響，但是應(yīng)用數(shù)據(jù)挖掘技術(shù)的相關(guān)研究還比較少。近些年隨著大數(shù)據(jù)的廣泛應(yīng)用，數(shù)據(jù)挖掘手段將與更先進(jìn)的科學(xué)檢測(cè)手段結(jié)合，更好更精確的預(yù)測(cè)葡萄酒品質(zhì)，甚至建立起完整的準(zhǔn)確的葡萄酒品質(zhì)評(píng)價(jià)體系。1.3本文研究?jī)?nèi)容雖然現(xiàn)在葡萄酒市場(chǎng)的發(fā)展已經(jīng)比較成熟，但是質(zhì)量評(píng)定一直是一個(gè)耗時(shí)耗力的過(guò)程，而且缺乏科學(xué)客觀的評(píng)價(jià)標(biāo)準(zhǔn)。在現(xiàn)行的葡萄酒評(píng)價(jià)體系中，確定葡萄酒質(zhì)量有很多方法，其中最傳統(tǒng)的是品酒師對(duì)葡萄酒的色、香、味等感官印象進(jìn)行評(píng)定，但是在人工品嘗的過(guò)程中容易受環(huán)境等條件影響，從而產(chǎn)生不同的感官特征，加之每位品酒師的職業(yè)水平以及他們的個(gè)人喜好都不大相同，而且成本較高，這樣就使得這種方法很難滿(mǎn)足現(xiàn)在如此大的市場(chǎng)需求[4]。所以研究葡萄酒中的成分對(duì)質(zhì)量有什么樣的影響就顯得尤其重要。本文利用統(tǒng)計(jì)分析的基本方法和數(shù)據(jù)挖掘中的分類(lèi)手段，基于葡萄酒的理化指標(biāo)，找到葡萄酒中各種成分對(duì)質(zhì)量的影響，從而為葡萄酒的質(zhì)量測(cè)定提供一種科學(xué)客觀的方法，為完善葡萄酒質(zhì)量等級(jí)制度提供可參考性方案。

2.描述統(tǒng)計(jì)2.1數(shù)據(jù)介紹本文數(shù)據(jù)來(lái)自/ml/datasets/Wine+Quality。數(shù)據(jù)把葡萄酒分為了兩種：紅葡萄酒和白葡萄酒，每種葡萄酒都有12個(gè)特征，特征介紹見(jiàn)表2-1：表2-1特征介紹英文名稱(chēng)中文名稱(chēng)Fixedacidity非揮發(fā)性酸Volatileacidity揮發(fā)性酸Citricacid檸檬酸Residualsugar殘?zhí)荂hlorides氯化物Freesulfurdioxide游離二氧化硫Totalsulfurdioxide總二氧化硫Density濃度Ph酸堿度Sulphates硫酸鹽Alcohol酒精Quality質(zhì)量等級(jí)Fixedacidity（非揮發(fā)性酸）：葡萄酒中非揮發(fā)性酸一般為有機(jī)酸，其含量相對(duì)較多，這些物質(zhì)無(wú)色無(wú)味。酒石酸是其中含量最多的一類(lèi)酸，這種物質(zhì)的酸性較弱，因此即使含量較多也不會(huì)帶來(lái)過(guò)于明顯的酸感。數(shù)據(jù)表明，酒石酸對(duì)葡萄酒的口味和品質(zhì)的影響較為顯著。Volatileacidity（揮發(fā)性酸）：即有揮發(fā)性的酸。葡萄酒中的揮發(fā)性酸主要為醋酸，這種物質(zhì)在一系列微生物活動(dòng)后會(huì)自然產(chǎn)生。同時(shí)葡萄酒暴露于空氣中，也會(huì)氧化產(chǎn)生醋酸。由于它具有揮發(fā)性，因此當(dāng)葡萄酒變質(zhì)導(dǎo)致其含量較多的時(shí)候，可以明顯聞到一股刺鼻的酸味。因而相對(duì)容易辨別，也容易當(dāng)做判斷葡萄酒品質(zhì)的重要指標(biāo)。Citricacid（檸檬酸）：葡萄酒中酸的一種，在葡萄酒中的含量相對(duì)較少。Residualsugar（殘?zhí)牵簹執(zhí)鞘蔷凭l(fā)酵結(jié)束后葡萄酒中剩余的天然葡萄糖，糖粉含量可以通過(guò)品嘗進(jìn)行感知。根據(jù)糖分含量，葡萄酒可以分為干型，半干型，半甜型和甜型四類(lèi)。盡管發(fā)酵完成后，糖分基本都轉(zhuǎn)化成了酒精，但或多或少帶有一定量的糖分。殘?zhí)强梢匀峄咸丫频目诟?，同時(shí)也是平衡酸度的關(guān)鍵。Chlorides（氯化物）：葡萄酒中的氯化物主要以氯化鈉的的形式存在，它的來(lái)源有兩個(gè)：一是沿海葡萄酒工廠釀造的葡萄酒本身的氯化鈉的含量就比一般的葡萄酒工廠要高。二是一些酒廠也會(huì)添加一些為了在釀造的過(guò)程中使葡萄酒更為澄清，也會(huì)添加一些氯化鈉，數(shù)據(jù)表明，這種氯化物的含量越低越好。Freesulfurdioxide（游離二氧化硫）：葡萄酒中的游離二氧化硫的主要部分是質(zhì)子狀態(tài)的酸或酸式鹽，從抗菌的角度看，游離的氣態(tài)二氧化硫最活躍，也正是這部分二氧化硫?qū)е铝瞬挥淇斓牧蚧菤馕?。Totalsulfurdioxide（總二氧化硫）：二氧化硫是一種非常常見(jiàn)的食品防腐劑，被廣泛應(yīng)用于葡萄酒的釀造過(guò)程中，可以起到防腐、抗氧化、抗菌等作用。二氧化硫能有效抑制微生物活動(dòng)，從而延緩抗氧化反應(yīng)，但不會(huì)影響經(jīng)人工選育的有效酵母的活動(dòng)。在氧氣浸入酒液中與其他易氧化物質(zhì)接觸之前，二氧化硫會(huì)先與氧氣作用，一定程度上阻擋過(guò)量氧氣的侵襲。Density（濃度）：葡萄酒約80%是水，7-12%是酒精，酒精密度是0.79g/ml，但葡萄酒含有礦物質(zhì)、維生素等，綜合計(jì)算密度與水差不多，約比水的密度小千分之幾，為方便計(jì)算，通常把葡萄酒的密度計(jì)為1g/ml。Ph（酸堿度）：酸度是根據(jù)ph值來(lái)判定，通常ph值越低的葡萄酒，其色素穩(wěn)定性越高。酸度較高的紅葡萄酒，其顏色越深，變化速度也會(huì)比較慢。同樣，白葡萄酒的顏色也會(huì)受到酸度的影響，低酸環(huán)境下，酒液容易出現(xiàn)輕微的棕色色調(diào)。Sulphates（硫酸鹽）：硫酸鹽在葡萄酒里主要的作用是防止葡萄酒腐敗，也就是充當(dāng)防腐劑的作用，因此應(yīng)當(dāng)是與品質(zhì)成負(fù)相關(guān)。Alcohol（酒精）：主要來(lái)自葡萄汁中糖的酒精發(fā)酵，其形成受原料含糖量及酵母菌種類(lèi)及發(fā)酵條件等影響。Quality（質(zhì)量等級(jí)）：葡萄酒的質(zhì)量等級(jí)是由品酒師評(píng)定的，分為3-8級(jí)，共六個(gè)等級(jí)，等級(jí)越高代表質(zhì)量越高。2.2數(shù)據(jù)描述分別查看紅葡萄酒和白葡萄酒的數(shù)據(jù)特征，繪制圖表如圖2-1：(1)非揮發(fā)性酸含量分布圖(2)揮發(fā)性酸含量分布圖(3)檸檬酸含量分布圖(4)殘?zhí)呛糠植紙D(5)氯化物含量分布圖(6)游離二氧化硫含量分布圖(7)總二氧化硫含量分布圖(8)密度含量分布圖(9)酸堿度含量分布圖(10)硫酸鹽含量分布圖(11)酒精含量分布圖(12)質(zhì)量含量分布圖圖2-1紅葡萄酒和白葡萄酒的特征分布通過(guò)對(duì)圖2-1的觀察分析，對(duì)比紅葡萄酒與白葡萄酒的特征分布圖，除去揮發(fā)性酸、殘?zhí)?、硫酸鹽之外，白葡萄酒中各項(xiàng)特征的分布普遍要比紅葡萄酒更分散，這說(shuō)明白葡萄酒評(píng)判標(biāo)準(zhǔn)更趨于多元化、復(fù)雜化。12個(gè)特征的分布情況在紅葡萄酒和白葡萄酒之間均存在差異，比如游離二氧化硫在紅葡萄酒中集中分布在5-20之間，而在白葡萄酒中則集中分布在20-50，總二氧化硫也存在顯著差異，在紅葡萄酒中主要分布在10-50，而在白葡萄酒中主要分布于100-200。表2-2紅葡萄酒的基本統(tǒng)計(jì)特征countmeanstdminmaxfixedacidity15998.31961.74114.600015.9000colatileacidity15990.52780.17910.12001.5800citricacid15990.27100.19500.00001.0000residualsugar15992.53881.41000.900015.5000chlorides15990.87470.04710.12000.6110freesulfurdioxide159915.875010.46021.000072.0000totalsulfurdioxide159946.467832.89536.0000289.0000density15990.99670.00190.99071.0037ph15993.31110.15442.74004.0100sulphates15990.65810.17000.33002.0000alcohol159910.42301.06578.400014.9000quality15995.63600.80763.00008.0000表2-3白葡萄酒的基本統(tǒng)計(jì)特征countmeanstdminmaxFixedacidity48986.58480.84393.80014.2000Colatileacidity48980.27820.10080.08001.1000Citricacid48980.33420.12100.00001.6600Residualsugar48986.39145.07210.600065.8000Chlorides48980.04580/02180.00900.3460Freesulfurdioxide489835.308117.00712.0000289.0000Totalsulfurdioxide4898138.360742.49819.0000440.0000density48980.99400.00300.98711.0390ph48983.18830.15102.72003.8200sulphates48980.48980.11410.22001.0800alcohol489810.51431.23068.000014.2000quality48985.87800.88563.0000.0000從表2-2和表2-3來(lái)看，每個(gè)理化指標(biāo)在紅葡萄酒和白葡萄酒中的均值、最大值、最小值均不同，分布的離散度也大不相同，說(shuō)明對(duì)于紅葡萄酒和白葡萄酒我們應(yīng)該分開(kāi)研究，各自建立模型。圖2-2紅葡萄酒的相關(guān)系數(shù)熱力圖圖2-3白葡萄酒的相關(guān)系數(shù)熱力圖從圖2-2和圖2-3可以看出游離二氧化硫和固定二氧化硫的相關(guān)程度比較高，在兩種葡萄酒中相關(guān)性達(dá)到60%以上，密度和游離二氧化硫在兩種葡萄酒中相關(guān)性均達(dá)到了80%以上，密度和總二氧化硫相關(guān)性達(dá)到50%以上，而其他各變量的相關(guān)性均在50%以下。2.3數(shù)據(jù)預(yù)處理查看數(shù)據(jù)無(wú)缺失值，故不需要填補(bǔ)缺失值。因?yàn)楸緮?shù)據(jù)集沒(méi)有給出特定的測(cè)試集，所以分別把紅葡萄酒和白葡萄酒數(shù)據(jù)進(jìn)行切割，分為訓(xùn)練集和測(cè)試集，其中訓(xùn)練集的數(shù)據(jù)數(shù)量按照模型數(shù)量的70%來(lái)確定，訓(xùn)練集用來(lái)訓(xùn)練模型，測(cè)試集用來(lái)預(yù)測(cè)，用測(cè)試集的預(yù)測(cè)效果來(lái)評(píng)判模型。

3.PCA主成分分析3.1主成分分析模型介紹主成分分析(Principal

Component

Analysis)在數(shù)據(jù)預(yù)處理和數(shù)據(jù)降維領(lǐng)域被廣泛使用。它將n維特征映射到k維上以達(dá)到降維的目的，也就是從原有n維特征的基礎(chǔ)上重建了一組全新的k維正交特征。通過(guò)將大量的變量轉(zhuǎn)換為較少的變量（包含集合中大部分信息）來(lái)降低數(shù)據(jù)集的維度，以這種方法來(lái)實(shí)現(xiàn)對(duì)數(shù)據(jù)特征的降維處理就叫做主成分分析方法。主成分分析是通過(guò)下面的步驟來(lái)尋找全新的k維正交特征：首先從原始的空間中依次序的找一組相互正交的坐標(biāo)軸；然后坐標(biāo)軸維度正交的平面中使得方差最大的，作為第二個(gè)坐標(biāo)軸，其次選擇與先前第1、2個(gè)軸正交的平面中方差最大的，作為第三個(gè)坐標(biāo)軸，以此類(lèi)推，可以獲得n個(gè)這樣全新的相互正交的坐標(biāo)軸。這樣，前面k個(gè)已經(jīng)包含了全部數(shù)據(jù)的大部分方差，而余下的坐標(biāo)軸所含的方差幾乎為0。所以為了簡(jiǎn)化運(yùn)算，可以只選擇前面k個(gè)含有大部分方差的坐標(biāo)軸，而舍棄包含方差幾乎為0的坐標(biāo)軸。設(shè)有n個(gè)指標(biāo)，x1，x1，…xn，n個(gè)X假設(shè)第一個(gè)新特征維度是F1，那么F1也就是包含方差最大的一個(gè)維度，也就是第一主成分，在滿(mǎn)足cov(F1，F(xiàn)2)=0的條件下，再選取F2作為第二個(gè)主成分，同理構(gòu)造第三、四，……，第nF要求：（1）a1i（2）Fi與Fj(i≠由此求得X的主成分為協(xié)方差陣的特征向量為系數(shù)的線性組成。3.2主成分分析算法優(yōu)點(diǎn)PCA算法的主要優(yōu)點(diǎn)有：1）因?yàn)橹鞒煞址治鲈趯?duì)原來(lái)的n維特征進(jìn)行變換后，形成了彼此相互正交的新的k維特征，所以原來(lái)的n維特征之間相關(guān)程度越高，主成分分析的效果越好，可以消除評(píng)價(jià)指標(biāo)之間的相關(guān)性。2）在綜合評(píng)價(jià)函數(shù)中，由于各主成分是按方差大小依次排列順序的，我們可以選擇舍棄一部分包含方差較小的特征維度，而只選擇包含方差較大來(lái)代表所有的變量，這樣就可以減少我們的工作量。新產(chǎn)生的各個(gè)主成分的權(quán)重代表了各自的貢獻(xiàn)率，也是該主成分包含原始數(shù)據(jù)的信息量占全部信息量的比重，用這種方法所確定的權(quán)數(shù)客觀合理。當(dāng)然，PCA算法也有一些缺點(diǎn)：1）新產(chǎn)生的各個(gè)特征維度的含義失去了原始特征維度的可解釋性，沒(méi)有了實(shí)際意義，不如原始樣本特征的解釋性強(qiáng)。2）主成分分析中被舍棄掉的特征維度也可能含有對(duì)樣本差異得重要信息，可能對(duì)后期數(shù)據(jù)處理產(chǎn)生不利影響。3.3結(jié)果分析以主成分的貢獻(xiàn)率95%為標(biāo)準(zhǔn)，對(duì)主成分進(jìn)行抽取，通過(guò)Python軟件，在訓(xùn)練集上進(jìn)行降維建模，在測(cè)試集上進(jìn)行預(yù)測(cè)得到如下結(jié)果：紅葡萄酒在降維前，在預(yù)測(cè)集上的準(zhǔn)確率達(dá)到48.125%，降維后只留下了兩個(gè)維度，其方差解釋度分別為0.9477和0.0474，解釋的方差大小分別1179.8815和58.9646，降維后在預(yù)測(cè)集上預(yù)測(cè)準(zhǔn)確達(dá)到52.8125%，說(shuō)明在進(jìn)行pca降維后的預(yù)測(cè)效果有所提高。白葡萄酒在降維前，在預(yù)測(cè)集上的準(zhǔn)確率達(dá)到45.51%，降維后只留下了兩個(gè)維度，其方差解釋度分別為0.9099和0.0794，解釋的方差大小分別1906.7085和166.3473，降維后在預(yù)測(cè)集上預(yù)測(cè)準(zhǔn)確達(dá)到42.86%，說(shuō)明白葡萄酒在進(jìn)行pca降維處理后，預(yù)測(cè)效果反而下降，故對(duì)于白葡萄酒來(lái)說(shuō)，降維方法不可行。用表格的方式將降維結(jié)果展示如表3-1.表3-1降維前預(yù)測(cè)準(zhǔn)確率降維后預(yù)測(cè)準(zhǔn)確率兩個(gè)新維度的方差結(jié)實(shí)度兩個(gè)新維度解釋的大小方差新維度1新維度2新維度1新維度2紅葡萄酒48.125%52.8125%0.94770.04741179.881558.9646白葡萄酒45.51%42.86%0.90990.07941906.7085166.3473分別畫(huà)出紅葡萄酒和白葡萄酒降維后前貢獻(xiàn)最大的兩個(gè)特征值的散點(diǎn)圖如圖3-1和3-2。圖3-1紅葡萄酒圖3-2白葡萄酒4.線性回歸分析4.1線性回歸模型介紹在統(tǒng)計(jì)學(xué)中，線性回歸模型是用一條曲線來(lái)擬合一個(gè)或多個(gè)自變量x和因變量y之間關(guān)系的模型。如果只有一個(gè)自變量就稱(chēng)為簡(jiǎn)單回歸。若曲線是一條直線則是一元線性回歸，若是超平面則是多元線性回歸，否則是非線性回歸。由于線性依賴(lài)于其未知參數(shù)的模型比非線性依賴(lài)于其未知參數(shù)的模型更容易擬合，而且產(chǎn)生的估計(jì)的統(tǒng)計(jì)特性也更容易確定，因此線性回歸在回歸分析中被廣泛使用。4.2多元線性回歸線性回歸一般都可以通過(guò)最小二乘法求出其方程，可以計(jì)算出對(duì)于y=ax+b的直線，一般地，影響y的因素往往不止一個(gè)，可以設(shè)為x1y=在本例中，自變量x一共有11個(gè)，分別為Fixedacidity，Volatileacidity，Citricacid，Residualsugar，Chlorides，F(xiàn)reesulfurdioxide，Totalsulfurdioxide，Density，Ph，Sulphates，Alcohol。本文中采用最小二乘法來(lái)尋找最優(yōu)模型。最小二乘法是回歸分析中一種常用的優(yōu)化方法，它的原理是通過(guò)最小化預(yù)測(cè)值與真實(shí)值的誤差平方和來(lái)找出與數(shù)據(jù)匹配的最優(yōu)函數(shù)。也就是要找到一組(β0,β1,…,4.3結(jié)果展示Quality為因變量，F(xiàn)ixedacidity,Volatileacidity,Citricacid,Residualsugar,chlorides,Freesulfurdioxide,Totalsulfurdioxide,Density,Ph,Sulphates,Alcohol為自變量，對(duì)紅葡萄酒和白葡萄酒分別進(jìn)行多元線性回歸得表4-1和表4-2。表4-1紅葡萄酒OLS回歸結(jié)果VariableCoefficientStd.Errort-StatisticProbC150.192818.8041.0360.300fixedacidity0.06550.0210.9630.336colatileacidity-1.86320.114-8.9480.000citricacid0.02210.096-1.2400.215residualsugar0.08150.0081.0890.276chlorides-0.24730.547-4.4700.000freesulfurdioxide0.00370.0012.0090.045totalsulfurdioxide-0.00030.000-4.4800.000density-150.287219.075-0.8270.409ph0.68630.105-2.1590.031sulphates0.63150.1008.0140.000alcohol0.19350.02410.4290.000R-squared0.361AdjustedR-squared0.356F-statistic81.35表4-2白葡萄酒OLS回歸結(jié)果VariableCoefficientStd.Errort-StatisticProbC150.192818.8047.9870.000fixedacidity0.06550.0213.1390.002colatileacidity-1.86320.114-16.3730.000citricacid0.02210.0960.2310.818residualsugar0.08150.00810.8250.000chlorides-0.24730.547-0.4520.651freesulfurdioxide0.00370.0014.4220.000totalsulfurdioxide-0.00030.000-0.7560.450density-150.287219.075-7.8790.000ph0.68630.1056.5130.000sulphates0.63150.1006.2910.000alcohol0.19350.0247.9880.000R-squared0.282AdjustedR-squared0.280F-statistic174.3取對(duì)數(shù)后，紅葡萄酒回歸結(jié)果如表4-3表4-3VariableCoefficientStd.Errort-StatisticProbC0.6087150.1875923.2448940.0012Lnfixedacidity0.0632880.0419201.5097470.1313Lncolatileacidity-0.0859500.011307-7.6013970.0000Lncitricacid-0.0069870.004419-1.5811820.1141Lnresidualsugar0.0174650.0116761.4958060.1349Lnchlorides-0.0390640.011003-3.5502160.0004Lnfreesulfurdioxide0.0207110.0075312.7502430.0060Lntotalsulfurdioxide-0.0278510.007689-3.6222400.0003Lndensity-5.7842014.319237-1.3391720.1807Lnph-0.1713410.122189-1.4022610.1611Lnsulphates0.1326740.0159548.3159850.0000Lnalcohol0.4646750.0539468.6136210.0000R-squared0.344103AdjustedR-squared0.339144F-statistic69.39405對(duì)變量取對(duì)數(shù)之后，再進(jìn)行回歸分析，發(fā)現(xiàn)可決系數(shù)以及比變量的顯著性相較于不取對(duì)數(shù)，結(jié)果并沒(méi)有提高，所以取對(duì)數(shù)再進(jìn)行回歸分析的意義不大。4.4結(jié)果分析在紅葡萄酒中，可決系數(shù)的值為0.365，說(shuō)明此紅葡萄酒模型中自變量的線性組合可以解釋36.5%的因變量，也即36.5%的質(zhì)量等級(jí)可以有以上幾個(gè)自變量的組合解釋?zhuān)^察參數(shù)估計(jì)值和p值，其中volatile_acidity、chlorides、total_sulfur_dioxide、pH、sulphates、alcohol的p值小于0.05，說(shuō)明以上六個(gè)自變量分別對(duì)quality的影響顯著，volatile_acidity，citric_acid，chlorides，total_sulfur_dioxide，Density，pH與葡萄酒的品質(zhì)成負(fù)相關(guān)。在白葡萄酒中，可決系數(shù)的值為0.288，說(shuō)明此紅葡萄酒模型中自變量的線性組合可以解釋28.8%的因變量，也即28.8%的質(zhì)量等級(jí)可以有以上幾個(gè)自變量的組合解釋?zhuān)^察參數(shù)估計(jì)值和p值，其中fixed_acidity、volatile_acidity、residual_sugar、free_sulfur_dioxide、density、pH、sulphates、alcohol的p值均小于0.05，說(shuō)明在其他變量不變的條件下，以上九個(gè)自變量分別對(duì)quality的影響顯著。volatile_acidity，chlorides，total_sulfur_dioxide，density這四種化學(xué)成分與葡萄酒的品質(zhì)成負(fù)相關(guān)。分析紅葡萄酒和白葡萄酒的回歸結(jié)果，不難發(fā)現(xiàn)這些化學(xué)指標(biāo)在預(yù)測(cè)白葡萄酒品質(zhì)的過(guò)程中表現(xiàn)更好，白葡萄酒11個(gè)自變量中有9個(gè)都是顯著的，而紅葡萄酒中，11個(gè)自變量?jī)H有6個(gè)顯著，這就是說(shuō)在回歸數(shù)據(jù)上更傾向于認(rèn)為白葡萄酒的評(píng)判標(biāo)準(zhǔn)更復(fù)雜，而紅葡萄酒的評(píng)判標(biāo)準(zhǔn)相對(duì)簡(jiǎn)單，也就是說(shuō)從數(shù)據(jù)上來(lái)看評(píng)判白葡萄酒時(shí)需要考慮的因素更多。但這些變量對(duì)于葡萄酒質(zhì)量的影響基本上是一致的，比如，非揮發(fā)性酸在紅葡萄酒和白葡萄酒中都是顯著的，酒石酸對(duì)葡萄酒口味以及品質(zhì)的影響的確顯著，得到了數(shù)據(jù)的支持。只有ph值和檸檬酸在紅葡萄酒和白葡萄酒中有所差異，所得到的數(shù)據(jù)中反映出來(lái)的是，ph值低的和檸檬酸含量低的紅葡萄酒更受品酒師的青睞，而對(duì)于白葡萄酒來(lái)說(shuō)則是ph高的和檸檬酸含量高的更受青睞。

5.決策樹(shù)5.1算法介紹決策樹(shù)分類(lèi)算法在機(jī)器學(xué)習(xí)領(lǐng)域中應(yīng)用得非常廣泛，但是其原理卻很簡(jiǎn)單。決策樹(shù)算法包括訓(xùn)練和測(cè)試兩個(gè)階段。在訓(xùn)練階段，會(huì)按照一定的標(biāo)準(zhǔn)將訓(xùn)練樣本劃分為幾個(gè)子集，每個(gè)子集繼續(xù)按照相同的規(guī)則劃分。將此過(guò)程遞歸執(zhí)行，直到每個(gè)子集含有的樣本屬于同一類(lèi)時(shí)停止。在訓(xùn)練過(guò)程中，每個(gè)分割節(jié)點(diǎn)需要保存好分類(lèi)的屬性編號(hào)。在測(cè)試階段，將測(cè)試樣本從根節(jié)點(diǎn)開(kāi)始進(jìn)行判別，以查看該樣本屬于哪個(gè)子節(jié)點(diǎn)，然后遞歸下去，直到該樣本被分到葉節(jié)點(diǎn)中為止，這時(shí)，該樣本就屬于當(dāng)前葉節(jié)點(diǎn)的類(lèi)別。決策樹(shù)是樹(shù)形結(jié)構(gòu)，它主要具有三種不同的節(jié)點(diǎn)：1）決策節(jié)點(diǎn)：它表示的是一個(gè)中間過(guò)程，主要是用于比較一個(gè)數(shù)據(jù)集中各個(gè)屬性的取值來(lái)判斷下一步的決策趨勢(shì)。2）狀態(tài)節(jié)點(diǎn)：代表備選方案的期望值，通過(guò)比較各個(gè)狀態(tài)節(jié)點(diǎn)，以選出最佳結(jié)果。3）結(jié)果節(jié)點(diǎn)：它表示該類(lèi)最終屬于哪一個(gè)類(lèi)別，還可以清楚地看到該模型共有多少個(gè)類(lèi)別。最終，數(shù)據(jù)實(shí)例根據(jù)各個(gè)屬性取值獲取其決策節(jié)點(diǎn)。5.2算法優(yōu)缺點(diǎn)決策樹(shù)算法的優(yōu)點(diǎn)：1）數(shù)據(jù)預(yù)處理比較簡(jiǎn)單，不需要提前歸一化或者填補(bǔ)缺失值。2）對(duì)于異常點(diǎn)的容錯(cuò)能力好，健壯性高。3）可以處理多維度輸出的分類(lèi)問(wèn)題。4）相比于神經(jīng)網(wǎng)絡(luò)之類(lèi)的黑盒分類(lèi)模型，決策樹(shù)在邏輯上可以得到很好的解釋。決策樹(shù)算法的缺點(diǎn):1）決策樹(shù)算法非常容易出現(xiàn)過(guò)擬合的情況，導(dǎo)致在預(yù)測(cè)集上表現(xiàn)效果不佳。例如在本文的白葡萄酒決策樹(shù)模型中，就出現(xiàn)了模型過(guò)擬合的情況，訓(xùn)練集和測(cè)試集上的得分差距較大?？梢酝ㄟ^(guò)設(shè)置節(jié)點(diǎn)最少樣本數(shù)量和限制決策樹(shù)的深度來(lái)改進(jìn)。2）決策樹(shù)對(duì)樣本的改動(dòng)很敏感，樣本微小的變動(dòng)都可能會(huì)導(dǎo)致決策樹(shù)結(jié)構(gòu)發(fā)生巨大變化。5.3結(jié)果分析對(duì)于紅葡萄酒數(shù)據(jù)，首先使用70%的數(shù)據(jù)作為訓(xùn)練數(shù)據(jù)，30%的數(shù)據(jù)作為測(cè)試數(shù)據(jù)進(jìn)行分析。紅葡萄酒在訓(xùn)練集上得分為1，也就是說(shuō)所有的數(shù)據(jù)的品質(zhì)等級(jí)都劃分正確，但是在測(cè)試集上的預(yù)測(cè)準(zhǔn)確度僅為55.4%,這樣的結(jié)果表明訓(xùn)練后的決策樹(shù)在訓(xùn)練集上的分類(lèi)準(zhǔn)確的與測(cè)試集上表現(xiàn)差異較大，模型可能發(fā)生過(guò)擬合，于是我們重新劃分訓(xùn)練集與測(cè)試集，結(jié)果如下表：表5-1訓(xùn)練數(shù)據(jù)比例訓(xùn)練集上得分測(cè)試集上得分70%訓(xùn)練數(shù)據(jù)10.55475%訓(xùn)練數(shù)據(jù)10.607580%訓(xùn)練數(shù)據(jù)10.621875雖然隨著劃分比例不同，測(cè)試精度有所提高，但是結(jié)果顯示仍然可能發(fā)生過(guò)擬合，于是我們添加參數(shù)進(jìn)行剪枝。決策樹(shù)剪枝時(shí)，尋找效果最佳的參數(shù)，如圖5-1，求得最佳的決策樹(shù)深度參數(shù)為10，圖5-1對(duì)決策樹(shù)進(jìn)行剪枝操作，深度調(diào)為10，得到在80%訓(xùn)練數(shù)據(jù)和20%測(cè)試數(shù)據(jù)條件下，模型訓(xùn)練結(jié)果如表5-2，表5-2訓(xùn)練集上得分0.6122測(cè)試集上得分0.6094對(duì)于白葡萄酒我們采取如上同樣的操作，由于白葡萄酒的數(shù)據(jù)過(guò)于龐大，不便使用剪枝操作，結(jié)果如表5-3。表5-3訓(xùn)練集上得分1測(cè)試集上得分0.6306最后我們分別繪制出紅葡萄酒和白葡萄酒的決策樹(shù)圖像，由于圖像比較龐大，故不放在正文展示。

6.KNN分類(lèi)6.1算法介紹鄰近算法，或者說(shuō)K最近鄰分類(lèi)算法是數(shù)據(jù)挖掘分類(lèi)計(jì)數(shù)中最簡(jiǎn)單的方法之一。所謂K最近鄰就是指K個(gè)最近的鄰居，就是說(shuō)每個(gè)樣本都可以用它最接近的K個(gè)鄰居來(lái)表示。Cover和Hart在1968年提出了最近鄰算法。KNN是一種分類(lèi)算法，它輸入基于實(shí)例的學(xué)習(xí)，屬于懶惰學(xué)習(xí)，即KNN沒(méi)有顯式的學(xué)習(xí)過(guò)程，即沒(méi)有訓(xùn)練階段，數(shù)據(jù)集實(shí)現(xiàn)已經(jīng)具有分類(lèi)和特征值，接收到新樣本后直接進(jìn)行處理，與eagerlearning相對(duì)應(yīng)。該算法可以大致分為以下兩種：計(jì)算測(cè)試數(shù)據(jù)與每個(gè)訓(xùn)練數(shù)據(jù)之間的距離，然后根據(jù)距離進(jìn)行排序，選取距離最小的K個(gè)點(diǎn)，再確定前K個(gè)點(diǎn)的類(lèi)別的出現(xiàn)頻率，最后返回前K個(gè)點(diǎn)中出現(xiàn)頻率最高的類(lèi)別，將其作為測(cè)試數(shù)據(jù)的預(yù)測(cè)分類(lèi)。關(guān)于距離的選取，距離的定義有很多種，最常見(jiàn)的是歐氏距離，距離公式為：

E(x,y)由于KNN算法的思想很簡(jiǎn)單，這也就決定了該算法實(shí)現(xiàn)起來(lái)比較簡(jiǎn)單，KNN算法的實(shí)現(xiàn)無(wú)需對(duì)參數(shù)進(jìn)行估計(jì)，也無(wú)需進(jìn)行訓(xùn)練。6.2結(jié)果展示紅葡萄酒有1500行數(shù)據(jù)，白葡萄酒一共有4898行數(shù)據(jù)，分別按照70%和30%的比例將數(shù)據(jù)集分為trainingset和testset，因?yàn)镵NN模型對(duì)數(shù)據(jù)的縮放很敏感，我們根據(jù)trainingset數(shù)據(jù)進(jìn)行歸一化，并將同樣的轉(zhuǎn)換用于測(cè)試集上，這樣能夠確保每個(gè)特征對(duì)KNN模型的影響力一樣大。（1）紅葡萄酒：首先假定k=3，建立一個(gè)knn分類(lèi)器，得到其訓(xùn)練集的準(zhǔn)確率為76.32%，十折交叉驗(yàn)證的的準(zhǔn)確率為58.36%，再使用交叉驗(yàn)證（crossvalidation）選擇最好的k。將此模型用于測(cè)試集上，測(cè)試集的正確率：59.58%圖6-1最后得到混淆矩陣如圖6-2：圖6-2紅葡萄酒混淆矩陣輸出最后的評(píng)估報(bào)告如表6-1：表6-1紅葡萄酒評(píng)估報(bào)告precisionrecallf1-scoresupport30.000.000.00740.000.000.001450.630.780.7018860.550.650.5920070.690.170.276680.000.000.005accuracy0.60480macroavg0.420.400.26480weightedavg0.620.620.56480（2）白葡萄酒分別取不同的K值，將其分別應(yīng)用于訓(xùn)練集和預(yù)測(cè)集，不同的K值對(duì)應(yīng)的正確率如圖6-3，可知K=1時(shí)預(yù)測(cè)效果最好。圖6-3混淆矩陣如圖6-4圖6-4白葡萄酒混淆矩陣輸出最后的評(píng)估報(bào)告如表6-2：表6-2白葡萄酒precisionrecallf1-scoresupport8740.410.310.354950.660.660.6642860.640.660.6565070.570.550.5628580.389.490.4351accuracy0.621470macroavg0.420.400.401470weightedavg0.620.620.6214706.3結(jié)果分析從上面給出的結(jié)果來(lái)看，等級(jí)為3、4、5、6、7、8的紅葡萄酒的預(yù)測(cè)精準(zhǔn)度分別為0、0、0.63、0.55、0.69、0；總的來(lái)說(shuō)在測(cè)試集上的預(yù)測(cè)準(zhǔn)確度達(dá)到60%，由于在小類(lèi)別上的預(yù)測(cè)表現(xiàn)不佳，宏平均的預(yù)測(cè)準(zhǔn)確度26%，微平均的預(yù)測(cè)準(zhǔn)確度達(dá)到56%，所以knn分類(lèi)模型在大類(lèi)別上預(yù)測(cè)表現(xiàn)比較好，而預(yù)測(cè)小類(lèi)別的精準(zhǔn)度幾乎為0。等級(jí)為3、4、5、6、7、8的白葡萄酒的預(yù)測(cè)精準(zhǔn)度分別為0.25、0.41、0.66、0.64、0.57、0.38；總的來(lái)說(shuō)在測(cè)試集上的預(yù)測(cè)精準(zhǔn)度達(dá)到62%，由于在小類(lèi)別上的表現(xiàn)并沒(méi)有在大類(lèi)別上的表現(xiàn)那么好，宏平均下來(lái)預(yù)測(cè)準(zhǔn)確度只有40%，微平均的預(yù)測(cè)準(zhǔn)確度達(dá)到62%，對(duì)于白葡萄酒來(lái)說(shuō)，在大類(lèi)別上的預(yù)測(cè)表現(xiàn)較好，在小類(lèi)別上的預(yù)測(cè)準(zhǔn)確雖然沒(méi)有大類(lèi)別上那么高，但也相對(duì)滿(mǎn)意。

7.分析與總結(jié)本文通過(guò)上述數(shù)據(jù)挖掘及統(tǒng)計(jì)分析的方法，我們可以得出以下的結(jié)論：1）PCA模型中，由于本文數(shù)據(jù)維度本來(lái)就不太高，雖然紅葡萄酒的預(yù)測(cè)精準(zhǔn)度在降維后有所提高，但提高的幅度不大，且降維后的精確度仍不足55%，而白葡萄酒在降維后，預(yù)測(cè)精確度反而降低。綜上，不推薦采用PCA降維方法進(jìn)行預(yù)測(cè)。2）從多元線性回歸模型中，可知葡萄酒的理化指標(biāo)與質(zhì)量等級(jí)之間存在一定的相關(guān)性，這些指標(biāo)可以用來(lái)實(shí)現(xiàn)對(duì)葡萄酒質(zhì)量等級(jí)的預(yù)測(cè)；其中在線性回歸中酒精(alcohol)對(duì)預(yù)測(cè)的貢獻(xiàn)程度最高。硫酸鹽具有反向貢獻(xiàn)度。大部分的理化指標(biāo)在紅葡萄酒的白葡萄酒中的影響方向一致，只有ph值和檸檬酸對(duì)于兩種葡萄酒的影響方向不一致。3）決策樹(shù)模型中，對(duì)于紅葡萄酒