第2章人工智能概述本章重點(diǎn)人工智能機(jī)器學(xué)習(xí)深度學(xué)習(xí)AI本章重點(diǎn)人工智能機(jī)器學(xué)習(xí)深度學(xué)習(xí)AI什么是人工智能？人工智能：簡(jiǎn)稱AI（ArtificialIntelligence），是指由人制造出來的機(jī)器所表現(xiàn)出來的智能。通常人工智能是指通過普通計(jì)算機(jī)程序的手段實(shí)現(xiàn)的類人智能技術(shù)。該詞同時(shí)也指研究這樣的智能系統(tǒng)是否能夠?qū)崿F(xiàn)以及如何實(shí)現(xiàn)的科學(xué)領(lǐng)域。認(rèn)知建模像人一樣思考思維法則合理地思考圖靈測(cè)試像人一樣行動(dòng)合理Agent合理地行動(dòng)合理性逼真度行為思維與推理人工智能的四類實(shí)現(xiàn)途徑人工智能發(fā)展歷程1956-2060s1960s-1970s1970s-19851985-19951995-20102011至今人工智能發(fā)展現(xiàn)狀人工智能在算法、算力和算料方面已取得重要突破，正處于從“不能用”到“可以用”的技術(shù)拐點(diǎn)，但是距離“很好用”還有諸多瓶頸。專用人工智能取得重要突破通用人工智能尚處于起步階段人工智能創(chuàng)新創(chuàng)業(yè)如火如荼創(chuàng)新生態(tài)布局成為人工智能產(chǎn)業(yè)發(fā)展的戰(zhàn)略高地人工智能的社會(huì)影響日益凸顯我國(guó)人工智能發(fā)展趨勢(shì)高度重視國(guó)家戰(zhàn)略層面國(guó)務(wù)院發(fā)布《新一代人工智能發(fā)展規(guī)劃》面向2030年的我國(guó)人工智能發(fā)展路線圖態(tài)勢(shì)喜人全球投融資規(guī)模最大的國(guó)家發(fā)表論文數(shù)量居世界第一高校紛紛成立人工智能學(xué)院差距不小在基礎(chǔ)研究、原創(chuàng)成果、頂尖人才、技術(shù)生態(tài)、基礎(chǔ)平臺(tái)、標(biāo)準(zhǔn)規(guī)范等方面距離世界領(lǐng)先水平還存在明顯差距前景看好具有市場(chǎng)規(guī)模、應(yīng)用場(chǎng)景、數(shù)據(jù)資源、人力資源、智能手機(jī)普及、資金投入、國(guó)家政策支持等多方面的綜合優(yōu)勢(shì)我國(guó)人工智能發(fā)展趨勢(shì)2020年8月4日，國(guó)家標(biāo)準(zhǔn)化管理委員會(huì)、中央網(wǎng)信辦、國(guó)家發(fā)展改革委、科技部、工業(yè)和信息化部聯(lián)合印發(fā)《國(guó)家新一代人工智能標(biāo)準(zhǔn)體系建設(shè)指南》人工智能、機(jī)器學(xué)習(xí)與深度學(xué)習(xí)機(jī)器學(xué)習(xí)：一種實(shí)現(xiàn)人工智能的主要方法深度學(xué)習(xí)：一種實(shí)現(xiàn)機(jī)器學(xué)習(xí)的熱門技術(shù)人工智能

V機(jī)器學(xué)習(xí)

V深度學(xué)習(xí)數(shù)據(jù)獲取預(yù)處理特征提取特征選擇推理/預(yù)測(cè)/識(shí)別人工特征表達(dá)樹突樹突細(xì)胞體細(xì)胞體電脈沖形成信息處理傳輸輸入輸出輸入輸出大腦“黑箱”人工神經(jīng)網(wǎng)絡(luò)“黑箱”本章重點(diǎn)人工智能機(jī)器學(xué)習(xí)深度學(xué)習(xí)AI機(jī)器學(xué)習(xí)基礎(chǔ)機(jī)器學(xué)習(xí)：對(duì)于某類任務(wù)T和性能度量P，一個(gè)計(jì)算機(jī)程序被認(rèn)為可以從經(jīng)驗(yàn)E中學(xué)習(xí)是指，通過經(jīng)驗(yàn)E改進(jìn)后，它在任務(wù)T上由性能度量P衡量的性能有所提升任務(wù)T分類：確定輸入是屬于k類中的哪一類回歸：計(jì)算輸入的預(yù)測(cè)數(shù)值異常檢測(cè)：對(duì)輸入數(shù)據(jù)進(jìn)行異常數(shù)據(jù)尋找聚類：將數(shù)據(jù)分為m個(gè)簇，簇內(nèi)具有高度相似降維：對(duì)高維數(shù)據(jù)進(jìn)行特征提取和特征減少性能度量P性能度量P是特定于系統(tǒng)執(zhí)行的任務(wù)T而言的分類：準(zhǔn)確率回歸：均方誤差…經(jīng)驗(yàn)E從訓(xùn)練數(shù)據(jù)獲取經(jīng)驗(yàn)根據(jù)學(xué)習(xí)過程中不同的經(jīng)驗(yàn)，可分為監(jiān)督學(xué)習(xí)、無監(jiān)督學(xué)習(xí)、半監(jiān)督學(xué)習(xí)、強(qiáng)化學(xué)習(xí)機(jī)器學(xué)習(xí)基礎(chǔ)機(jī)器學(xué)習(xí)三要素：模型，策略和優(yōu)化算法模型策略優(yōu)化算法學(xué)習(xí)的目的就是在模型的假設(shè)空間中選擇一個(gè)最佳的模型，即最接近真實(shí)映射的映射函數(shù)或者條件概率分布，然后再利用該模型去完成相應(yīng)的任務(wù)從假設(shè)空間中如何選擇最優(yōu)的模型的問題，即學(xué)習(xí)策略的問題對(duì)于選擇的模型的預(yù)測(cè)值與樣本真實(shí)值之間的差異，通常用損失函數(shù)或者代價(jià)函數(shù)來衡量機(jī)器學(xué)習(xí)的訓(xùn)練是一個(gè)不斷求解最優(yōu)化問題的過程最常見的優(yōu)化算法是梯度下降法機(jī)器學(xué)習(xí)基礎(chǔ)機(jī)器學(xué)習(xí)的學(xué)習(xí)方式監(jiān)督學(xué)習(xí)無監(jiān)督學(xué)習(xí)半監(jiān)督學(xué)習(xí)強(qiáng)化學(xué)習(xí)學(xué)習(xí)帶標(biāo)簽的數(shù)據(jù)，預(yù)測(cè)新數(shù)據(jù)的標(biāo)簽分類、回歸學(xué)習(xí)無標(biāo)簽數(shù)據(jù)，從數(shù)據(jù)中發(fā)現(xiàn)規(guī)律降維、聚類將未標(biāo)記數(shù)據(jù)與少量標(biāo)記數(shù)據(jù)結(jié)合使用，同時(shí)利用監(jiān)督學(xué)習(xí)的低歧義性與無監(jiān)督學(xué)習(xí)對(duì)數(shù)據(jù)結(jié)構(gòu)性特征的捕捉能力學(xué)習(xí)數(shù)據(jù)，并做出嘗試獲得反饋，得出最佳動(dòng)作正確的決定會(huì)帶來獎(jiǎng)勵(lì)，錯(cuò)誤的決定會(huì)帶來懲罰，直到最終徹底掌握問題的答案機(jī)器學(xué)習(xí)算法回歸算法試圖采用對(duì)誤差的衡量來探索變量之間的關(guān)系的一類算法基于實(shí)例的算法根據(jù)某些近似性把新數(shù)據(jù)與樣本數(shù)據(jù)進(jìn)行比較，尋找最佳的匹配機(jī)器學(xué)習(xí)算法正則化方法根據(jù)算法的復(fù)雜度對(duì)算法進(jìn)行調(diào)整。正則化方法通常對(duì)簡(jiǎn)單模型予以獎(jiǎng)勵(lì)而對(duì)復(fù)雜算法予以懲罰決策樹算法根據(jù)數(shù)據(jù)屬性采用樹狀結(jié)構(gòu)建立決策模型，其常用于解決分類和回歸問題機(jī)器學(xué)習(xí)算法貝葉斯算法基于貝葉斯定理的一類算法，主要用來解決分類和回歸問題基于核的算法基于核的算法把輸入數(shù)據(jù)映射到一個(gè)高階的向量空間，有些分類或回歸問題在高階向量空間里能夠更容易解決機(jī)器學(xué)習(xí)算法聚類算法按照中心點(diǎn)或分層的方式對(duì)輸入數(shù)據(jù)進(jìn)行歸并。試圖找到數(shù)據(jù)的內(nèi)在結(jié)構(gòu)，以便按照最大的共同點(diǎn)將數(shù)據(jù)進(jìn)行歸類關(guān)聯(lián)規(guī)則學(xué)習(xí)通過尋找最能夠解釋數(shù)據(jù)變量之間關(guān)系的規(guī)則，來找出大量多元數(shù)據(jù)集中有用的關(guān)聯(lián)規(guī)則機(jī)器學(xué)習(xí)算法人工神經(jīng)網(wǎng)絡(luò)模擬生物神經(jīng)網(wǎng)絡(luò)，是一類模式匹配算法，通常用于解決分類和回歸問題降低維度算法以非監(jiān)督學(xué)習(xí)的方式試圖利用較少的信息來歸納或者解釋數(shù)據(jù)可以用于高維數(shù)據(jù)的可視化或者用來簡(jiǎn)化數(shù)據(jù)以便監(jiān)督式學(xué)習(xí)使用機(jī)器學(xué)習(xí)算法集成算法用一些相對(duì)較弱的學(xué)習(xí)模型獨(dú)立地就同樣的樣本進(jìn)行訓(xùn)練，然后把結(jié)果整合起來進(jìn)行整體預(yù)測(cè)集成算法的主要難點(diǎn)在于究竟集成哪些獨(dú)立的較弱的學(xué)習(xí)模型以及如何把學(xué)習(xí)結(jié)果整合起來機(jī)器學(xué)習(xí)工具庫Scikit-learn本章重點(diǎn)人工智能機(jī)器學(xué)習(xí)深度學(xué)習(xí)AI深度學(xué)習(xí)算法卷積神經(jīng)網(wǎng)絡(luò)基本運(yùn)算單元包括：卷積運(yùn)算、池化運(yùn)算、全連接運(yùn)算和識(shí)別運(yùn)算權(quán)值共享網(wǎng)絡(luò)結(jié)構(gòu)降低了網(wǎng)絡(luò)模型的復(fù)雜度，減少了權(quán)值的數(shù)量卷積網(wǎng)絡(luò)是為識(shí)別二維形狀而特殊設(shè)計(jì)的一個(gè)多層感知器，對(duì)平移、比例縮放、傾斜或者其它形式的變形具有高度不變性當(dāng)前圖像識(shí)別領(lǐng)域的熱點(diǎn)算法深度學(xué)習(xí)算法循環(huán)神經(jīng)網(wǎng)絡(luò)在簡(jiǎn)單“輸入層=>隱藏層=>輸出層”的三層結(jié)構(gòu)基礎(chǔ)上多了一個(gè)閉環(huán)循環(huán)神經(jīng)網(wǎng)絡(luò)擁有記憶能力，通過W將以往的輸入狀態(tài)進(jìn)行總結(jié)，而作為下次輸入的輔助，h=f(現(xiàn)有的輸入+過去記憶總結(jié))

當(dāng)前時(shí)間序列數(shù)據(jù)分析領(lǐng)域的熱點(diǎn)算法深度學(xué)習(xí)算法生成式對(duì)抗網(wǎng)絡(luò)讓生成器G和判別器D這兩個(gè)網(wǎng)絡(luò)互相博弈，生成器從訓(xùn)練集數(shù)據(jù)中選取真實(shí)數(shù)據(jù)加入干擾噪音，產(chǎn)生新的訓(xùn)練樣本，判別器通過與真實(shí)數(shù)據(jù)進(jìn)行對(duì)比，判斷數(shù)據(jù)的真實(shí)性近年來無監(jiān)督學(xué)習(xí)中最具前景的方法之一，應(yīng)用于數(shù)據(jù)生成、圖像風(fēng)格遷移、圖像降噪修復(fù)、圖像超分辨率等領(lǐng)域深度學(xué)習(xí)框架名稱使用語言硬件支持開發(fā)者發(fā)布時(shí)間TheanoPythonCPU、GPU蒙特利爾大學(xué)2010TensorFlowC++、PythonCPU、GPUGoogle2015KerasPythonCPU、GPUFrancoisChollet2015MXNetC++、Python