人工智能基礎(chǔ)進(jìn)階篇匯報(bào)人：緣夢(mèng)素材庫(kù)foundationofartificialintelligence目錄讓人工智能更智能無(wú)監(jiān)督機(jī)器學(xué)習(xí)的方法阿爾法狗背后的秘密CONTENT讓人工智能更智能Makeartificialintelligencesmarter監(jiān)督學(xué)習(xí)需要訓(xùn)練數(shù)據(jù)的標(biāo)注信息的學(xué)習(xí)過(guò)程，就是監(jiān)督學(xué)習(xí)如：分類器從數(shù)據(jù)中學(xué)會(huì)了區(qū)分鳶尾花的品種如：對(duì)圖像、音頻和視頻的分類，都需要類別的標(biāo)注信息，都屬于監(jiān)督學(xué)習(xí)沒(méi)有類別的標(biāo)注信息供人工智能參考時(shí)，怎么辦？“計(jì)算機(jī)能不能自動(dòng)將照片整理好？”無(wú)監(jiān)督學(xué)習(xí)沒(méi)有標(biāo)注信息的學(xué)習(xí)過(guò)程無(wú)類別信息指導(dǎo)很難判斷哪一些鳶尾花是相同品種“計(jì)算機(jī)能不能自動(dòng)將照片整理好？”聚類（clustering）通過(guò)分析數(shù)據(jù)在特征空間的聚集情況，可以將一組數(shù)據(jù)分成不同的類。旨在把一群樣本分為多個(gè)集合，使得同一個(gè)集合內(nèi)的元素盡量“相似”或者“相近”是一種無(wú)監(jiān)督學(xué)習(xí)過(guò)程不需要數(shù)據(jù)的類別標(biāo)注不需要預(yù)先定義類別讓人工智能像真正的科學(xué)家一樣，自己發(fā)掘規(guī)律。問(wèn)題的提出我們希望人工智能在不知道鳶尾花品種的前提下將這N朵鳶尾花分為K類，使得同一類樣本的特征相似程度高，而不同類樣本的特征相似程度低。算法主要思路先從任意一組劃分出發(fā)，通過(guò)調(diào)整，逐步達(dá)成上述目標(biāo)算法步驟1.先計(jì)算鳶尾花的聚類中心2.針對(duì)矛盾樣本進(jìn)行調(diào)整3.K均值聚類結(jié)果4.重復(fù)第2、3步驟，直到聚類中心與劃分方式不再發(fā)生變化K均值聚類算法K-meansclusteringalgorithmUnsupervisedmachinelearningmethods無(wú)監(jiān)督機(jī)器學(xué)習(xí)的方法聚類算法示例（鳶尾花分類問(wèn)題）1.先計(jì)算鳶尾花的聚類中心2.針對(duì)矛盾樣本進(jìn)行調(diào)整3.K均值聚類結(jié)果K均值聚類算法K-meansclusteringalgorithm只要我們能對(duì)照片中的人臉提取特征，用特征空間里的特征點(diǎn)表示每一張人臉，就能使用K均值算法將“相似”的人臉聚集起來(lái)了相冊(cè)中的人臉聚類K均值聚類算法K-meansclusteringalgorithm聚類數(shù)量過(guò)大會(huì)導(dǎo)致照片劃分得過(guò)細(xì)，這樣就失去了實(shí)用性，需要在平均距離與聚類數(shù)量之間取得平衡如圖，在K=3的時(shí)候，曲線產(chǎn)生了一個(gè)明顯的拐點(diǎn)，拐點(diǎn)后隨著K的增加平均距離減少得非常慢，因此K=3是個(gè)合適的選擇。K值的確定----手肘法（elbowmethod）K均值聚類算法K-meansclusteringalgorithm潛在語(yǔ)義分析技術(shù)Latentsemanticanalysis針對(duì)文本數(shù)據(jù)“多主題”的特點(diǎn)而設(shè)計(jì)計(jì)算機(jī)可以借助該技術(shù)，從海量的文本數(shù)據(jù)中自動(dòng)發(fā)掘潛在的主題，進(jìn)而完成對(duì)文本內(nèi)容的概括和提煉相關(guān)專有名詞語(yǔ)料庫(kù)(corpus)：海量的文本數(shù)據(jù)文檔（document）：語(yǔ)料庫(kù)中的文本主題：文檔的中心思想或主要內(nèi)容主題模型與潛在語(yǔ)義分析技術(shù)TopicModelandLatentSemanticAnalysisTechnology詞袋模型

詞袋模型(bag-of-words

model)是用于描述文本的一個(gè)簡(jiǎn)單的數(shù)學(xué)模型，常用文本特征提取方式之一。詞袋模型將一篇文文件看作是一個(gè)“裝有若干詞語(yǔ)的袋子”，只考慮詞語(yǔ)在文檔中出現(xiàn)的次數(shù)，而忽略詞語(yǔ)的順序以及句子的結(jié)構(gòu)。利用詞袋模型構(gòu)建文本特征的基本流程文本的特征中文分詞詞頻特征文檔詞袋刪除停止詞與低頻詞中文分詞中文分詞詞典詞頻率—逆文檔頻率特征主題模型與潛在語(yǔ)義分析技術(shù)TopicModelandLatentSemanticAnalysisTechnology中文分詞

對(duì)中文文本進(jìn)行詞袋構(gòu)建之前，我們還需要藉助額外的手段拆分詞語(yǔ)，這項(xiàng)技術(shù)稱為中文分詞。中文分詞方法大多基于匹配和統(tǒng)計(jì)學(xué)方法。停止詞與低頻詞停止詞：是文檔常出現(xiàn)的，構(gòu)成中文句子的基本字詞，對(duì)區(qū)分不同文文件的主題沒(méi)有任何幫助（不攜帶任何主題信息的高頻詞）低頻詞：通常是一些不常用的專有名詞，只出現(xiàn)于特定的文章中(比如姓名)，不能代表某一主題。詞頻率與逆文檔頻率反映一個(gè)詞語(yǔ)對(duì)于一篇文檔的重要性的兩個(gè)指標(biāo)一個(gè)詞語(yǔ)在一篇文文件中出現(xiàn)的頻率即為詞頻率(team

frequency)借助逆文檔頻率（inversedocumentfrequency）來(lái)修正每個(gè)詞語(yǔ)在每篇文檔中的重要性文本的特征主題模型與潛在語(yǔ)義分析技術(shù)TopicModelandLatentSemanticAnalysisTechnology主題模型（topic

model）是描述語(yǔ)料庫(kù)及其中潛在主題的一類數(shù)學(xué)模型將文文檔詞頻、主題比重、主題詞頻三者的關(guān)系表示為：D

=

WT，這個(gè)等式建立了語(yǔ)料庫(kù)與潛在主題之間的關(guān)系，是主題模型的核心。通過(guò)主題模型，我們建立了語(yǔ)料庫(kù)與其中潛在主題之間的關(guān)系發(fā)掘文本中潛在的主題主題模型與潛在語(yǔ)義分析技術(shù)TopicModelandLatentSemanticAnalysisTechnology生成對(duì)抗網(wǎng)絡(luò)GenerativeAdversarialNetwork概述生成對(duì)抗網(wǎng)絡(luò)由生成網(wǎng)絡(luò)（generativenetwork）和判別網(wǎng)絡(luò)（discriminativenetwork）兩部分構(gòu)成生成網(wǎng)絡(luò)：用于生成數(shù)據(jù)判別網(wǎng)絡(luò)：用來(lái)分辨數(shù)據(jù)是真還是假generativeadversarialnetwork,GAN02由“生成”、“對(duì)抗”和“網(wǎng)路”三個(gè)詞語(yǔ)構(gòu)成。其中“生成”是指它是一個(gè)生成模型（generativemodel），即它可以隨機(jī)生成觀測(cè)數(shù)據(jù)0103基本思想：通過(guò)生成網(wǎng)絡(luò)和判別網(wǎng)絡(luò)之間的相互“對(duì)抗”來(lái)學(xué)習(xí)0504數(shù)據(jù)空間與數(shù)據(jù)分布數(shù)據(jù)空間（dataspace）是數(shù)據(jù)所在的空間假定輸入圖片的分辨率為128x128，此時(shí)的數(shù)據(jù)空間就是所有形狀為128x128x3的張量的集合。此時(shí)每張圖片都是此空間里的一個(gè)點(diǎn)（數(shù)據(jù)點(diǎn)）數(shù)據(jù)分布（datadistribution）是數(shù)據(jù)點(diǎn)在空間的分布情況生成對(duì)抗網(wǎng)絡(luò)GenerativeAdversarialNetwork分類網(wǎng)路與生成網(wǎng)路工作方式的比較生成網(wǎng)絡(luò)生成器（generator）把潛在空間中的分布變換為圖像空間中的分布（生成分布）生成網(wǎng)絡(luò)生成的點(diǎn)就叫做生成點(diǎn)生成對(duì)抗網(wǎng)絡(luò)GenerativeAdversarialNetwork例：用判別網(wǎng)絡(luò)分辨點(diǎn)的來(lái)源判別網(wǎng)絡(luò)判別器（discriminator）判斷一張圖片究竟是來(lái)自真實(shí)數(shù)據(jù)還是由生成網(wǎng)絡(luò)所生成訓(xùn)練判別網(wǎng)絡(luò)訓(xùn)練數(shù)據(jù)標(biāo)注輸入圖片來(lái)自真實(shí)數(shù)據(jù)：標(biāo)注數(shù)值1，輸入圖片來(lái)自生成網(wǎng)路：標(biāo)注數(shù)值0輸出結(jié)果用一個(gè)數(shù)值來(lái)指示空間中的一個(gè)點(diǎn)來(lái)自真實(shí)數(shù)據(jù)的可能性（概率）生成對(duì)抗網(wǎng)絡(luò)GenerativeAdversarialNetwork包含兩個(gè)交替進(jìn)行的階段固定生成網(wǎng)路，訓(xùn)練判別網(wǎng)路1.給定二分類數(shù)據(jù)集：真實(shí)圖片/隨機(jī)生成圖片2.目標(biāo)：使判別網(wǎng)路對(duì)真實(shí)圖片的預(yù)測(cè)接近1，而對(duì)生成圖片的預(yù)測(cè)接近0固定判別網(wǎng)路，訓(xùn)練生成網(wǎng)路1.生成網(wǎng)路利用判別網(wǎng)路給出的反饋訊息來(lái)調(diào)整網(wǎng)路參數(shù)2.目標(biāo)：使生成網(wǎng)路輸出更接近真實(shí)圖片的生成圖片對(duì)抗過(guò)程生成網(wǎng)絡(luò)的訓(xùn)練生成對(duì)抗網(wǎng)絡(luò)GenerativeAdversarialNetworkThesecretbehindAlphaDog阿爾法狗背后的秘密深藍(lán)vs卡斯帕羅夫阿爾法狗vs李世石強(qiáng)化學(xué)習(xí)（reinforcementlearning）功不可沒(méi)~棋類計(jì)算機(jī)程序的發(fā)展Developmentofchesscomputerprograms價(jià)值網(wǎng)絡(luò)阿爾法狗的走棋網(wǎng)絡(luò)AlphaDog'sChessNetwork01030402走棋網(wǎng)絡(luò)又被稱為策略網(wǎng)絡(luò)（policynetwork）該網(wǎng)絡(luò)接受當(dāng)前棋盤(pán)局面作為輸入，并輸出在當(dāng)前局面下選擇每個(gè)位置的落子概率。策略網(wǎng)絡(luò)監(jiān)督學(xué)習(xí)策略網(wǎng)絡(luò)強(qiáng)化學(xué)習(xí)策略網(wǎng)絡(luò)輸入局面（3000萬(wàn)樣本）深度卷積神經(jīng)網(wǎng)絡(luò)落子概率預(yù)測(cè)（s,a）s:當(dāng)前棋局局面狀態(tài)

a:人類的落子方案監(jiān)督學(xué)習(xí)決策網(wǎng)絡(luò)可以模仿人類的風(fēng)格下棋，可人類棋手的水平高低不一，并非每個(gè)樣本都是好的落子方案，網(wǎng)絡(luò)把好的壞的都學(xué)了，如何提高棋力？監(jiān)督學(xué)習(xí)策略網(wǎng)絡(luò)Supervisedlearningstrategynetwork強(qiáng)化學(xué)習(xí)的目的是找到一個(gè)最佳策略，從而使得主體發(fā)出一系列動(dòng)作后，收到的累計(jì)回報(bào)最多策略梯度的強(qiáng)化學(xué)習(xí)技術(shù)監(jiān)督學(xué)習(xí)策略網(wǎng)絡(luò)強(qiáng)化學(xué)習(xí)策略網(wǎng)絡(luò)A強(qiáng)化學(xué)習(xí)策略網(wǎng)絡(luò)B初始化自我對(duì)弈強(qiáng)化學(xué)習(xí)網(wǎng)絡(luò)在訓(xùn)練時(shí)的目標(biāo)不再是模擬人類棋手的風(fēng)格，而是以最終贏棋為目標(biāo)強(qiáng)化學(xué)習(xí)策略網(wǎng)絡(luò)ReinforcementLearningStrategyNetwork阿爾法元只以棋盤(pán)當(dāng)局作為網(wǎng)絡(luò)輸入，使用策略迭代的強(qiáng)化學(xué)習(xí)算法去更新網(wǎng)絡(luò)參數(shù)，神經(jīng)網(wǎng)絡(luò)同時(shí)預(yù)測(cè)當(dāng)前局面落子概率分布和局面勝率評(píng)估值。阿爾法元概述Alphayuanoverview阿爾法元是阿爾法狗的加強(qiáng)版，結(jié)構(gòu)更簡(jiǎn)潔，摒棄了人類棋譜的影響，完全通過(guò)自我博弈的強(qiáng)化學(xué)習(xí)算法訓(xùn)練自己，與阿爾法狗的對(duì)弈中，以100：0完勝阿爾法狗，3：0戰(zhàn)勝柯潔輸入局面阿爾法神經(jīng)網(wǎng)絡(luò)落子概率分布p局面勝率vThanks!未來(lái)已來(lái)，共同開(kāi)啟智能時(shí)代！人工智能基礎(chǔ)基礎(chǔ)篇匯報(bào)人：緣夢(mèng)素材庫(kù)OGOL在現(xiàn)代社會(huì)便利與舒適的生活背后，是一場(chǎng)正在深刻地改變?nèi)藗兩钆c社會(huì)的的科技浪潮----人工智能。十年前仍是科幻小說(shuō)里的場(chǎng)景，今天已經(jīng)成為我們真實(shí)的生活經(jīng)歷。在人工智能浪潮的驅(qū)動(dòng)下，十年之后我們會(huì)生活在什么樣的世界里面呢？人工智能發(fā)展簡(jiǎn)史前言目錄“智能+”的未來(lái)01人工智能的出現(xiàn)及發(fā)展02人工智能概述03“智能+”的未來(lái)01什么是智能?幫你算數(shù)學(xué)?幫你洗衣服?幫你…人工智能學(xué)家or數(shù)學(xué)家、物理學(xué)家、科學(xué)家跟我們想的是一樣的嗎?知識(shí)的表達(dá)與推理

智慧

是一種計(jì)算過(guò)程?家庭城市汽車…….智能+未來(lái)其實(shí)，廣義的人工智能，或是人工智能，是很復(fù)雜的Ex:知識(shí)定義、知識(shí)表達(dá)、知識(shí)推理什么是人工智能？人工智能的出現(xiàn)

及發(fā)展02人工智能的橫空出世1950年，艾倫?圖靈（AlanTuring）在他的論文中提出了著名的“圖靈測(cè)試”（Turing

Test）被廣泛認(rèn)為是測(cè)試機(jī)器智能的重要標(biāo)準(zhǔn)。圖靈測(cè)試圖靈測(cè)試：一位人類測(cè)試員會(huì)通過(guò)文字與密室里的一臺(tái)機(jī)器和一個(gè)人對(duì)話。如果測(cè)試員無(wú)法分辨與之對(duì)話的兩個(gè)實(shí)體誰(shuí)是人誰(shuí)是機(jī)器，參與對(duì)話的機(jī)器就被認(rèn)為通過(guò)圖靈測(cè)試。1951年，研究生馬文?閔斯基（Marvin

Minsky）建立了世界上第一個(gè)神經(jīng)網(wǎng)路機(jī)器SNARC（Stochastic

Neural

Analog

Reinforcement

Calculator）。人們第一次模擬了神經(jīng)信號(hào)的傳遞，為人工智能奠定了深遠(yuǎn)的基礎(chǔ)。1955年，艾倫?紐厄爾（AlanNewell）、赫伯特?西蒙（HerbertSimon）和克里夫?肖（CliffShaw）建立了“邏輯理論家”計(jì)算機(jī)程序來(lái)模擬人類解決問(wèn)題的技能，此項(xiàng)工作開(kāi)創(chuàng)了一種日后被廣泛應(yīng)用的方法：搜索推理（reasoning）。1956年，閔斯基、約翰?麥卡錫（JohnMcCarthy）、克勞的?香農(nóng)（ClaudeShannon）和納撒尼爾?羅切斯特（NathanRochester）在達(dá)特茅斯學(xué)院組織了一次會(huì)議，此會(huì)議宣告了“人工智能”作為一門(mén)新學(xué)科的誕生。人工智能的橫空出世70年代中期，人工智能還是難以滿足社會(huì)對(duì)這個(gè)領(lǐng)域不切實(shí)際的期待，因此進(jìn)入了第一個(gè)冬天。1963年，美國(guó)高等研究計(jì)劃局投入兩百萬(wàn)美元給麻省理工學(xué)院，培養(yǎng)了早期的計(jì)算機(jī)科學(xué)和人工智能人才。1964-1966年，約瑟夫?維森鮑姆（Joseph

Weizenbaum）教授建立了世界上第一個(gè)自然語(yǔ)言對(duì)話程序ELIZA，可以通過(guò)簡(jiǎn)單的模式匹配和對(duì)話規(guī)則與人聊天。人工智能的第一次浪潮（1956-1974）80年代，由于專家系統(tǒng)和人工神經(jīng)網(wǎng)絡(luò)的新進(jìn)展，人工智能浪潮再度興起。1980年，卡耐基梅隆大學(xué)為迪吉多公司開(kāi)發(fā)了一套名為XCON的專家系統(tǒng)，這套系統(tǒng)當(dāng)時(shí)每年可為迪吉多公司節(jié)省4000萬(wàn)美元。XCON的巨大價(jià)值激發(fā)了工業(yè)界對(duì)人工智能尤其專家系統(tǒng)的熱情。1982年，約翰?霍普菲爾德提出了一種新型的網(wǎng)絡(luò)形式，即霍普菲爾德神經(jīng)網(wǎng)絡(luò)，其中引入了相關(guān)存儲(chǔ)（associative

memory）的機(jī)制。1986年，《通過(guò)誤差反向傳播學(xué)習(xí)表示》論文的發(fā)表，使反向傳播算法被廣泛用于人工神經(jīng)網(wǎng)絡(luò)的訓(xùn)練。80年代后期，由于專家系統(tǒng)開(kāi)發(fā)與維護(hù)的成本高昂，而商業(yè)價(jià)值有限，人工智能的發(fā)展再度步入冬天。人工智能的第二次浪潮（1980-1987）21世紀(jì)，人類邁入了“大數(shù)據(jù)”時(shí)代，此時(shí)電腦芯片的計(jì)算能力高速增長(zhǎng)，人工智能算法也因此取得重大突破。研究人工智能的學(xué)者開(kāi)始引入不同學(xué)科的數(shù)學(xué)工具，為人工智能打造更堅(jiān)實(shí)的數(shù)學(xué)基礎(chǔ)。在數(shù)學(xué)的驅(qū)動(dòng)下，一大批新的數(shù)學(xué)模型和算法被發(fā)展起來(lái)，逐步被應(yīng)用于解決實(shí)際問(wèn)題，讓科學(xué)家看到了人工智能再度興起的曙光。2012年全球的圖像識(shí)別算法競(jìng)賽ILSVRC（或稱ImageNet挑戰(zhàn)賽）中，多倫多大學(xué)開(kāi)發(fā)的多層神經(jīng)網(wǎng)絡(luò)Alex

Net取得了冠，且大幅超越傳統(tǒng)算法的亞軍，引起了人工智能學(xué)界的震動(dòng)。從此，多層神經(jīng)網(wǎng)絡(luò)為基礎(chǔ)的深度學(xué)習(xí)被推廣到多個(gè)應(yīng)用領(lǐng)域。2016年谷歌通過(guò)深度學(xué)習(xí)訓(xùn)練的阿爾法狗（AlphaGo）程序戰(zhàn)勝圍棋世界冠軍李世石。人工智能的第三次浪潮（2011-現(xiàn)在）人工智能概述03人工智能是通過(guò)機(jī)器來(lái)模擬人類認(rèn)知能力的技術(shù)。人工智能的核心能力：根據(jù)給定的輸入作出判斷或預(yù)測(cè)。人臉識(shí)別：根據(jù)輸入的照片，判斷照片的人是誰(shuí)。語(yǔ)音識(shí)別：根據(jù)人說(shuō)話的音頻信號(hào)，判斷說(shuō)話內(nèi)容。醫(yī)療診斷：根據(jù)輸入的醫(yī)療影像，判斷疾病的成因和性質(zhì)。電子商務(wù)：根據(jù)用戶的購(gòu)買記錄，預(yù)測(cè)他對(duì)什么商品感興趣，而作出相應(yīng)推薦。金融應(yīng)用：根據(jù)一支股票過(guò)去的價(jià)格和交易信息，判斷它未來(lái)的價(jià)格走勢(shì)。人工智能的定義安防智能視頻分析技術(shù)可以代替民警做很多事情實(shí)時(shí)從視頻中檢測(cè)出人和車輛自動(dòng)找到視頻中異常的行為，并及時(shí)發(fā)出帶有具體地點(diǎn)方位信息的警報(bào)自動(dòng)判斷人群的密度和人流的方向，提前發(fā)現(xiàn)過(guò)密人群帶來(lái)的潛在危險(xiǎn)，幫助工作人員引導(dǎo)和管理人流。人工智能的應(yīng)用醫(yī)療為解決“看病難”的問(wèn)題提供了新的思路。對(duì)醫(yī)學(xué)影像進(jìn)行自動(dòng)分析技術(shù)的研究和應(yīng)用，可以為醫(yī)生診斷提供參考信息，有效的減少誤診和漏診。有些新技術(shù)還能通過(guò)多張醫(yī)療影像建出人體器官的三維模型，確保醫(yī)生手術(shù)更加精準(zhǔn)。0102人工智能的應(yīng)用01隨著互聯(lián)網(wǎng)和電子商務(wù)的發(fā)展，我們和商