第1章人工智能概述——趙克玲本章目標了解人工智能的定義、起源和發(fā)展

掌握人工智能產(chǎn)業(yè)鏈框架體系

掌握人工智能的核心技術(shù)體系

理解我國大力發(fā)展人工智能的戰(zhàn)略意義了解人工智能產(chǎn)業(yè)發(fā)展以及在各行各業(yè)的應(yīng)用

1.1.1人工智能的定義

人工智能，是模擬實現(xiàn)人的抽象思維和智能行為的技術(shù)，即通過利用計算機軟件模擬人類特有的大腦抽象思維能力和智能行為，如學(xué)習、思考、判斷、推理等，以完成原本需要人的智力才可勝任的工作。人工智能的發(fā)展1.1.2人工智能起源和發(fā)展

人工智能發(fā)展的三次熱潮（1）第一次熱潮：圖靈測試（2）第二次熱潮：語音識別（3）第三次熱潮：深度學(xué)習圖靈測試圖靈發(fā)表了一篇名為《計算機和智能》的論文提出了著名的“圖靈測試”，贏得了“人工智能之父”的稱號。AI三次熱潮人工智能發(fā)展的三個階段技術(shù)驅(qū)動階段數(shù)據(jù)驅(qū)動階段場景驅(qū)動階段1.2人工智能產(chǎn)業(yè)框架體系

1.基礎(chǔ)層基礎(chǔ)層主要包括智能傳感器、智能芯片、算法模型智能傳感器和智能芯片屬于基礎(chǔ)硬件，算法模型屬于核心軟件。2.技術(shù)層技術(shù)層主要包括語音識別、圖像視頻識別、文本識別等產(chǎn)業(yè)語音識別已經(jīng)延展到語義識別層面，圖像視頻識別包括人臉識別、手勢識別、指紋識別等領(lǐng)域，文本識別主要針對印刷、手寫及圖像拍攝等各種字符進行辨識。3.應(yīng)用層指人工智能技術(shù)在傳統(tǒng)產(chǎn)業(yè)和社會建設(shè)中的應(yīng)用。機器人無人駕駛智慧城市1.3人工智能的核心技術(shù)1.4人工智能的意義及挑戰(zhàn)人工智能是引領(lǐng)未來的戰(zhàn)略性技術(shù)人工智能是開啟未來智能世界的密匙是未來科技發(fā)展的戰(zhàn)略制高點是推動人類社會變革的第四次工業(yè)革命誰掌握人工智能，誰就將成為未來核心技術(shù)的掌控者。國家領(lǐng)導(dǎo)人習近平總書記重要講話國家政策十九大以來，人工智能的國家戰(zhàn)略地位逐步確立，成為經(jīng)濟發(fā)展的重要主題。2017年7月，國務(wù)院印發(fā)了《新一代人工智能發(fā)展規(guī)劃》2019年8月，科技部印發(fā)了《國家新一代人工智能開放創(chuàng)新平臺建設(shè)工作指引》2020年7月，五部門印發(fā)《國家新一代人工智能標準體系建設(shè)指南》2024年6月，四部門印發(fā)《國家人工智能產(chǎn)業(yè)綜合標準化體系建設(shè)指南（2024版）》國家新一代人工智能開放創(chuàng)新平臺基礎(chǔ)軟硬件領(lǐng)域的華為智能供應(yīng)鏈領(lǐng)域的京東圖像感知領(lǐng)域的曠視科技安全大腦領(lǐng)域的360奇虎科技智慧教育領(lǐng)域的好未來AI芯片領(lǐng)域的寒武紀智能家居領(lǐng)域的小米以及新一代類腦人工智能公共算力開放創(chuàng)新平臺依托廣東省智能科學(xué)與技術(shù)研究院。自動駕駛領(lǐng)域的百度城市大腦領(lǐng)域的阿里云醫(yī)療影像領(lǐng)域的騰訊智能語音領(lǐng)域的科大訊飛智能視覺領(lǐng)域的商湯集團視覺計算領(lǐng)域的依圖科技智能營銷領(lǐng)

域的明略科技普惠金融領(lǐng)域的中國平安視頻感知領(lǐng)域的?？低暣罅Πl(fā)展人工智能的意義1.人工智能大幅提高勞動生產(chǎn)率2.人工智能引領(lǐng)“第四次工業(yè)革命”3.人工智能沖擊勞動力市場4.正視科技變革帶來的挑戰(zhàn)1.4.2人工智能發(fā)展趨勢1.人工智能成為全球經(jīng)濟增長的助推器2.深度學(xué)習和AI芯片仍將是技術(shù)突破的關(guān)鍵3.人工智能行業(yè)應(yīng)用廣度和深度將不斷擴展4.建立可信人工智能將成為行業(yè)發(fā)展的重要考量1.4.3人工智能的沖擊與挑戰(zhàn)1.對就業(yè)的沖擊2.對法律制度的沖擊3.對安全性的沖擊4.對倫理道德的沖擊本章總結(jié)人工智能（ArtificialIntelligence，AI）是模擬實現(xiàn)人的抽象思維和智能行為的技術(shù)

人工智能在70多年的發(fā)展歷程中共經(jīng)歷了三次熱潮第一次熱潮：圖靈測試第二次熱潮：語音識別第三次熱潮：深度學(xué)習人工智能產(chǎn)業(yè)鏈框架可以分為基礎(chǔ)層、技術(shù)層、應(yīng)用層和保障層核心技術(shù)可以分為基礎(chǔ)技術(shù)、通用技術(shù)、應(yīng)用技術(shù)三個層面人工智能是推動人類社會變革的第四次工業(yè)革命第2章Python基礎(chǔ)——趙克玲本章目標理解程序設(shè)計的基本思想掌握Python語言的基礎(chǔ)語法熟練使用Python官方IDLE的使用掌握JupyterNotebook的使用掌握序列和字典掌握流程控制語句掌握函數(shù)和模塊的定義掌握文件的讀寫操作Python簡介Python是一種面向?qū)ο蟮慕忉屝陀嬎銠C腳本（Shell）語言Python的創(chuàng)始人是GuidovanRossum（吉多·范羅蘇姆）Python英文翻譯為“蟒蛇”的意思Python語言的Logo圖標是兩條蟒蛇Python語言的擁有者是PSF（PythonSoftwareFoundation，Python軟件基金會協(xié)議），PSF是非盈利組織，致力于保護Python語言開放、開源和發(fā)展Python語言的版本更迭2000年，Python2.x2008年，Python3.x更高級別的3.0系列不兼容早期2.0系列2008年至今，版本更迭帶來大量庫函數(shù)的升級替換，Python語言的版本更迭痛苦且漫長到今天，Python3.x系列已經(jīng)成為主流Python語言特點Python語言是通用語言Python語言是腳本語言Python語言是開源語言

Python語言是跨平臺語言Python語言是一種少有的既簡單又功能強大的編程語言，注重如何解決問題而不是語言的語法和結(jié)構(gòu)Python可被應(yīng)用于下面的領(lǐng)域Web和Internet開發(fā)科學(xué)計算和統(tǒng)計人工智能編程教育桌面界面開發(fā)軟件開發(fā)后端開發(fā)Python程序程序是是一組計算機能識別和執(zhí)行的指令集程序的基本組成：輸入：從鍵盤、文件或其他裝置獲取數(shù)據(jù)，如input('請輸入一個整數(shù)：')；輸出：在屏幕上顯示數(shù)據(jù)，或者是將數(shù)據(jù)保存到文件或其他裝置中，如print('猜對了！')；處理：處理過程有數(shù)學(xué)運算、條件判斷、循環(huán)等，例如執(zhí)行加法和乘法等基本的數(shù)學(xué)運算；檢查特定條件、判斷并執(zhí)行適當?shù)年愂鲂蛄校谎h(huán)反復(fù)執(zhí)行某些操作。九九乘法表下面是一段Python語言編寫的程序，其功能是打印乘法表?？梢钥闯觯琍ython語言語法簡潔、結(jié)構(gòu)清晰。使用JupyterNotebook程序里有三類可能發(fā)生的錯誤：語法錯誤執(zhí)行錯誤語意錯誤調(diào)試程序注釋對于程序來說是必不可少的，其有助于幫助開發(fā)人員了解代碼的含義、模塊的工作過程，有利于提高開發(fā)速度。單行注釋多行注釋注釋

Python中的代碼縮進是必要的！不僅僅是為了代碼更容易閱讀，同時也是語法需要。代碼縮進在程序設(shè)計語言中，標識符是一個被允許作為名字的有效字符串。Python中變量、函數(shù)、類、模塊等的命名都要遵循標識符的相關(guān)規(guī)定。Python中對標識符的規(guī)定如下：標識符可以由字母、數(shù)字和下劃線組成，但不能以數(shù)字開頭標識符區(qū)分大小寫不能使用Python的保留字做標識符以下劃線開頭的標識符具有特殊意義標識符anddelfromnotwhileaselifglobalorwithassertelseifpassyieldbreakexceptimportprintTrueclassexecinraiseFalsecontinuefinallyisreturndefforlambdatry標識符的命名-關(guān)鍵字變量來源于數(shù)學(xué)，是計算機語言中能儲存計算結(jié)果或能表示值抽象概念。變量可以通過變量名訪問。變量通常是可變的，但也有可能是不可變的。變量X變量內(nèi)存空間12345Hello，Python！變量名變量的命名必須嚴格遵守標識符的規(guī)定，命名風格統(tǒng)一，做到見名知意。幾種常見的命名規(guī)則：大駝峰（uppercamelcase）小駝峰（lowercamelcase）下劃線（_）分隔變量賦值單變量賦值，即把一個值賦值給一個變量。多變量賦同一個值，即把一個值賦值給多個變量。多變量賦多個值，即把多個值賦值給多個變量。在Python中，定義變量不需要指定類型。

所謂“類型”是變量所指的內(nèi)存中對象的類型。Python中有兩種基礎(chǔ)數(shù)據(jù)類型：數(shù)字和字符串，此外還有序列、映射等?；A(chǔ)數(shù)據(jù)類型

Python支持int、float、bool、complex（復(fù)數(shù)），也可以使用二進制、八進制、十六進制表示整數(shù)。數(shù)字（Number）字符串可以理解為是若干字符組成的文本。Python中可以使用單引號（’）、雙引號（”）和三引號（’’’）來表示字符串。字符串（String）對字符串操作很多時候會用到字符串索引。所謂索引，即字符在字符串中的位置。字符串（String）利用索引，字符串可以完成獲取指定位置的字符、字符串切片、字符串拼接、字符串格式化等操作。這些操作都用到了方括號（[]）。獲取指定位置的字符。如，str[3]獲取字符串中的第4個字符。字符串切片。如，str[3:9]獲取字符串中從第4個字符開始到第10個（但不包括）字符結(jié)束的子字符串。字符串拼接。如，str1+str2會產(chǎn)生由這兩個字符串組成的新字符串。字符串格式化。如，print(“%04d”%12)會輸出0012，即在整數(shù)左側(cè)補0湊足4位。字符串（String）字符串（String）符號描述%c格式化字符及其ASCII碼%s格式化字符串%d格式化整數(shù)%u格式化無符號整型%o格式化無符號八進制數(shù)%x格式化無符號十六進制數(shù)%X格式化無符號十六進制數(shù)（大寫）%f格式化浮點數(shù)字，可指定小數(shù)點后的精度%e用科學(xué)計數(shù)法格式化浮點數(shù)%E作用同%e，用科學(xué)計數(shù)法格式化浮點數(shù)%g%f和%e的簡寫%G%F和%E的簡寫%p用十六進制數(shù)格式化變量的地址字符串（String）符號描述*定義寬度或者小數(shù)點精度-用做左對齊+在正數(shù)前面顯示加號(+)<sp>在正數(shù)前面顯示空格#在八進制數(shù)前面顯示零('0')，在十六進制前面顯示'0x'或者'0X'(取決于用的是'x'還是'X')0顯示的數(shù)字前面填充'0'而不是默認的空格%'%%'輸出一個單一的'%'(var)映射變量(字典參數(shù))m.n.m是顯示的最小總寬度,n是小數(shù)點后的位數(shù)(如果可用的話)算術(shù)運算符運算符運算規(guī)則實例+加，表示兩個對象相加5+7輸出結(jié)果12-減，表示得到負數(shù)或是一個數(shù)減去另一個數(shù)5-7輸出結(jié)果-2*乘，表示兩個數(shù)相乘或是返回一個被重復(fù)若干次的字符串5*7輸出結(jié)果35/除，表示兩個數(shù)相除7/5輸出結(jié)果1.4%取模，得到兩個數(shù)相除的余數(shù)7%5輸出結(jié)果2**冪，得到a的n次冪5**2輸出結(jié)果25//取整除，得到商的整數(shù)部分（向下取整）5//2輸出結(jié)果1比較（關(guān)系）運算符運算符運算規(guī)則實例==等于，判斷對象是否相等(5==5)返回True(5==4)返回False!=不等于，判斷兩個對象是否不相等(5!=5)返回False(5!=4)返回True>

大于，判斷一個對象是否大于另一個對象(5>4)返回True<

小于，判斷一個對象是否小于另一個對象。(5<4)返回False>=大于等于，判斷一個對象是否大于等于另一個對象，或者說，判斷一個對象是否不小于另一個對象。('123'>='1234')返回False<=小于等于，判斷一個對象是否小于等于另一個對象，或者說，判斷一個對象是否不大于另一個對象。('123'<='abc')返回True賦值運算符運算符運算規(guī)則實例=賦值運算符，將等號右側(cè)的值賦給左側(cè)的對象c=a+b將a+b的運算結(jié)果賦值為c+=加法賦值運算符c+=a等效于c=c+a-=減法賦值運算符c-=a等效于c=c-a*=乘法賦值運算符c*=a等效于c=c*a/=除法賦值運算符c/=a等效于c=c/a%=取模賦值運算符c%=a等效于c=c%a**=冪賦值運算符c**=a等效于c=c**a//=取整除賦值運算符c//=a等效于c=c//a邏輯運算符運算符運算規(guī)則實例and布爾“與”，xandy，當x為False，返回False，否則返回y的計算值20and30，返回30or布爾“或”，xory，當x為True，返回True，否則返回y的計算值20or30，返回20not布爾“非”，notx，如果x為True，返回False，如果x為False，它返回True。not20，返回Falsenot0，返回True運算符優(yōu)先級運算符運算規(guī)則**指數(shù)(最高優(yōu)先級)*、/、%、//乘，除，取模和取整除+、-加法減法<=、<>、>=比較運算符==、!=等于運算符=、%=、/=、//=、-=、+=、*=、**=賦值運算符notandor邏輯運算符表達式表達式是運算符和操作數(shù)所構(gòu)成的序列，其結(jié)果是一個Python對象。單獨的一個值是一個表達式，單獨的變量也是一個表達式Python中還有三元表達式。例如：a=3b=5c=aifa>belseb三元表達式還可以寫成下面的形式（字典和元組在下節(jié)會詳細介紹）。c={True:a,False:b}[a>b]c=(a,b)[a>b]序列及其通用操作

Python中最基本的數(shù)據(jù)結(jié)構(gòu)是序列，序列中每個元素被分配一個序號，即索引。序列中常見的兩種類型是：列表和元組。列表和元組的操作方法類似，主要區(qū)別在于列表是可以修改的，而元組是不能修改的。也就是說，如果要根據(jù)要求來添加、刪除元素，那么列表可能會更好用；而出于某些原因，不想讓序列發(fā)生改變時，使用元組則更為合適。所有序列類型都可以進行某些特定的操作，包括：索引、切片、加、乘以及檢查某個元素是否在序列中存在。此外，Python還提供了計算序列長度、找出最大元素和最小元素的內(nèi)建函數(shù)。列表和元組的聲明在Python中，列表使用中括號（[]）聲明，元組使用小括號（()）聲明。person1是列表，person2是元組，序列中的每個元素之間使用逗號（,）進行分隔。出于某些原因，可能會創(chuàng)建空列表或空元組。利用索引訪問元素序列中的每一個元素都可以用其索引（或負索引）來訪問。切片（獲取部分元素）與字符串切片操作類型，序列也可以進行切片操作。切片是通過冒號（:）隔開的兩個索引來實現(xiàn)。序列加法、乘法（產(chǎn)生新序列）序列加法，即將兩個序列合并為一個新序列。使用的加號（+）運算符。用數(shù)字（n）乘以一個序列會生成新序列，在新序列中，原序列的將被重復(fù)n次。檢查元素是否存在為了檢查一個值是否在序列中存在，可以使用in運算符（成員運算符）。這個運算符檢查某個條件是否為真，然后返回相應(yīng)的值：條件為真返回True，條件為假返回False。元素賦值使用索引和賦值運算符即可為列表中的元素賦值。刪除元素使用del語句即可從列表中刪除指定的元素。切片賦值切片賦值=切片+賦值。切片賦值意味著可以一次給列表中的多個元素賦值。列表方法

方法是一個與某些對象有緊密聯(lián)系的函數(shù)，對象可能是列表、數(shù)字，也可能是或者其它類型的對象。一般來說，方法可以這樣調(diào)用：

對象.方法(參數(shù))（1）append()

（6）pop()（2）count()

（7）remove()（3）extend()

（8）reverse()（4）index()

（9）sort()（5）insert()列表和元組的相互轉(zhuǎn)化列表和元組之間可以相互轉(zhuǎn)化?？梢允褂胻uple函數(shù)，將列表轉(zhuǎn)化為元組，也可以使用list函數(shù)，將元組轉(zhuǎn)化為列表。字典另一個非常有用的Python數(shù)據(jù)結(jié)構(gòu)是字典。序列是以連續(xù)的整數(shù)為索引，與此不同的是，字典以關(guān)鍵字為索引，關(guān)鍵字可以是任意不可變類型，通常用字符串或數(shù)值。如果元組中只包含字符串和數(shù)字，它也可以作為關(guān)鍵字。理解字典的最佳方式是把它看作無序的鍵值對（key-value）集合，鍵必須是互不相同的（在同一個字典之內(nèi)）。創(chuàng)建字典字典是有多個鍵及與其對應(yīng)的值構(gòu)成的鍵值對組成的。每個鍵和它的值之間用冒號（:）分隔，鍵值對之間用逗號（,）隔開。使用大括號（{}）來創(chuàng)建字典。也可以使用dict函數(shù)來創(chuàng)建字典。字典的基本操作字典方法：（1）clear()（2）copy()（3）fromKeys()（4）get()（5）items()、keys()、values()（6）pop()和popitem()（7）update()流程控制語句常用的流程控制語句有：條件語句（if）循環(huán)語句（while）條件語句條件語句可以讓程序可以選擇是否執(zhí)行某些語句塊。單分支：if語句雙分支：if…else語句多分支：if…elif…else語句if語句

if語句可以實現(xiàn)條件執(zhí)行。即如果條件為真，那么后面的語句塊就會被執(zhí)行。如果條件為假，語句塊就不會被執(zhí)行。if語句的基本形式：

if判斷條件:

執(zhí)行語句If_else語句句

else子句作為if語句的一部分，用來處理判斷條件不正確的情況。

if判斷條件:

執(zhí)行語句else:

執(zhí)行語句2elif子句當判斷條件為多個值時，可以elif子句，它是elseif的縮寫。其形式如下：

if判斷條件1:

執(zhí)行語句1elif判斷條件2:

執(zhí)行語句2elif判斷條件3:

執(zhí)行語句3else:

執(zhí)行語句4循環(huán)語句循環(huán)語句的作用是讓程序重復(fù)執(zhí)行多次。正如猜數(shù)字的小游戲，如果用戶沒有猜中正確的數(shù)字，程序就會不停的運行。while語句在判斷條件為真的情況下，循環(huán)執(zhí)行while后面的語句塊，以處理需要重復(fù)處理的相同任務(wù)。其執(zhí)行過程可以用下圖描述。

while循環(huán)的基本結(jié)構(gòu)如下：

while判斷條件：執(zhí)行語句for語句

while循環(huán)非常靈活，它可以用來在任何條件為真的情況下重復(fù)執(zhí)行一個代碼塊。一般情況下這樣可以了，但對于序列、映射這樣的數(shù)據(jù)結(jié)構(gòu)（可迭代，即可按照一定次序訪問的對象），for循環(huán)更為合適。for循環(huán)的基本結(jié)構(gòu)如下：

forloop_variable

in集合:

執(zhí)行語句跳出循環(huán)一般來說，循環(huán)會一直執(zhí)行到條件為假或者序列元素用完時結(jié)束。但有些時候，可能會提前中斷一次循環(huán)繼續(xù)進行下一輪循環(huán)，或者就此跳出循環(huán)。break語句

break語句用來跳出（結(jié)束）循環(huán)。continue語句

continue語句用來結(jié)束本次循環(huán)繼續(xù)下一次循環(huán)，而非像break語句那樣直接結(jié)束循環(huán)。函數(shù)與模塊到目前為止所編寫的程序都比較短小，如果想編寫大型程序，很快就會遇到麻煩。比如，已經(jīng)編寫了一段比較復(fù)雜的代碼（從中國天氣網(wǎng)獲取當前的氣象數(shù)據(jù)），如果程序的多個地方都需要用到這些代碼，該怎么辦呢？重寫一遍？復(fù)制一遍？

真正的程序員是不會這么做的，因為他們都很“懶”。函數(shù)函數(shù)是組織好的、可重復(fù)使用的、用來實現(xiàn)單一或相關(guān)聯(lián)功能的程序塊，它可以將一些數(shù)據(jù)（參數(shù)）傳遞進程序塊進行處理，然后返回一些數(shù)據(jù)（返回值）。當然，也可以只處理數(shù)據(jù)不返回結(jié)果。

函數(shù)實現(xiàn)了對程序邏輯功能的封裝，是程序邏輯的結(jié)構(gòu)化、過程化的一種方法。

例如，當獲取用戶輸入時，可以使用input函數(shù)，計算列表長度時，可以使用len函數(shù)，這些都是Python的內(nèi)建函數(shù)。

由用戶自己創(chuàng)建的函數(shù)被稱為用戶自定義函數(shù)。函數(shù)：定義函數(shù)定義函數(shù)的語法如下：deffunction_name(parameters):"函數(shù)_文檔字符串"function_suitereturn[expression]函數(shù)：定義函數(shù)定義函數(shù)的規(guī)則：函數(shù)使用def關(guān)鍵聲明，后面是合法的函數(shù)名以及參數(shù)列表；參數(shù)列表可以包含多個參數(shù)，用逗號（,）分隔；函數(shù)內(nèi)容代碼塊要有縮進；函數(shù)內(nèi)容代碼塊的第一行字符串被稱為文檔字符串；函數(shù)利用return語句返回值，不帶表達式的return語句返回None。函數(shù)：調(diào)用函數(shù)當再需要計算階乘的時候，就可以像下面這樣調(diào)用函數(shù)：函數(shù)：遞歸（在函數(shù)內(nèi)調(diào)用函數(shù)自己）仔細分析階乘的算法，可以發(fā)現(xiàn)：n!=n×(n–1)!。那fact函數(shù)就可以做如下的修改：函數(shù)參數(shù)很多時候需要像函數(shù)傳遞數(shù)據(jù)（參數(shù)）進行處理，函數(shù)fact中的n就是一個參數(shù)。

參數(shù)可有可無、可多可少，取決于具體的問題。

當參數(shù)較多時，給每個參數(shù)賦予有意義的名字就顯得尤為重要了。函數(shù)參數(shù)目前看到的函數(shù)調(diào)用，都是根據(jù)參數(shù)的位置來傳遞參數(shù)的，這叫做位置參數(shù)。

實際上，很多時候，參數(shù)的名字更加重要，特別是在參數(shù)較多、參數(shù)有默認值的情況下。

通過使用參數(shù)名提供的參數(shù)被稱為關(guān)鍵字參數(shù)。模塊Python模塊（Module），是一個Python文件，以.py結(jié)尾，包含了Python對象定義和Python語句。模塊幫助程序員有邏輯地組織Python代碼。模塊可以被其它Python程序?qū)?，以使用該模塊中的對象、函數(shù)等提高開發(fā)效率。導(dǎo)入整個模塊

5的平方根怎么計算？sin(60)的值是多少？Pythonmath模塊提供了許多數(shù)學(xué)運算函數(shù)。要使用該模塊中的函數(shù)，首先要導(dǎo)入模塊。import語句用來導(dǎo)入模塊。模塊：導(dǎo)入函數(shù)也可以根據(jù)實際需要導(dǎo)入模塊中一個或幾個函數(shù)。模塊：指定別名如果導(dǎo)入的模塊、函數(shù)與當前程序中的函數(shù)發(fā)生名稱沖突，或者模塊、函數(shù)名字太長影響使用，可以使用as語句給模塊、函數(shù)指定別名。文件文件是指記錄在存儲介質(zhì)上的一組相關(guān)信息的集合。在Windows操作系統(tǒng)下，文件名由文件主名和擴展名組成。例如：readme.txt作為文件名時，readme是文件主名，.txt是文件擴展名，通常文件擴展名與某個應(yīng)用程序關(guān)聯(lián)在一起，即雙擊這個文件時，使用關(guān)聯(lián)的應(yīng)用程序打開這個文件。文件打開文件

Python內(nèi)置了讀寫文件的函數(shù)，open函數(shù)用來打開文件。關(guān)閉文件一定要記得，“打開文件操作完成之后要關(guān)閉文件”。使用close方法關(guān)閉當前打開的文件。如果不及時關(guān)閉文件，可能會導(dǎo)致該文件無法被其它程序訪問。讀取文件內(nèi)容文件的read方法用來讀取一定字節(jié)的數(shù)據(jù)。讀取文件內(nèi)容也可以使用readline以行為單位讀取文件內(nèi)容。讀取文件全部內(nèi)容如果文件內(nèi)容不是特別大，也可以一次性讀取文件的全部內(nèi)容。如果省略了read方法中的參數(shù)，則會讀取文檔中的全部內(nèi)容，或者使用readlines方法。將內(nèi)容寫入文件與read和readline方法相反，write和writelines方法則用于向文件中寫入數(shù)據(jù)。本章總結(jié)Python是一種面向?qū)ο蟮慕忉屝陀嬎銠C腳本（Shell）語言Python的創(chuàng)始人是GuidovanRossum（吉多·范羅蘇姆）Python語言的擁有者是PSF（PythonSoftwareFoundation，Python軟件基金會協(xié)議）Python語言是通用的腳本語言，也是開源的、跨平臺語言程序通常由輸入、處理和輸出三部分組成Python是以縮進來組織代碼的層次結(jié)構(gòu)，一個縮進4個空格Python內(nèi)置了讀寫文件的函數(shù)，open()用來打開文件，close()關(guān)閉文件本章總結(jié)標識符可以由字母、數(shù)字和下劃線組成，但不能以數(shù)字開頭Python數(shù)字類型支持int、float、bool、complex（復(fù)數(shù)）Python中可以使用單引號（’）、雙引號（”）和三引號（’’’）來表示字符串在Python中，列表使用中括號（[]）聲明，元組使用小括號（()）聲明，字典使用大括號（{}）聲明常用的流程控制語句有：條件語句（if）、循環(huán)語句（for、while）函數(shù)使用def關(guān)鍵聲明，后面是合法的函數(shù)名以及參數(shù)列表import語句用來導(dǎo)入模塊第3章機器學(xué)習——趙克玲本章目標了解機器學(xué)習的發(fā)展歷史了解機器學(xué)習的應(yīng)用領(lǐng)域掌握機器學(xué)習的基本術(shù)語和概念掌握機器學(xué)習的基本流什么是機器學(xué)習機器學(xué)習（ML，machineLearning）是人工智能的核心和一個分支，是讓機器自己做主，而不是我們告訴計算機具體干什么干什么，我們只告訴計算機，做成什么樣子“自己看著辦”，計算機你自己需要能學(xué)會"察言觀色"，到時候給我滿意的解決方案就OK了。設(shè)計和分析一些讓計算機可以自動“學(xué)習”的算法，它從數(shù)據(jù)中自動分析獲得規(guī)律，并利用規(guī)律對未知數(shù)據(jù)進行預(yù)測的算法。機器學(xué)習的核心機器學(xué)習的核心數(shù)據(jù)算法（模型）算力（計算機運算的能力）機器學(xué)習范疇機器學(xué)習發(fā)展史（1）誕生并奠定基礎(chǔ)時期1949年，赫布基于神經(jīng)心理學(xué)提出了一種學(xué)習方式，該方法被稱之為赫布學(xué)習理論。假設(shè)反射活動的持續(xù)性或反復(fù)性會導(dǎo)致細胞的持續(xù)性變化并增加其穩(wěn)定性，當一個神經(jīng)元A能持續(xù)或反復(fù)激發(fā)神經(jīng)元B時，其中一個或兩個神經(jīng)元的生長或代謝過程都會變化。（1）誕生并奠定基礎(chǔ)時期1950年，阿蘭·圖靈創(chuàng)造了圖靈測試來判定計算機是否智能。2014年6月8日，一個叫做尤金·古斯特曼的聊天機器人成功讓人類相信它是一個13歲的男孩，成為有史以來首臺通過圖靈測試的計算機。這被認為是人工智能發(fā)展的一個里程碑事件。（1）誕生并奠定基礎(chǔ)時期1952，IBM科學(xué)家亞瑟·塞繆爾開發(fā)了一個跳棋程序。該程序能夠通過觀察當前位置，并學(xué)習一個隱含的模型，從而為后續(xù)動作提供更好的指導(dǎo)。塞繆爾發(fā)現(xiàn)，伴隨著該游戲程序運行時間的增加，其可以實現(xiàn)越來越好的后續(xù)指導(dǎo)。通過這個程序，塞繆爾駁倒了普羅維登斯提出的機器無法超越人類，像人類一樣寫代碼和學(xué)習的模式。他創(chuàng)造了“機器學(xué)習”這一術(shù)語。（1）誕生并奠定基礎(chǔ)時期1957年，羅森·布拉特基于神經(jīng)感知科學(xué)背景提出了第二模型，非常的類似于今天的機器學(xué)習模型。這在當時是一個非常令人興奮的發(fā)現(xiàn)，它比赫布的想法更適用?；谶@個模型羅森·布拉特設(shè)計出了第一個計算機神經(jīng)網(wǎng)絡(luò)——感知機（theperceptron），它模擬了人腦的運作方式。（1）誕生并奠定基礎(chǔ)時期感知機的定義：它不會因為個別特例或通常不知道的東西所束縛住，也不會因為那些個別生物有機體的情況而陷入混亂。（1）誕生并奠定基礎(chǔ)時期1969年馬文·明斯基提出了著名的XOR問題,指出感知機在線性不可分的數(shù)據(jù)分布上是失效的。此后神經(jīng)網(wǎng)絡(luò)的研究者進入了寒冬，直到1980年才再一次復(fù)蘇。（2）停滯不前的瓶頸時期從60年代中到70年代末，機器學(xué)習的發(fā)展步伐幾乎處于停滯狀態(tài)。無論是理論研究還是計算機硬件限制，使得整個人工智能領(lǐng)域的發(fā)展都遇到了很大的瓶頸。雖然這個時期溫斯頓(Winston)的結(jié)構(gòu)學(xué)習系統(tǒng)和海斯·羅思(HayesRoth)等的基于邏輯的歸納學(xué)習系統(tǒng)取得較大的進展，但只能學(xué)習單一概念，而且未能投入實際應(yīng)用。而神經(jīng)網(wǎng)絡(luò)學(xué)習機因理論缺陷也未能達到預(yù)期效果而轉(zhuǎn)入低潮。（3）希望之光重新點亮的復(fù)興時期偉博斯在1981年的神經(jīng)網(wǎng)絡(luò)反向傳播(BP)算法中具體提出多層感知機模型。直到今天BP算法仍然是神經(jīng)網(wǎng)絡(luò)架構(gòu)的關(guān)鍵因素。有了這些新思想，神經(jīng)網(wǎng)絡(luò)的研究又加快了。昆蘭于1986年提出了一種非常出名的機器學(xué)習算法，稱之為“決策樹”，更具體的說是ID3算法。這是另一個主流機器學(xué)習算法的突破點。（3）希望之光重新點亮的復(fù)興時期（4）現(xiàn)代機器學(xué)習的成型時期1964年，支持向量機提出。2000年提出帶核函數(shù)的支持向量機，應(yīng)用性能大幅提高。這一時期，人們發(fā)現(xiàn)神經(jīng)網(wǎng)絡(luò)模型相比SVM更容易過擬合，神經(jīng)網(wǎng)絡(luò)處于劣勢。2001年，布雷曼博士提出“隨機森林”的概念，它是通過集成學(xué)習的思想將多棵樹集成的一種算法，它的基本單元是決策樹（5）爆發(fā)時期2006年，神經(jīng)網(wǎng)絡(luò)研究領(lǐng)域領(lǐng)軍者Hinton提出了神經(jīng)網(wǎng)絡(luò)DeepLearning算法，使神經(jīng)網(wǎng)絡(luò)的能力大大提高，向支持向量機發(fā)出挑戰(zhàn)。開啟了深度學(xué)習在學(xué)術(shù)界和工業(yè)界的浪潮。機器學(xué)習應(yīng)用領(lǐng)域（1）銀行、零售和電信。（2）醫(yī)療保健和生命科學(xué)。（3）一般日常應(yīng)用。（4）安全應(yīng)用機器學(xué)習適用場景人類不能手動編程；人類不能很好的定義這個問題的解決方案是什么；人類不能做到的需要極度快速決策的系統(tǒng)；大規(guī)模個性化服務(wù)系統(tǒng)。對于人類的頭腦來說，反復(fù)數(shù)十億次的不間斷處理數(shù)據(jù)，必然是會感到厭倦的，這就是機器學(xué)習算法發(fā)揮關(guān)鍵作用的地方。機器學(xué)習分類1.按功能分類按功能區(qū)分回歸分類聚類機器學(xué)習分類2.按方式分類按方式區(qū)分監(jiān)督學(xué)習無監(jiān)督學(xué)習弱監(jiān)督學(xué)習基本術(shù)語數(shù)據(jù)集(DataSet)：數(shù)據(jù)是機器學(xué)習的原材料，是機器學(xué)習產(chǎn)生“智能”的源泉。由多數(shù)量樣本組成的數(shù)據(jù)，我們稱之為“數(shù)據(jù)集”。模型(Model)：能夠做出思考和判斷的生理結(jié)構(gòu)稱之為“模型”，模型的構(gòu)建是機器學(xué)習非常重要的一部分。訓(xùn)練(Training)：讓建立好的模型學(xué)習大量數(shù)據(jù)的過程稱之為“模型訓(xùn)練”，而用于訓(xùn)練的那部分數(shù)據(jù)集，稱之為“訓(xùn)練集”。預(yù)測(Prediction)：在訓(xùn)練過程中，預(yù)測結(jié)果會對模型起到評價作用，使用預(yù)測結(jié)果與實際結(jié)果的差距來調(diào)整模型的參數(shù)來改善模型。測試（Test）：同訓(xùn)練集一樣，一組用于測試的大量數(shù)據(jù)構(gòu)成的數(shù)據(jù)集，稱之為“測試集”。機器學(xué)習的一般流程分析案例數(shù)據(jù)獲取模型訓(xùn)練模型驗證線性模型線性模型（LinearModel）蘊涵了機器學(xué)習中一些重要的基本思想，線性模型形式簡單、易于建模，具有很好的解釋性。

預(yù)測工資——線性回歸確定數(shù)據(jù)觀察數(shù)據(jù)的特征含義確定哪些是有效特征姓名年限級別實際工資蹇嘉怡515500焉從丹375500問德曜8210000經(jīng)茂彥1.554500仰雅旋10613000來囡囡335500浮彬郁738500夷三姍547000和云臻124000橋琪華8511500猶青344000宿雪萍233500萊頎414500池晶輝446000星迎蕾323500百淑貞132500憑嘉福425000慶月靈526000麴茵345000仉云水759500明甘658500這個數(shù)據(jù)集的特征向量即為{年限，級別，工資}?！肮べY”是結(jié)果，而“年限”和“級別”兩個因素共同決定了“工資”?！肮べY”之所以難以預(yù)測，是因為工資并不是根據(jù)某個固定的公式計算出來的，其中也包含了復(fù)雜的“人”的因素，比如員工的為人處世，老板是否賞識等等。以上數(shù)據(jù)保存為csv表格文件，使用python的pandas庫讀取以上數(shù)據(jù)的代碼如下：#工作年限、級別與工資數(shù)據(jù)(csv文件)csv_data=‘salary.csv’#讀入dataframedf=pandas.read_csv(StringIO(csv_data))print(df)確定數(shù)據(jù)確定模型首先考慮“年限”和“工資”兩者之間的關(guān)系。假定它們符合線性模型，工資表示為y，年限表示為x，那么這個模型就可以假設(shè)為y=ax+b。使用python的sklearn庫建立模型的代碼如下：#建立線性回歸模型

regr=linear_model.LinearRegression()

訓(xùn)練模型模型就可以假設(shè)為y=ax+b訓(xùn)練的過程實際上就是調(diào)整參數(shù)a、b的過程，這個過程叫做擬合。我們的目標就是確定y=ax+b這條直線，使他最大限度的接近這些散點。讓預(yù)測更精確模型就可以假設(shè)為y=ax+b實際預(yù)測的收入和真實收入總是有或大或小的差距，怎樣能使它預(yù)測的更加精確呢？讓預(yù)測更精確只使用了一個特征值{年限}級別特征未使用將特征向量的尺度由一元變?yōu)槎膡年限，級別}這時的模型就變?yōu)閥=ax1+bx2+c我們可以把梯度想象為表示一個曲線或曲面上某一點的陡峭程度。在圖中，我們分別在紫點和紅點的地方做一條切線可以發(fā)現(xiàn)，兩條切線的方向不同，切線的傾斜角度不同。紫色點位置的切線斜率為負，稱之為負梯度，紅色點位置的切線斜率為正，稱之為正梯度。這里的正負只表示為方向，并不表示大小，所以紅色點出的梯度會更小一些。在梯度分別為正負的兩個點之間，一定存在一個梯度為0的點。這個點就是模型的最優(yōu)解。梯度使用梯度來尋找損失函數(shù)的最小值。如果學(xué)習率定的太高，步子邁得太大，我們會總是在最低點上跨來跨去，最終找到的最小值離實際的最小值誤差會比較大。如果我們的學(xué)習率定的太低，步子買的太小，會更容易接近實際的最小值，但是速度會變慢，效率低。學(xué)習率過擬合問題y=ax+by=ax2+bx+c過擬合問題y=ax3+bx2+cx+dy=ax4+bx3+cx2+dx+ey=ax5+bx4+cx3+dx2+ex+f過擬合問題完全擬合樣本數(shù)據(jù)，泛化能力嚴重不足泰坦尼克號生存預(yù)測——邏輯回歸場景說明泰坦尼克號展開首航，乘客中的身份各種各樣，他們有不同的年齡，來自不同的國家，擁有不同的財富，有著不同的家庭成員，他們買的票價和所在的船艙的等級也不同。在4月14日凌晨，它在中途島碰撞冰山后沉沒，2224名船上的人員中有1514人死亡。災(zāi)難過后，泰坦尼克號所屬的白星航運公司統(tǒng)計出了所有乘客的信息和生還情況。在這個案例中我們發(fā)現(xiàn)，乘客的數(shù)量較多，而且每個乘客的信息完善，生還情況也做好了標記，可以使用機器學(xué)習來建立一個生還概率預(yù)測的模型。觀察數(shù)據(jù)在這些數(shù)據(jù)中，我們可以思考一下，哪些可以用來做特征值，而哪些卻不適合。Survived（是否生還）Pclass（船艙等級）Sex（性別）Age（年齡）SibSp（子女數(shù)量）Parch（長輩數(shù)量）Ticket（票價）Fare（收入）Cabin（客艙號）觀察數(shù)據(jù)離散分類數(shù)據(jù)survived（是否生還），用1表示生還，用0表示死亡，并不存在0.5這種數(shù)據(jù)，中間值是沒有意義的。相同的數(shù)據(jù)類型還有sex（性別），male是男性，female是女性；pclass（船艙等級），1表示一等艙，2表示二等艙，3表示三等艙。分類與回歸的不同對于泰坦尼克號生存預(yù)測的案例，最終的預(yù)測結(jié)果只有兩個，要么為1生還，要么為0死亡。為了方便理解，姑且用一元線性模型（票價-生存）來說明問題。不合理的問題：預(yù)測曲線超過了[0,1]這個范圍生存狀態(tài)大于1Sigmoid函數(shù)

模型訓(xùn)練與測試在python中使用sklearn實現(xiàn)邏輯回歸模型并做出預(yù)測的代碼如下：#基于訓(xùn)練集使用邏輯回歸建模classifier=LogisticRegression(random_state=0)classifier.fit(X_train,y_train)

#將模型應(yīng)用于測試集并查看混淆矩陣y_pred=classifier.predict(X_test) #在測試集上的準確率print('Accuracyoflogisticregressionclassifierontestset:{:.2f}'.format(classifier.score(X_test,y_test)))#運行后得到精度#Accuracyoflogisticregressionclassifierontestset:0.77監(jiān)督學(xué)習線性模型屬于監(jiān)督學(xué)習，是非?？煽康氖走x算法，適用于非常大的數(shù)據(jù)集，也適用于高維數(shù)據(jù)。實際上，在監(jiān)督學(xué)習的模型家族中除了線性模型，還有其他各種模型。支持向量機畫一條直線使得將藍球和紅球進行分開，這條直線就成為支持向量。支持向量在機器學(xué)習的分類問題中，有兩個非常類似且平分秋色的方法，一個是前面介紹的線性邏輯回歸，另一個就是支持向量機，兩者在不同的應(yīng)用場景有著不同的表現(xiàn)。對于二分類問題，線性邏輯和支持向量機都是通過訓(xùn)練具有標簽的二維特征向量來生成模型，區(qū)別僅在于損失函數(shù)的實現(xiàn)上不同。當藍球和紅球樣本交叉混在一起時，使用線性回歸無論怎樣畫出分界線都很難做到正確的分類。不可分情況將藍球在三維空間中提高一些，將紅球降低一些，就可以使用一個平面作為分界面來分類。對于三維空間的樣本來說，支持向量就由一條直線變?yōu)橐粋€平面了。使用高斯核函數(shù)把這些樣本點根據(jù)類別變換到三維空間。高維擴展實現(xiàn)二維支持向量支持向量直線和線性回歸擬合的直線看似相似，但由于損失函數(shù)的不同，他們優(yōu)化的目的也是不同的。邏輯回歸的分類更注重將特征明顯的樣本盡可能最大的正確分類。而對于中間特征模糊的樣本所在區(qū)域，背景色較淺，說明線性回歸對于特征模糊的樣本分類效果不佳。支持向量機不能預(yù)測概率，而是絕對分類。在實際應(yīng)用中，對于小規(guī)模數(shù)據(jù)集，支持向量機的效果要好于線性回歸，但是在大數(shù)據(jù)中，支持向量機的計算復(fù)雜度收到限制，而線性回歸因為訓(xùn)練簡單，使用的頻率更高。支持向量與回歸線的區(qū)別貝葉斯分類器假如一個班級的兩個同學(xué)到了做畢業(yè)設(shè)計的時間，他們兩個人能力相同，獨立完成畢業(yè)設(shè)計的概率都為0.8，一位同學(xué)去了企業(yè)通過實習來完成畢業(yè)設(shè)計，另一位同學(xué)則去了圖書館通過查書籍來完成畢業(yè)設(shè)計。我們對這兩位同學(xué)能否完成畢業(yè)設(shè)計來分類（預(yù)測完成的概率），哪一位同學(xué)會更容易被分類為能夠完成呢？很明顯是去企業(yè)實習的那位同學(xué)，因為他的前提是能夠有更高的概率從企業(yè)拿到畢業(yè)設(shè)計的實際案例。下面我們從統(tǒng)計學(xué)的基本概念來說明這個問題。貝葉斯分類是一類分類算法的總稱，這類算法均以貝葉斯定理為基礎(chǔ)，故統(tǒng)稱為貝葉斯分類。而樸素貝葉斯分類是貝葉斯分類中最簡單，也是常見的一種分類方法。它的基本原理是貝葉斯定理，通俗來說，就是根據(jù)在一個條件下計算發(fā)生某件事的概率。我們拋硬幣，正面朝上和背面朝上的概率是相同的，每個概率都是0.5。如果用事件A表示正面朝上，那么P(A)表示正面朝上的概率，即P(A)=0.5。概率是指用來描述某些不確定問題發(fā)生的可能性，這種可能性用0到1之間的數(shù)值來表示。概率樣本空間表示一個事情發(fā)生的所有可能結(jié)果的集合。拋硬幣結(jié)果的樣本空間為{正面，反面}，這個集合稱之為全集。如果是投擲骰子，每個骰子一共有六個面，樣本空間就是{1,2,3,4,5,6}，這個空間也是全集。

貝葉斯公式?jīng)Q策樹性別？30歲以上？買不買不買是否是否用于判定是否買房的決策樹決策樹是一個樹每個節(jié)點有兩個以上子節(jié)點最末端的節(jié)點為葉節(jié)點，是最終分類結(jié)果除了葉節(jié)點外的其他節(jié)點代表了樣本特征決策樹生成決策樹模型的生成過程是一個從根節(jié)點到葉節(jié)點不斷深入迭代生成的過程生成決策樹模型產(chǎn)生分類規(guī)則測試模型預(yù)測模型樣本數(shù)據(jù)用戶ID年齡性別收入婚姻狀況是否買房127男15W否否247女30W是是332男12W否否424男45W否是545男30W是否656男32W是是731男15W否否823女30W是否數(shù)據(jù)的特征空間為{年齡，性別，收入，婚姻狀況}，而要預(yù)測的分類是一個二分類問題。在決策樹中，級別越高的節(jié)點，它包含的信息量越小，不確定性越大，因此分類越模糊；而級別越低的節(jié)點，它包含的信息量越大，不確定性越小，因此分類就會越具體。根據(jù)決策樹的原理，我們的目的就是要把信息量小的特征盡可能放到級別高的節(jié)點上，把信息量大的特征盡可能放到級別低的節(jié)點上。熵的概念哪個圖我們能夠更明顯的數(shù)出雞蛋的數(shù)量呢？很明顯是第一幅圖，因為它的信息更具體，事物更有序，我們稱它的熵最小。而對于第三張圖，它的信息不明顯，事物更無序，我們稱它的熵最大。熵是一個熱力學(xué)概念，用來描述事物的混亂程度，我們可以理解為描述一個信息是否具體。信息增益可以看到，收入這個特征的信息增益最大，所以我們將收入作為根節(jié)點。信息增益就是在某個特征條件下，信息熵減少的程度。直觀的理解是，當我們知道確定某個特征時，由于信息量提高，那么分類的結(jié)果會更加具體，無序程度也就降低了。

選擇特征節(jié)點當生成新的頁節(jié)點時，我們可以看到，在收入大于40w的節(jié)點中，分類只有一種情況-買，這時就可以生成最終節(jié)點“買”；在收入介于10-20w的節(jié)點中，分類也只有一種情況-不買，這時也可以生成最終節(jié)點“不買”。在20-40w這個節(jié)點，分類有多種情況，這時我們對于這個節(jié)點的樣本再次重復(fù)決策樹生成的過程就可以。決策樹特點模型容易可視化直觀，容易理解算法不受數(shù)據(jù)縮放影響容易過擬合泛化能力差實際應(yīng)用中，多使用集成方法代替單棵決策樹神經(jīng)網(wǎng)絡(luò)人工神經(jīng)網(wǎng)絡(luò)從信息處理角度通過對人腦神經(jīng)元及其網(wǎng)絡(luò)進行模擬、簡化和抽象，建立某種模型，按照不同的連接方式組成不同的網(wǎng)絡(luò)。它是一種運算模型，由大量的節(jié)點（或稱神經(jīng)元）之間相互連接構(gòu)成。神經(jīng)網(wǎng)絡(luò)研究的進展，在很大程度上并不是受益于計算機科學(xué)家的貢獻，而是來源于生物學(xué)家、心理學(xué)家。隨著人們對大腦研究的不斷進步，人們意識到如果要讓機器模擬人類的智能，突破點應(yīng)該是讓機器模擬人類的神經(jīng)結(jié)構(gòu)。神經(jīng)元模型神經(jīng)元受到足夠強度的刺激，才會響應(yīng)釋放出刺激其他神經(jīng)元的遞質(zhì)，刺激不足不會有輸出。這樣的輸出其實等于一個二分類，并不會出現(xiàn)中間值。人工神經(jīng)網(wǎng)絡(luò)模型為了模擬神經(jīng)元的二分類輸出，我們再將y值使用激活函數(shù)sigmoid處理。

感知器模型layer1代表輸入的三個特征，每一個特征都會與后面每一個神經(jīng)元做連接，連接有不同的權(quán)重w，這樣的連接成為全連接。layer2表示5個神經(jīng)元組成的第二層網(wǎng)絡(luò)，與第三層全連接。在最后一層layer4，表示輸出層，這一層的4個神經(jīng)元往往代表不同的分類，每個神經(jīng)元的輸出是自己所代表分類的概率。三層網(wǎng)絡(luò)模型神經(jīng)網(wǎng)絡(luò)種類神經(jīng)網(wǎng)絡(luò)卷積神經(jīng)網(wǎng)絡(luò)循環(huán)神經(jīng)網(wǎng)絡(luò)深度信念網(wǎng)絡(luò)卷積神經(jīng)網(wǎng)絡(luò)32*32圖像的全連接網(wǎng)絡(luò)模型高分辨率圖片，每一個像素作為特征建立網(wǎng)絡(luò)模型是不現(xiàn)實的，不合理的。使用卷積提取關(guān)鍵特征。卷積把藍色的7*7大小的圖片縮小為3*3的圖片，并不是簡單的去掉多余的像素，而是每一個新像素都是由鄰域的像素共同計算得出的。卷積核不同的卷積核區(qū)別于不同的鄰域選擇，不同的鄰域權(quán)重，它的意義在于“如何、從怎樣的角度看待圖片中的信息”。a.Lena原圖

b.低通濾波器

c.高通濾波器

d.邊緣檢測不同卷積核的效果LeNet-5LeNet-5是YannLeCun在1998年設(shè)計的用于手寫數(shù)字識別的卷積神經(jīng)網(wǎng)絡(luò)。當年美國大多數(shù)銀行使用它來識別支票上面的手寫數(shù)字，它是早期卷積神經(jīng)網(wǎng)絡(luò)中最具有代表性的模型之一。循環(huán)神經(jīng)網(wǎng)絡(luò)循環(huán)神經(jīng)網(wǎng)路，即一個序列當前的輸出與前面的輸出也有關(guān)。具體的表現(xiàn)形式為網(wǎng)絡(luò)會對前面的信息進行記憶并應(yīng)用于當前輸出的計算中，即隱藏層之間的節(jié)點不再無連接而是有連接的，并且隱藏層的輸入不僅包括輸入層的輸出還包括上一時刻隱藏層的輸出。理論上，RNN能夠?qū)θ魏伍L度的序列數(shù)據(jù)進行處理。循環(huán)神經(jīng)網(wǎng)絡(luò)應(yīng)用領(lǐng)域語言建模和文本生成給出一個詞語序列，試著預(yù)測下一個詞語的可能性。這在翻譯任務(wù)中是很有用的，因為最有可能的句子將是可能性最高的單詞組成的句子。機器翻譯將文本內(nèi)容從一種語言翻譯成其他語言使用了一種或幾種形式的RNN。所有日常使用的實用系統(tǒng)都用了某種高級版本的RNN。語音識別基于輸入的聲波預(yù)測語音片段，從而確定詞語。生成圖像描述RNN一個非常廣泛的應(yīng)用是理解圖像中發(fā)生了什么，從而做出合理的描述。這是CNN和RNN相結(jié)合的作用。CNN做圖像分割，RNN用分割后的數(shù)據(jù)重建描述。這種應(yīng)用雖然基本，但可能性是無窮的。視頻標記可以通過一幀一幀地標記視頻進行視頻搜索。深度信念網(wǎng)絡(luò)深度信念網(wǎng)絡(luò)是一個概率生成模型，與傳統(tǒng)的判別模型的神經(jīng)網(wǎng)絡(luò)相對，生成模型是建立一個觀察數(shù)據(jù)和標簽之間的聯(lián)合分布，對P(Observation|Label)和P(Label|Observation)都做了評估，而判別模型僅僅而已評估了后者，也就是P(Label|Observation)。本章總結(jié)機器學(xué)習（MachineLearning，ML）是人工智能的核心分支機器學(xué)習的核心就是數(shù)據(jù)、算法（模型）和算力（計算機運算能力）赫布學(xué)習理論是神經(jīng)網(wǎng)絡(luò)（NeuralNetwork，NN）形成記憶痕跡的首要基礎(chǔ)，也是最簡單的神經(jīng)元（Neuron）學(xué)習規(guī)則從功能上來說，機器學(xué)習的功能大致可分為回歸、分類和聚類機器學(xué)習的學(xué)習方式大體分為三類：監(jiān)督學(xué)習、無監(jiān)督學(xué)習和弱監(jiān)督學(xué)習機器學(xué)習的流程包括：分析案例、數(shù)據(jù)獲取、模型訓(xùn)練和模型驗證這四個過程本章總結(jié)線性模型（LinearModel）蘊涵了機器學(xué)習中一些重要的基本思想，線性模型形式簡單、易于建模，具有很好的解釋性特征不明顯、小規(guī)模數(shù)據(jù)集，采用支持向量機的效果要好于線性回歸貝葉斯分類以貝葉斯定理為基礎(chǔ)決策樹模型呈現(xiàn)樹形結(jié)構(gòu)，是基于輸入特征對實例進行分類的模型人工神經(jīng)網(wǎng)絡(luò)（ArtificialNeuralNetwork，ANN）是從信息處理角度通過對人腦神經(jīng)元及其網(wǎng)絡(luò)進行模擬、簡化和抽象，建立某種模型，按照不同的連接方式組成不同的網(wǎng)絡(luò)根據(jù)連接方式的不同，可以將神經(jīng)網(wǎng)絡(luò)分為卷積神經(jīng)網(wǎng)絡(luò)、循環(huán)神經(jīng)網(wǎng)絡(luò)和深度信念網(wǎng)絡(luò)第4章計算機視覺及應(yīng)用——趙克玲本章目標了解計算機視覺的定義及基本原理理解圖像的特征及圖像分類的技術(shù)原理理解基于深度學(xué)習的目標檢測與特征提取了解計算機視覺的應(yīng)用視覺視覺可以分為視感覺和視知覺感覺是較低層次的，主要接收外部刺激，對外部刺激是基本不加區(qū)別地完全接收；知覺則處于較高層次，要確定有外界刺激的哪些部分組合成關(guān)心的目標，將外部刺激轉(zhuǎn)化為有意義的內(nèi)容。視覺的最終目的從狹義上說是要能對客觀場景做出對觀察者有意義的解釋和描述；從廣義上將，還包括基于這些解釋和描述并根據(jù)周圍環(huán)境和觀察者的意愿來制定出行為規(guī)劃，并作用于周圍的世界，這實際上也是計算機視覺的目標。計算機視覺計算機視覺是一門研究如何使機器“看”的科學(xué)，更進一步的說，就是指用攝影機和計算機代替人眼對目標進行分類、識別、跟蹤和測量、空間重建等機器視覺，并進一步做圖像處理，用計算機出來成為更適合人眼觀測或傳送給儀器檢測的圖像。視覺眼睛機器視覺攝像頭計算機視覺的四個步驟計算機視覺的硬件構(gòu)成機器視覺的硬件構(gòu)成也可以大概說成是攝像機和電腦。作為圖像采集設(shè)備，除了攝像機之外，還有圖像采集卡，光源等設(shè)備。計算機視覺的軟件開發(fā)工具計算機的軟件開發(fā)工具包括C、C++、VisualC++、C#、Java、BASIC、FORTARN等。常用的圖像處理算法軟件，例如國外的OpenCV和Matlab，國內(nèi)的通用圖像處理系統(tǒng)ImageSys開發(fā)平臺等機器視覺就是，利用攝像機和計算機等硬件，實現(xiàn)對目標的圖像采集、分類、識別跟蹤、測量，并利用計算機軟件開發(fā)工具，進行處理從而得到所需的檢測圖像計算機中圖像的表示

圖像表示是圖像信息在計算機中的表示和存儲方式。圖像表示和圖像運算一起組成圖像模型，是模式分析中的重要組成部分。計算機和數(shù)碼相機等數(shù)碼設(shè)備中的圖像都是數(shù)字圖像，在拍攝照片或者掃描文件時輸入的是連續(xù)模擬信號，需要經(jīng)過采樣和量化，將輸入的模擬信號轉(zhuǎn)化為最終的數(shù)字信號。計算機中色彩的表示

照片分黑白和彩色，在圖像中，我們有相應(yīng)的灰度圖像和彩色圖像。對于灰度圖像只有明暗的區(qū)別，只需要一個數(shù)字就可以表示出不同的灰度，通常我們用0表示最暗的黑色，255表示最亮的白色，介于0-255之間的則表示不同明暗程度的灰色。特殊RGB值對應(yīng)的顏色計算機中圖像文件格式

圖像文件格式是記錄和存儲影像信息的格式。對數(shù)字圖像進行存儲、處理、傳播，必須采用一定的圖像格式，也就是把圖像的像素按照一定的方式進行組織和存儲，把圖像數(shù)據(jù)存儲成文件就得到圖像文件。

圖像文件格式有很多，主要格式有：BMP、TIFF、GIF、PNG、JPEG等，現(xiàn)在開發(fā)的幾乎所有的圖像處理軟件都支持這些格式。計算機中視頻文件格式

視頻文件格式是指視頻保存的一種格式，視頻是現(xiàn)在電腦中多媒體系統(tǒng)中的重要一環(huán)。為了適應(yīng)儲存視頻的需要，人們設(shè)定了不同的視頻文件格式來把視頻和音頻放在一個文件中，以方便同時回放。常用的視頻文件格式有：AVI、WMV、MPEG等常用圖像處理方法

圖像處理的基本算法包括：圖像增強，去噪聲處理，圖像分割、邊緣檢測、特征提取、幾何變換等，經(jīng)典算法有，Hough（哈夫）變換，傅里葉變換，小波（wavelet）變換、模式識別、神經(jīng)網(wǎng)絡(luò)、遺傳算法等還包含許多處理細節(jié)。圖像分類圖像分類是指根據(jù)各自在圖像信息中所反映的不同特征，把不同類別的目標區(qū)分開來的圖像處理方法。它利用計算機對圖像進行定量分析，把圖像或圖像中的每個像元或區(qū)域劃歸為若干個類別中的某一種，以代替人的視覺判讀。

鳶尾花的分類

在鳶尾花特征的提取中，我們通過測量花瓣的長和寬，從一個鳶尾花樣本中提取一個二維的特征向量，隨后這個特征向量被輸入到分類器，經(jīng)過一系列計算，分類器就可以判斷出這朵鳶尾花的類別。

特征是在分類器乃至于所有人工智能系統(tǒng)中非常重要的概念，對同樣的事物，我們可以提取出各種各樣的特征，我們需要根據(jù)物體和數(shù)據(jù)本身具有的特點，考慮不同類別之間的差異，并在此基礎(chǔ)上設(shè)計出有效的特征。特征的質(zhì)量很大程度上決定了分類器最終分類的好壞。特征提取圖像特征

圖像特征是指圖像的原始特性或?qū)傩?，主要有圖像的顏色特征、紋理特征、形狀特征和空間關(guān)系特征。顏色特征是一種全局特征，描述了圖像或圖像區(qū)域所對應(yīng)的景物的表面性質(zhì)；紋理特征也是一種全局特征，它也描述了圖像或圖像區(qū)域所對應(yīng)景物的表面性質(zhì)；形狀特征有兩類表示方法，一類是輪廓特征，另一類是區(qū)域特征，圖像的輪廓特征主要針對物體的外邊界，而圖像的區(qū)域特征則關(guān)系到整個形狀區(qū)域；空間關(guān)系特征，是指圖像中分割出來的多個目標之間的相互的空間位置或相對方向關(guān)系，這些關(guān)系也可分為連接/鄰接關(guān)系、交疊/重疊關(guān)系和包含/包容關(guān)系等。特征提取

通過對圖像的特征分析，計算機就可以識別物體，對物體分類或者對物體是否符合標準進行判別實現(xiàn)質(zhì)量監(jiān)控等，也就是所謂的圖像的特征提取。常用的特征提取方法有：傅里葉（Fourier）變換法、窗口傅里葉（Fourier）變換、小波變換法、最小二乘法、邊界方向直方圖法、基于Tamura紋理特征的紋理特征提取等。方向梯度直方圖方向梯度直方圖（HOG）是一種經(jīng)典的圖像特征，在物體識別和物體檢測中有較好的應(yīng)用。方向梯度直方圖使用邊緣檢測技術(shù)和一些統(tǒng)計學(xué)方法，可以表示出圖像中物體的輪廓。由于不同的物體輪廓有所不同，因此我們可以利用方向梯度直方圖特征區(qū)分圖像中不同的物體。方向梯度直方圖的原理就是利用卷積運算，從圖像中提取一些邊緣特征，然后通過劃分，將這些特征劃分為若干區(qū)域，并對邊緣特征按照方向和幅度進行統(tǒng)計，形成直方圖，最后我們將所有區(qū)域內(nèi)的直方圖拼接起來，即形成了特征向量。卷積運算在圖像處理以及其他許多領(lǐng)域有著廣泛的應(yīng)用，卷積和加減乘除一樣，是通過兩個函數(shù)f和g生成第三個函數(shù)的一種數(shù)學(xué)算子，是數(shù)字信號處理中常用到的運算。參與卷積運算的可以是向量，矩陣或者三階張量。向量的卷積運算卷積運算

對于矩陣的卷積運算，在大矩陣中將截取的與小矩陣大小一致的矩陣部分向橫向和縱向兩個方向進行滑動，進行卷積運算。即對應(yīng)位置的去求內(nèi)積然后進行相加，得到的結(jié)果仍然是一個矩陣。由此，我們可以知道，矩陣間的卷積是利用與小矩陣相同的矩陣部分在大矩陣中沿橫向和縱向兩個方向滑動，可以設(shè)置它的步長（默認步長是1），然后依次去滑動。矩陣的卷積運算對于三維張量的卷積運算也是同樣的理念。在這里，我們討論一種簡單的情形，當兩個張量的通道數(shù)相同時，滑動操作和矩陣卷積一樣，只需要在長和寬兩個方向上進行，卷積的結(jié)果是一個通道數(shù)為1的三維張量。當兩個張量的通道數(shù)相同的時候，滑動操作和矩陣卷積是一樣的，只需要在長和寬兩個方向進行。最終卷積的結(jié)果就是一個通道數(shù)為1的三維張量，這樣通過卷積運算我們就可以去提取圖像的特征。三維張量的卷積運算通過卷積計算，我們可以將原圖像變換成為一幅新圖像，這幅新圖像比原圖像更清楚的表現(xiàn)了某些性質(zhì)，我們就可以把它當作原圖像的一個特征，這里的小矩陣就叫做卷積核。卷積核中的元素可以是任意實數(shù)。利用卷積提取圖像特征基于深度神經(jīng)網(wǎng)絡(luò)圖像分類AlexNet這個神經(jīng)網(wǎng)絡(luò)的主體是由五個卷積層和三個全連接層組成，五個卷積層位于網(wǎng)絡(luò)的最前端，依次對于圖像進行變換以提取特征，每個卷積層之后都有一個ReLU非線性激活層，作為激活層完成非線性變換，在第1、2、5個層之后連接有最大池化層，它的作用就是降低特征圖的分辨率。那么經(jīng)過五個卷積層以及相連的非線性激活層與池化層之后，特征圖最終就被轉(zhuǎn)換成了4096維的特征向量，在經(jīng)過兩次全連接層和ReLU的變換之后，成為最終的特征向量，最后再經(jīng)過一個全連接層和一個softmax歸一化指數(shù)層后，就得到了對于圖片所屬類別的預(yù)測。卷積層是深度學(xué)習神經(jīng)網(wǎng)絡(luò)中在處理圖像的時候十分常用的一種層，當一個深度神經(jīng)網(wǎng)絡(luò)以卷積層為主體的時候我們也稱其為卷積神經(jīng)網(wǎng)絡(luò)。神經(jīng)網(wǎng)絡(luò)中的卷積層就是采用卷積運算，然后對原始圖像或者是上一層的特征來進行變換的層，在前面我們學(xué)習了卷積核去提取邊緣特征，一種特定的卷積核可以對圖像進行一種特定的變換，從而提取出某種特定的特征。我們通常使用多個卷積核對輸入的圖像進行不同的卷積運算。（1）卷積層全連接層表示在圖片分類任務(wù)中，輸入圖像在經(jīng)過若干個卷積層之后，會將特征圖轉(zhuǎn)換為特征向量，如果需要對特征向量進行變換，經(jīng)常用到的就是全連接層，在全連接層我們會使用若干個維數(shù)相同的向量，與輸入的向量做內(nèi)積的操作，會將所有結(jié)果拼接成一個向量作為輸出。具體來說，如果一個全連接層以一個向量X作為輸入，我們會用總共K個維數(shù)相同的參數(shù)向量W與輸入的向量X做內(nèi)積運算，再在結(jié)果上加上一個標量b，即完成Y=X*W+b的運算，最后我們將K個標量的結(jié)果y，組成整個向量Y作為這一層的輸出。（2）全連接層歸一化指數(shù)層的作用就是完成多類線性分類器中的規(guī)劃指數(shù)函數(shù)的計算，是分類網(wǎng)絡(luò)的最后一層，它是一個長度和類別的個數(shù)相等的特征向量作為輸入，這個特征向量通常來自于一個全連接層的輸出，輸出圖像屬于各個類別的概率。（3）歸一化指數(shù)層在每次做完卷積層之后還要加一個激活函數(shù)，即需要在每一個卷積層后面都連接一個非線性的激活層，不論是卷積運算還是全連接的運算，它們都是關(guān)于自變量的一次函數(shù)，也就是所謂的線性函數(shù)，線性函數(shù)有一個性質(zhì)，若干線性計算的復(fù)合仍然是線性的，我們在每次線性運算之后再進行一次非線性的運算，每次變換的下偶哦可以保留。常用到的有sigmod和ReLU等函數(shù)。（4）非線性激活層在卷積運算的時候我們會將卷積核滑過圖像或者是特征圖的每一個像素，如果圖像或者特征圖的分辨率很大的話，那么卷積層的計算量就會很大，所以為了解決這個問題我們通常會在幾個卷積層之后插入池化層，降低特征圖的分辨率。

（5）池化層目標檢測檢測則是用來判斷固定的區(qū)域中是否包含物體，并且還要判斷出其中的物體是屬于哪一類的。隨著互聯(lián)網(wǎng)的發(fā)展，視頻數(shù)量日益增長，視頻內(nèi)容日漸豐富，視頻技術(shù)的應(yīng)用日趨廣泛，面對浩如煙海的視頻資源，如何讓計算機自動且準確的分析內(nèi)容，從而方便我們使用呢？視頻理解作為這一切的基礎(chǔ)，理所當然的成為計算機視覺領(lǐng)域的熱門方向，從光流特征到軌跡特征，從傳統(tǒng)方法到深度學(xué)習，新方法的出現(xiàn)不斷推動著視頻理解技術(shù)的發(fā)展。視頻行為識別視頻的本質(zhì)是連續(xù)播放的圖片，由于人眼具有視覺暫留機制，即光對視網(wǎng)膜所產(chǎn)生的視覺在光停止作用后，仍保留一段時間，這樣我們就產(chǎn)生了一個畫面延續(xù)的感覺，形成動態(tài)的效果。行為是人類在執(zhí)行某一個任務(wù)的時候所發(fā)生的一連串的動作，視頻行為識別是計算機分析給定的視頻數(shù)據(jù)，辨別出用戶行為的過程。視頻行為識別，在很多領(lǐng)域都有重要的應(yīng)用價值。在視頻處理中，采用光流來描述運動的情況，光流描述的是三維的運動點投影到二維圖像之后的相應(yīng)的一些投影點的運動。

1.視頻的表示我們可以將視頻的信息分為靜態(tài)和動態(tài)兩個方面，靜態(tài)信息指圖像中物體的外觀，包含場景和物體，可以通過靜態(tài)圖片幀獲得，動態(tài)信息指視頻序列中物體的運動信息，包含觀察者和物體的運動，可以通過光流灰度圖來獲得。視頻行為識別中廣泛應(yīng)用的是雙流卷積神經(jīng)網(wǎng)絡(luò)，就是利用這兩個不同的網(wǎng)絡(luò)來實時同時處理靜態(tài)和動態(tài)信息。對于單個彩色圖像幀作為輸入的網(wǎng)絡(luò)叫做空間卷積神經(jīng)網(wǎng)絡(luò)，而把多幀的光流圖像作為輸入的網(wǎng)絡(luò)稱為時間流卷積神經(jīng)網(wǎng)絡(luò)。針對長視頻中的行為識別任務(wù)，我們可以采用稀疏采樣策略以及時序分段網(wǎng)絡(luò)。2.基于深度學(xué)習的視頻行為識別本章總結(jié)視覺進一步可以分為視感覺和視知覺機器視覺的硬件構(gòu)成是攝像機和電腦機器視覺就是，利用攝像機和計算機等硬件，實現(xiàn)對目標的圖像采集、分類、識別跟蹤、測量，并利用計算機軟件開發(fā)工具，進行處理從而得到所需的檢測圖像。三原色原理RGB模式（R：Red，G：Green，B：Blue）基于深度學(xué)習的圖像識別一般步驟是：先進行卷積運算；再利用卷積提取圖像特征；然后基于深度神經(jīng)網(wǎng)絡(luò)圖像分類；最后進行目標檢測第5章語音識別——趙克玲本章目標了解語音識別的發(fā)展、概念理解語音識別的分類、基本原理理解語音合成的基本原理語音識別語言是人類最重要的交流工具，而語音是語言的聲學(xué)表現(xiàn)形式，是人類最自然的交互方式，具有準確高效、自然方便的特點。隨著人工智能的發(fā)展，人們發(fā)現(xiàn)，語音通信是人和機器之間最好的通信方式語音識別的定義

語音識別（AutomaticSpeechRecognition，ASR）是以語音為研究對象，通過語音信號處理和識別技術(shù)讓機器自動識別和理解人類口述的語言后，將語音信號轉(zhuǎn)變?yōu)橄鄳?yīng)的文本或命令的技術(shù)。語音識別的最大優(yōu)勢是，使得人機用戶界面更加自然和容易使用。語音識別技術(shù)主要包括特征提取技術(shù)、模式匹配準則及模型訓(xùn)練技術(shù)三個方面。語音識別的應(yīng)用領(lǐng)域語音識別的發(fā)展1952年，貝爾實驗室的Davis等人研制出了特定說話人孤立數(shù)字識別系統(tǒng)。20世紀60年代初期，日本的研究者開發(fā)了相關(guān)的特殊硬件來進行語音識別。20世紀70年代以前，語音識別的研究特點是以孤立詞的識別為主。20世紀80年代，識別算法從模式匹配技術(shù)轉(zhuǎn)向基于統(tǒng)計模型的技術(shù)，是語音識別研究的一個重要進展。隱馬爾可夫模型（HMM）就是其中的一個典型，它被廣泛地應(yīng)用到語音識別研究中。直到目前為止，HMM方法仍然是語音識別研究中的主流方法。這些研究工作開創(chuàng)了語音識別的新時代。從20世紀80年代后期和90年代初開始，人工神經(jīng)網(wǎng)絡(luò)（ANN）的研究異?；钴S。進入21世紀，基于深度學(xué)習理論的語音識別得到了全面突破，識別性能顯著提高。我國語音識別的發(fā)展我國語音識別研究工作起步于五十年代，但近年來發(fā)展很快。研究水平也從實驗室逐步走向?qū)嵱谩?987年開始，國家863智能計算機專家組為語音識別技術(shù)研究專門立項，每兩年滾動一次。我國語音識別技術(shù)的研究水平已經(jīng)基本上與國外同步，在漢語語音識別技術(shù)上還有自己的特點與優(yōu)勢，并達到國際先進水平。其中具有代表性的研究單位為清華大學(xué)電子工程系與中科院自動化研究所模式識別國家重點實驗室。（1）按發(fā)音方式進行分類，可以分為孤立詞識別、連接詞識別、連續(xù)語音識別、關(guān)鍵詞檢出等幾種類型。在孤立詞識別中，機器僅識別一個個孤立的音節(jié)、詞或短語等，并給出具體識別結(jié)果；連續(xù)語音識別中，機器識別連續(xù)自然的書面朗讀形式的語音；連接詞識別中，發(fā)音方式介于孤立詞和連續(xù)語音之間，它表面上看像連續(xù)語音發(fā)音，但能明顯地感覺到音到音之間有停頓。語音識別的分類（2）按詞匯量大小進行分類，每一個語音識別系統(tǒng)都有一個詞匯表，語音識別系統(tǒng)只能識別出詞匯表中所包含的詞條。通常按詞匯量大小分為：小詞匯量（一般包括10~100個詞條）中詞匯量（一般包括100~500個詞條）大詞匯量（至少包括500個以上