4.4算法總結(jié)4.1算法簡介4.2算法原理4.3算法實(shí)驗(yàn)?zāi)夸浀谒恼逻壿嫽貧w算法人工智能算法與實(shí)踐—1

—

01算法簡介PartONE簡要介紹邏輯回歸算法的作用、相關(guān)知識等—2

—

4.1.1

邏輯回歸的作用—3

—

邏輯回歸功能示意圖學(xué)習(xí)目的：怎么得到模型。4.1.2

邏輯回歸的引入—4

—

線性回歸是否能做分類問題？線性回歸(少量樣本)預(yù)測

線性回歸(稍多樣本)預(yù)測4.1.3Sigmoid函數(shù)—5

—

Sigmoid函數(shù)02算法原理PartTWO介紹邏輯回歸算法的原理，包括公式推導(dǎo)—6

—

4.2.1

算法流程—7

—

求解邏輯回歸模型流程圖如線性回歸的假設(shè)函數(shù)

一樣，邏輯回歸也需要先構(gòu)造一個(gè)假設(shè)函數(shù)。求解假設(shè)函數(shù)的待優(yōu)化參數(shù)，直至達(dá)到預(yù)期效果為止。

4.2.2

假設(shè)函數(shù)—8

—

將線性回歸的假設(shè)函數(shù)替換為這里的x

Sigmoid函數(shù)的定義域?yàn)镽,與此同時(shí)線性回歸的假設(shè)函數(shù)(值域?yàn)镽)作為Sigmoid函數(shù)的自變量。Sigmoid函數(shù)關(guān)于點(diǎn)(0,0.5)對稱，可以無差別的分成兩類。Sigmoid函數(shù)連續(xù)且可導(dǎo)，便于后續(xù)利用導(dǎo)數(shù)進(jìn)行優(yōu)化。Sigmoid函數(shù)圖4.2.3

求解關(guān)鍵—9

—

訓(xùn)練集損失函數(shù)

4.2.4

損失函數(shù)—10

—

以e為底的對數(shù)函數(shù)

4.2.4

損失函數(shù)—11

—

m個(gè)訓(xùn)練樣本的平均損失函數(shù)

最終的衡量（每個(gè)w）指標(biāo)

合并4.2.5

梯度下降算法—12

—

已知第i輪的w，如何求解第i+1輪的w?

W=

…

…

第i+1輪中w向量中的第j個(gè)值4.2.5

梯度下降算法—13

—

求偏導(dǎo)的公式推導(dǎo)：4.2.5

梯度下降算法—14

—

依據(jù)偏導(dǎo)結(jié)果，第i+1輪的w為：

…

…

-

……

…

…

=

4.2.6

梯度下降算法結(jié)束條件—15

—

or測試—16

—

求得

邏輯回歸模型預(yù)測流程示意圖03算法實(shí)驗(yàn)PartTHREE利用代碼實(shí)現(xiàn)邏輯回歸算法，分類腫瘤數(shù)據(jù)—17

—

4.3.1

數(shù)據(jù)—18

—

共90條數(shù)據(jù)的訓(xùn)練集4.3.2

讀取數(shù)據(jù)—19

—

引入相關(guān)類庫，定義數(shù)據(jù)集路徑。定義一個(gè)函數(shù)，傳入一個(gè)字符串類型的數(shù)據(jù)集路徑。將特征值x與標(biāo)簽y分別用兩個(gè)列表存取，并返回。4.3.3

Sigmoid函數(shù)—20

—

形參z可以是一個(gè)數(shù)字，也可以是一個(gè)列表。我們一次性要處理90個(gè)數(shù)據(jù)，所以傳入的是列表。4.3.4

核心代碼—21

—

更新輪數(shù)設(shè)置為1000作為結(jié)束條件。返回權(quán)重列表，即得到了分類模型。4.3.5

實(shí)驗(yàn)結(jié)果—22

—

訓(xùn)練集預(yù)測結(jié)果圖

04算法總結(jié)PartFOUR歸納總結(jié)邏輯回歸的精髓—23

—

線性回歸假設(shè)函數(shù)Sigmoid函數(shù)交叉熵?fù)p失函數(shù)梯度下降求取權(quán)重向量W4.4.1

總結(jié)ADDRELATEDTITLEWORDS—24

—

將線性回歸的假設(shè)函數(shù)作為sigmoid函數(shù)的自變量利用交叉熵作為損失函數(shù)3.利用梯度下降算法