1、學(xué)習(xí)好資料歡迎下載Python ConsolePython文件中編輯，在python Console中進(jìn)行文件的輸出和實(shí)驗(yàn)，相當(dāng)于2.7版本中的shell。Toolspytho n con soleL V |Ofi Co 1_ j_ 勺 qF*、a1 raceosicK mosx xeccrit CQl 1 丄3,ST/ File input>jline 1, in SodulexAt tribut eError:nodaLeJ object has no attributeclas si fyfl7import kNNimport kNKkNH.classify在下面的console框

2、中，按下F5,可以彈出python Console在這里相當(dāng)于在提示符中輸入 命令！ ！ ！可以新建一個(gè) python文件，將控制臺(tái)命令輸入其中，然后運(yùn)行這些控制臺(tái)命令就不用反復(fù) 輸入了。一、梯度法則Logistic回歸第一次用回歸梯度上升優(yōu)化算法LoadDataSet ()函數(shù)是導(dǎo)入文件，Sigmoid ()函數(shù)gradAscent ()用這個(gè)梯度上升優(yōu)化算法返回weights gradAscent( datamatIn ， classLabe9兩個(gè)參數(shù)，dataMatIn存放的是100*3的矩陣，三個(gè)元素分別是weight，X1，X2第二個(gè)參數(shù)classLabel存放的是1*100的行向量

3、，所以記得要進(jìn)行矩陣轉(zhuǎn)置1.類另U classLabels需要轉(zhuǎn)置 transpose2.loaddataSet ()函數(shù)中將X0的值設(shè)置為1，目的是初始化 weights的初始值為13.在error= (labelMat-h )這個(gè)操作中，變量h是一個(gè)列向量，列向量的元素個(gè)數(shù)等于樣本個(gè) 數(shù)，這里是100。對(duì)應(yīng)的，運(yùn)算 dataMatrix*weights代表的是實(shí)際上是 3*100次的操作。 繪圖結(jié)果如下：XI二、隨機(jī)梯度上升隨機(jī)梯度與梯度上升有本質(zhì)區(qū)別:1.隨機(jī)的error=classLabelsi-h這個(gè)操作中，二者都是數(shù)值。而梯度上升中 error= (labelMat-h) 變量 h和誤差 error都是向量。2.隨機(jī)梯度沒有矩陣的轉(zhuǎn)換過程，所有的變量的數(shù)據(jù)類型都是Numpy數(shù)組?？梢园l(fā)現(xiàn)，擬合直線并不是太理想«=-1,45161 y=-103125三、改進(jìn)的隨機(jī)梯度上升算法改進(jìn)體現(xiàn)在兩個(gè)方面：1.動(dòng)態(tài)修改aplha的值，每次迭代調(diào)整。 收斂速度會(huì)更快。2.隨機(jī)選取更新。每次從列表中選取一個(gè)值，然后更新后從列表中刪除掉該值，再進(jìn)行下一 次迭代，這樣以來，訓(xùn)練中的周期性波動(dòng)問題得以解決。Figure Lx=l,37097y=515