PAGEPAGE121第三章習題3-1設(shè)某一隨機過程的樣本為{x1，x2，…，xk}，設(shè)k時刻的樣本均值和方差分別為假定新的觀測值為xk+1，試推導(dǎo)樣本均值k+1和樣本方差sk+1的更新公式。解：.∵，而，所以∴更新公式為,.3-2設(shè)某一隨機過程樣本由xk=a+bk+vk描述，其中，vk～N（0，σ2）；a和b是待定的未知參數(shù)。試求估計量a?，b?的CR下界。解：未知參數(shù)向量為θ=[a，b]T。首先計算Fisher信息矩陣，即（3.1.31）依題意，似然函數(shù)可寫成對上式等號兩邊取自然對數(shù)，并分別對A和B求偏導(dǎo)，得到容易驗證，以上二式的數(shù)學期望為零，滿足正則條件（3.1.25）將以上各式代入式（3.1.31）對上式求逆，得現(xiàn)在計算截距A和斜率B的CR下限。設(shè)A?和B?分別是A和B的無偏估計量，則由式（3.1.30）3-3假設(shè)觀測樣本為式中，ek～N（0，σe2）。試求被測量x和噪聲功率σe2的估計量及其CR下界。解：∵，ek～N（0，σe2），∴,而,∴估計量為被測量x的無偏估計量，已知ek=ykx～N（0，σe2），故有對上式的自然對數(shù)取參數(shù)x的二階偏導(dǎo)數(shù)，可得對上式的數(shù)學期望取負號，即可得到觀測樣本y的Fisher信息： 而，也即p(y|x)滿足正則條件，故有進一步地，將無偏估計量代入，得到因為K(x)=N/σe2>0，滿足無偏估計量的方差達到CR下限的的充要條件，所以無偏估計量的方差達到了CR下限，即.3.4通過一次觀測樣本y來估計未知參數(shù)。已知試給出參數(shù)的MMSE估計量和MAP估計量的表達式。當y=2和4時，相應(yīng)的估計量是多少？解：二次型風險函數(shù)為，由于，所以有.使二次型風險函數(shù)最小的參數(shù)估計，稱為最小均方誤差估計即MMSE估計，而當上述風險函數(shù)最小時，中括號[·]內(nèi)的積分項取最小值，故令其關(guān)于的偏導(dǎo)數(shù)等于0，有由于，y為一次觀測樣本，所以對上式兩次運用分部積分，可求得的MMSE估計量為.在給定觀測樣本y的條件下，未知參數(shù)的最大后驗概率密度估計MAP等于使后驗概率密度p(θ|y)取最大可能值的參數(shù)值，故有，或進一步寫為.而由貝葉斯公式，，代入可得p(y)與θ無關(guān)，故當時，有∴的MAP估計量為.當y=2時，可求得相應(yīng)的估計量為與；當y=4時，可求得相應(yīng)的估計量為與.3-11某一飛行器在某段時間從初始位置s，以恒定速度v沿直線移動。飛行器的觀測位置由下式給出：式中，en為零均值的噪聲序列。今有十個觀測數(shù)據(jù)y={1，2，2，4，4，8，9，10，12，13}。試求飛行器初始位置s和飛行速度v的最小二乘估計。解：，3-13用電表對電壓進行兩次測量，觀測方程為式中，觀測噪聲的均值和協(xié)方差矩陣分別為已知測量結(jié)果分別為y1=21