1、最小二乘法原理.介紹部分最小二乘法是獲得物理參數(shù)唯一值的標準方法，具體是通過這些參數(shù)或者在已知數(shù)學模型中與這些參數(shù)相關的參數(shù)的多余觀測值來求得。最小二乘法最早是由高斯提出，用來估計行星運行軌道的。數(shù)理統(tǒng)計和最小二乘法物理量總是不能被精確測定?？偸谴嬖谝粋€限定的測量精度， 超過這個精度，相關的數(shù)學模 型和測量儀器的分辨率這兩者之一或者全部將會無能為力。超出這個精度，多余觀測值之間會產生差異。我們常常希望獲得超過該限定精度的測量值，在不知道真值的情況下我們只能估計真值。-方面我們想要估計出唯一的值， 另一方面，我們想要知道這個估計有多好。 最小二乘法就是 這樣一個估計，它基于最小化差值的平方和。最

2、小二乘法相比其他傳統(tǒng)的方法有三個優(yōu)點。其一，它既可以應用在線性數(shù)學模型上也可以應用在非線性數(shù)學模型上；其二，它和統(tǒng)計量算術平均值有關；其三，最小二乘法在很多領域是通用的。物理量的值的唯一統(tǒng)計估計稱為點估計。無論頻率函數(shù)是否知道，我們都可以作物理量的點估計并且可以衡量它與真值趨近程度。另外兩種估計，區(qū)間估計以及假設檢驗，它們只能在相應的頻率函數(shù)已經確定的情況下進行。線性代數(shù)和最小二乘法（nontrivial=nonzero ,非平凡解就是指非零解）現(xiàn)有線性方程組A X= L（1-1）X是未知數(shù)向量，L是常數(shù)向量，A是系數(shù)矩陣，A:L是增廣矩陣。該方程組有唯一非零 解僅當L豐0 （非齊次方程組），

3、（1-2a）r （A） = X 的維數(shù)，（1-2b）r (A:L ) = r (A)。( 1-2c)當沒有多余等式時，準則(1-2b)意味著 A是方陣且非奇異，它的逆矩陣是存在的，這樣 方程組的解就表達成 TOC o 1-5 h z -1，一、 HYPERLINK l bookmark52 o Current Document X = AL(1-3)當存在多余等式時，A將不是方陣，但是 ATA是方陣且非奇異，這樣方程組的解就表達成T -1 T,、 HYPERLINK l bookmark292 o Current Document X = (AA)A L 。(1-4)L的元素對應于物理量觀測值

4、，基于上述數(shù)學討論，如果沒有多余觀測量(即沒有多余的等 式)，則未知量將只有唯一的非零解。如果存在多余觀測量，它們之間將互相不一致，因為 觀測存在誤差。這樣(1-2c)準則就無法滿足，也就不存在唯一解。我們只能對結果做一個 唯一的估計。從而引入了最小二乘準則。因為觀測誤差的存在，使得方程組(1-1)左右矛盾，為此引入一個向量來抵消這個矛盾，從而使方程組成立。于是有 TOC o 1-5 h z HYPERLINK l bookmark268 o Current Document A X - L = V(1-5)V稱為殘差向量。引入 X作為X的最優(yōu)估值，這樣最小二乘準則表達為 A AAA HYPE

5、RLINK l bookmark18 o Current Document VTV =(AX L)T(AX L) =min(1-6)A估彳t X稱為最小二乘估值。由式(1-4)可得A HYPERLINK l bookmark20 o Current Document X =(ATA),aTL ,(1-7)觀測誤差或殘差的最優(yōu)估值由下式得出AAV=AX L 。(1-8)這些估值稱為簡單最小二乘估值，或者稱為等權最小二乘估值。組成L的物理量觀測值不總是等精度的(比如采用了不同的觀測儀器或者不同的觀測條件)因此我們給每個觀測量分配一個已知的權重，由這些元素構成的矩陣稱為權陣P。這樣,先前的最小二乘準

6、則調整為A AVT PV =min 。(1-9 )未知量估值調整為AT _-4 T _X =(A PA) A PL(1-10)如果P作為觀測值的估量協(xié)方差陣的逆陣，那么最小二乘估計就是最小方差估計；如果觀 測誤差是正態(tài)分布，那么最小二乘方差估計就是最大似然估計。考慮更一般的情形，此時觀測量未知參數(shù)的非線性方程相關F(X)-L=V(1-11)或者，觀測量與未知參數(shù)的方程非線性相關F(X,L V)=0(1-12)數(shù)字計算機和最小二乘法從實際出發(fā)，矩陣求逆以及矩陣乘法都要求海量的計算步驟。在大型快速計算機發(fā)明以前，除非絕對必要，一般是不會去做這樣的嘗試。然而測量網坐標的最小二乘估計就是這樣的必要情況

7、。以前的大地測量學家在簡化步驟創(chuàng)新方法上做出很多努力，計算機發(fā)明之后這項工作顯得沒原來那么重要了。 然而計算機也不能同時計算多達數(shù)千個方程，因此，如今大地測量學家把精力放在改進算法上，以便將一個大問題拆分成許多小問題，再逐一解決。高斯和最小二乘法以下是對高斯一段引文的翻譯“如果用于軌道計算的天文觀測值和其他量是完全正確的，則軌道要素也是嚴格準確的， 而無論是從三個或者四個觀測值上推導出來(到目前為止軌道運動確實按照開普勒定律在進行)，因此，如果使用其他觀測值，則軌道要素可能被確定但不準確。但是，因為我們的所有測量值和觀測值都只是真值的近似，那么依賴于它們的所有計算也一定是正確的，關于具體現(xiàn)象的

8、所有計算的最高目標一定是近似與真值的，只要接近到可實用的程度。但這只能通過將多于確定未知量所必要的觀測量進行適當組合來完成。這個問題只有當軌道的大概知識已經獲得的情況下才能處理，這個大概的知識之后將得到改正以便以盡可能最精確的方式滿足所有的觀測值?！睆倪@段寫于150年前的話可以總結出以下觀點a、數(shù)學模型可能不完整，b、物理測量值存在矛盾，c、從矛盾的物理測量值出發(fā)進行計算就是為了估計出真值，d、多余測量值將會減小測量值矛盾的影響，e、在最終估值前需要使用大概的初值，f、通過一種方法最小化測量值之間的矛盾值，從而改正初值（高斯所指的最小二乘法）.統(tǒng)計學定義和概念統(tǒng)計學術語統(tǒng)計學，統(tǒng)計量，變量，連

9、續(xù)變量，離散變量，常量。一般的測量結果都是連續(xù)變量，計算結果是離散變量。隨機變量，包含一個值域（跟普通變量相同）和一個概率函數(shù)?？傮w（population ）,個體（individual ）,樣本，隨機樣本（通常樣本指的都是隨機樣本）。樣本空間，樣本點和事件在使用中分別代替總體，個體和隨機樣本。分組（class）,分組界限，組距，組頻率，相對頻率。*沒有哪一個關于概率的定義是被所有統(tǒng)計學家所接受的。經典的定義是，等可能取自總體的一個個體落入組 A的概率Pr（A）等于所有落入 A的個體占總體的分數(shù)。這是一個間接定義，因為等可能實際上就是等概率，因此是用概率自己定義了自己。有兩種辦法來解決這個問題

10、，但都不是完全令人滿意的。第一種，定義概率Pr（A）為從總體中選擇一個個體，在 n次（當n趨于無窮）選擇中，個體落入組A的相對頻率。第二種，接受“概率”是一個不可定義的概念，仍然稱適用于概率的規(guī)定為公理。頻率函數(shù)（概率密度函數(shù)）累積頻率函數(shù)（分布函數(shù)，累積分布函數(shù)，累積概率函數(shù)），頻率分布（p26）。頻率分布的兩個重要特點：集中趨向，離中趨勢（離散度）。頻率分布兩個次重要特點：偏斜度，峰度。集中趨向的度量方法包括：算術平均值，中位數(shù)，眾數(shù)（ mode）,幾何平均數(shù)以及調和平均數(shù)。離散度的度量方法包括：標準差，平均偏差以及極差（range ）。期望值及其相關性質。n階原點矩，以及n階平均值矩(我

11、們習慣稱為n階中心矩)的期望，其中二階中心矩稱為方差。隨機變量 X矩量母函數(shù)(moment generating function )定義txLtxMKt) = Ee = f e 邛(x)dx ,(2-l0a )一個分布的任何矩都可以直接從矩量母函數(shù)中推導出來，例如，一階原點矩,1 dM (t). . ,.N=Ex= t_0=M (0),(2-10b )dt 一又如，方差(二階中心矩) ；:.-2a2=Ex2-k2=M(0)-M(0)2,(2-10c)多元隨機變量頻率函數(shù)(聯(lián)合密度函數(shù))引入隨機變量向量-xjXzX =-A 1多元隨機變量頻率函數(shù)定義中(X0)dx1dx2 dxn =R(X0

12、X 1 時，F(xiàn)(ot) =(a -1)F(a -1) =( o( -1)!。上式令y = x/P ,且P 0,則有二 xx 1（D = 0 D exp（一?。?dx從而1 = 7-（Jpx:Jexp（-）dx上式滿足累積分布函數(shù)的要求，對應的概率密度函數(shù)（p.d.f）為1x一（二.二 xexp（一- 口。，：x ：二二）=0其它上式即為關于參數(shù) a和P的伽馬分布的概率密度函數(shù)。當口 =2,且P =2,其中u是正整數(shù)，此時該伽馬分布就稱為卡方分布，它的概率密度函 2數(shù)為(x)=x(i)22.x.exp( -); (0 ：； x ：二二)2其中的u稱為自由度。=0其它上述的服從卡方分布的連續(xù)隨機變

13、量縮寫為/2(v)o3.2.2矩量母函數(shù)公式（推導過程略）1M(t)(1 -2t)2則有:2 =M (0) -M (0)2 =23.2.3卡方分布的圖像性質:a)x =0時，值為0,b)最大值在區(qū)間0cx（00內,c)x軸正方向是一條漸近線,d)在最大值每邊各有有一個拐點O3.2.4關于卡方分布的計算引入卡方分布計算表。基本公式Pr(x E*) = 0飛 1(x)x 2 exp(-)dx; (0 :二 x ；二)1 -(-)2222222Pr( P1 x ；)=P(xE ；2)-Pr(xM P)3.3 t分布(學生氏分布)分布函數(shù)令隨機變量6服從標準正態(tài)分布 n(0,1),以及隨機變量v服從卡

14、方分布？2(v),規(guī)定它們是相互獨立的，則它們的聯(lián)合概率密度函數(shù)為.1.：( , .) : exp(-2 二-二：，：二021中)V) Y2 exp(-),2 k U F2*；)222=0其它t :1/2(/.)引入變形等式Lltvuco = -=Tvv =u引入雅各比式co cto.:t ：:ucv cv-：t ：:u(u)1/20t ,、 二(u )214/2=%,2則新的概率密度函數(shù)為2：(t,u) = (/)Jutu 1/2exp-二(1 -)(-)(2二)1/2- (-)2；/222uu二：t :二其它將上式中的u積分掉，可得二(1)/21/2(1昌(：，2 (二嚴(2)(1 t，(

15、-二二 t :二)前提是令0t 二 z1 、1/2(八)可知t分布是由自由度u唯一確定的。3.3.2 t分布的圖像性質：1)邛(t)在區(qū)間-o t 8上有值,2)邛(t)在t=0處取得最大值，3) t軸是它的水平漸近線，4)在最大值兩側分別有一個拐點。3.3.3關于t分布的計算引入t分布計算表基本公式tpPr(xEtp) = _(t)dt3.4 F分布分布函數(shù)設有兩個隨機變量 u和v均服從卡方分布，自由度分別是以和心2。則它們的聯(lián)合概率分布函數(shù)為引入變形等式引入雅各比式：(u, )=(-1 1)( -2 1)(2)(2q，u -,)/2e：(_1)：()2(-1 -2)/20 :二=0其它u/

16、if 二 / 2U/ iu 二 / 2cucufcz(-cvcv04君zJ =- 2z a f-)(一iZ則新的概率密度函數(shù)為:(f, z) = (uj )det( J)=(：i 小)/2. 2_ z ： 1f - 1z exp ( 1),22- 2將z積分掉就能得到f的邊緣概率密度函數(shù)1(f)=( 12)/2(- i/ 2) 1/2(1if/J2。 f ：)=0其它隨機變量f =!?!服從F分布，簡寫為F(2,u2)。 /- 2值得注意的是1= Fi_p(： 2/1)Fp(：i,： 2)F分布的圖像性質類似于卡方分布。關于F分布的計算引入F分布計算表基本公式fp Pr(xp)=(f)dfPr

17、(Fp1 x Fp2)= Pr(x Fp2) - Pr(x 1 )4.隨機變量函數(shù)的分布統(tǒng)計量是含有一個或多個隨機變量的函數(shù)，這些隨機變量的參數(shù)都是已知的，前文提到的樣本均值和樣本方差都是統(tǒng)計量。標準化的正態(tài)隨機變量分布d給定隨機樣本 X1 , X2Xn,這里的Xi相互獨立，且 XjT n（t。2）,則有X -d n（0,1）CT樣本均值的分布d給定隨機樣本 X1 , X2Xn,這里的Xi相互獨立，且 XL n伍產2）,則有d 二2X n（,）用矩量母函數(shù)證明。標準正態(tài)化樣本均值的分布d ,二2、給定樣本均值 X t n （也），則有 nX - 1 d n(0,1) 二/ n標準正態(tài)化隨機變量

18、平方的分布d給定Xt n（L。2）,則有2(1) 1用累積密度函數(shù)證明，附帶證明出（）=R1/2。2若干卡方隨機變量和的分布d給定隨機樣本y1 , y2 yn , yi相互獨立，且服從 yL 7之0，則有nz yidT 22（R +% + n）1用矩量母函數(shù)進行證明。若干標準正態(tài)化隨機變量和的分布（p71）d給定隨機樣本X1 , X2 Xn , Xi相互獨立，且服從 XiT ”匕仃2）,則有n X 口 2-Xid 2 /、（）（n）1、-樣本方差函數(shù)的分布給定樣本方差s2n=1出二五，其中xt n(N,。2),則有n -1*二二 2n.1二i 二證明的關鍵nXi -2- I 21 n -1 s

19、 n x -2-22CJCTCT然后運用矩量母函數(shù)。4.8正態(tài)化樣本均值比值的分布已知a)dXb)c) 2 n-1 .n -1 s2d2a則有來自同一總體的兩個樣本方差比值的分布已知、n1 -1 s1d 22n (n1 -1 )and 2 n2-1:二則有2 F n1 - 1, n2 - 1S2多元隨機變量標準二次型的分布已知二次型XT ； XT ,其中X是一個由m個零均值正態(tài)分布的隨機變量組成的向量, 1 m X m 1m：mZ v是方差協(xié)方差陣。Xmm則有mmXT d2mm 1（該證明過程有待琢磨）隨機變量函數(shù)分布總結見表中（略）5單變量區(qū)間估計和假設檢驗介紹（前章回顧）關于區(qū)間估計，通常

20、需要做估計的統(tǒng)計量是包含在關于它的（有時還包括其它一些） 統(tǒng)計量的函數(shù)中，不過其它的統(tǒng)計量的值都是可以計算出來的，因此可以通過對不等式的運算得到關于要求統(tǒng)計量的估計區(qū)間。關于假設檢驗，引入“零假設”和“備擇假設”的概念，置信區(qū)間用以確定零假設是否應該被拒絕，如果假設被拒絕，那么a就稱為該檢驗的顯著性水平；如果假設未被拒絕，那么就不能對該假設，假設檢驗以及顯著性水平做出申明。單一測量值Xi的檢驗（關于均值和方差。2） h . f X； N 、已知單一測重值 Xi ,且Xi dT n（d。2 ）,當Pr -c c i = a時，則Xj的置信 l 仃 J區(qū)間為I1 - cc- _ Xi _, c二

21、1這個置信區(qū)間用來檢驗假設Ho：Xi =Xh均值N的檢驗（關于一個觀測值Xi和方差仃2），一 .一“，- XX； N 、考慮一個觀測值 Xi ,且Xi dT n（N,。2 ）,當Pr c M i c i=a時，則k的置信 l 仃 ，區(qū)間為Xi -c- _ 1 _ Xi c；這個置信區(qū)間用來檢驗假設Ho：-H均值N的檢驗（關于一個樣本均值X和方差。2 / n ）Pr -c c =口- X c則N的置信區(qū)間為C7這個置信區(qū)間用來檢驗假設Ho：=H樣本均值X的檢驗（關于均值和方差仃2/n）- X NPr -c c 仃7n則X的置信區(qū)間為cr -ff卜-Cr EX WN+Cr-(n)(n) _這個置信

22、區(qū)間用來檢驗假設H0：XXh5.6均值N的檢驗（關于一個樣本均值 X和方差s2）Pr1 -tP wXtwtps/ n=Ct則N的置信區(qū)間為-tp-X tp n仃-I172(n)這個置信區(qū)間用來檢驗假設H。：-H5.7樣本均值X的檢驗（關于均值和樣本方差s2） TOC o 1-5 h z XX -N=ctPr|-tp tPIs/YnJ則X的置信區(qū)間為I cr 一-tp X，tp_ P n1/2P這個置信區(qū)間用來檢驗假設H0:X =Xh5.8方差。2的檢驗（關于均值R和若干測量值X1, X2Xn)則仃2的置信區(qū)間為nz1Xi12 _2P2這個置信區(qū)間用來檢驗假設=otn2Z (Xi112Pi5.9

23、方差。2的檢驗（關于樣本方差s2）n -1 s2PP2=ot則仃2的置信區(qū)間為n -1 s22P2,C-2 (n -1 B2 一 7PPI這個置信區(qū)間用來檢驗假設H0:。2 -；2h5.10樣本方差s2的檢驗（關于方差。2）n -1 s2二2”2=ot則s2的置信區(qū)間為 TOC o 1-5 h z _ 2_ 22：-22：-P s Pn -12 n-1這個置信區(qū)間用來檢驗假設 HYPERLINK l bookmark352 o Current Document 2Ho: s = s h兩個方差比值粕檢驗（關于樣本方差s2和城）當-J j A2 /I J L Pr FPi - -T.-2 - F

24、P2 =al）則y； /。；的置信區(qū)間為這個置信區(qū)間用來檢驗假設Ho：二；/二12 7/012 H兩個樣本方差比值（s2/s2）的檢驗（關于方差和式）Pr FP1 s2 /二 12=口則Q2/s2的置信區(qū)間為FP1W2.:二且.:二一 2 一s2這個置信區(qū)間用來檢驗假設Ho ： s2 /sf = s2 /s2 H兩個方差比值（臂/巴2）的檢驗（關于若干來自兩個樣本的測量值）niz1Pr一 n2zi2 X12二 i ni內置信區(qū)間為F”&n2Zini 2v Xi2 i2二 2mF二 iP2n22Xi (XT) niini2V X i2i這個置信區(qū)間用來檢驗假設Ho：二2 /二 i2 =二；/二

25、i2 H單一變量置信區(qū)間的總結見表中（略）6最小二乘點估計：線性數(shù)學模型線性數(shù)學模型AX - L =V其中，nL稱為觀測向量，它是一個列向量，元素是觀測值；nV1稱為殘差向量，它是一個列向量，元素未知的測量誤差；uX1稱為解向量，是我們想要作點估計的對象，它的元素是未知參數(shù)；n Au是已知的，稱為設計矩陣。注意這里有n個觀測值和u個未知量。只有當存在多余觀測，即nu時，才能進行最小二乘估計。（n-u ）稱為多余觀測數(shù)，或者稱為自由度。此外，每一個觀測值 L都有對應的權，這些權構成了權陣P。X的最小二乘無偏估計最小二乘準則VT PV =min將V = AX L帶入，得到a ae JaX-L i

26、P AX-L Umin TOC o 1-5 h z ） l a由此未知量全部被消去。6.3 X的最小化方差點估計若存在X =BL則稱X為X的一個線性估計。X是X的最小化方差估計，它是一個線性無偏估計，其協(xié)方差陣為 ；。工；比X的XX任何其他線性無偏估計都要“小”。衡量矩陣的大小我們需要某種準則，為此引入矩陣“跡”的概念，它適用于方陣，是一個標量，是該方陣對角元素的和。這樣，我們定義的最小化方差條件可以表示為Trace。;) = minX接下來我們將尋找滿足該條件的方陣B。， a由前文知，當eV】=o時，x是無偏的，即有AEX =由方程線性條件 X = BL可得EX =EBL =BEL = BA

27、X因此BA = I則lBt所以問題變成Trace，：)=Trace(B BT) = min XL在約束條件BA-I =0下，采用拉格朗日極值法，令=B lBt 2(BA-I )K其中K為待定系數(shù)，然后有,7r()；:B由矩陣跡的性質，我們可以得到Tr()二Tr(BBT) 2Tr (BAK) -2Tr(k)一叫,丹;、T)=2B;:B一干r (BAK) t.t 二K A:Br(K) 二 0:B因此有儀)=2B l 2KTAT =0.:B或者可以寫成B 二-KtAt X L1進一步有KT = -(AT % L1 A)B =(At q J A)At L1最后得到)? =BL =(AT L1 A)AT

28、 vL上式就是求解X的最小方差估計。對比前述，可知當PuZl1時，最小二乘估計就是最小方差估計。最大似然點估計當V服從正態(tài)分布時， X的最大似然估計等價于最小二乘估計。X的方差和協(xié)方差的無偏點估計我們有方差無偏估計用=pVn -u協(xié)方差無偏估計q；?：( atpa)力的協(xié)方差陣為= Eb?X fo? X T 1當E(V)=0時，又是一個無偏估計量，亦即 E()?) = X。由前述知X =(AtPA)AtPL由協(xié)方差傳播律可得T 1 TT_1二 X =(AtPA) ATP三LPA(AtPA)T_T_21T_1=(AT PA) AtP-oP PA( AT PA)= ；(AtPA廣因此，當且僅當 團

29、是仃2的無偏估計，則 與=?2(atpa)，是zX的無偏估計。從前述可知，只需證明2?T PV1 T 1 2E(夕；)= E| =eVtPV=? -L)t PA =0由法方程，又可得ltpa =父 tatpa根據(jù)以上關系，可得vtpv _VtpV? =()?_x)tatpa()?_x)其中V = AX _LV = AX -L(注：證明YTAY =Trace(YYTA)因為 YTAY 是標量，所以 Tr(YTAY)=YTAY,所以Tr(YTA)Y)=Tr(Y(YTA),所以YTAY =Trace(YYTA)所以，VTpV = Trace(VVT二：三V1) -Trace(X-X)(X-X)】：三

30、力所以，E(VTPV)=二02ETrace(VVT三)匚：2ETrace(X -X)(X - X)T 1X1)1= ；Trace(EVvT 三V1) -二：Trace(E (* - X)()? - X)T 三，)= c ；Trace(EVvT 七力-二；Trace(E (X -X)(X -X)T 七)因此，如果有n個觀測值和u個未知量，則有E“tpV）=、二：Trace（三v 三一 -二:Trace（三,三？）2o o （TraceIn -Tracelu）= c 2（n -u）得證。因此，本節(jié)我們分別定義了 仃2的無偏估計圖2,以及工父的無偏估計？X?7最小二乘點估計：非線性數(shù)學模型三個環(huán)節(jié)：

31、線性化、法方程、最小二乘點估計。非線性數(shù)學模型的線性化數(shù)學模型的分類：參數(shù)法、條件法、組合法。泰勒級數(shù)展開。線性化舉例兩個例子：直線擬合（組合法）、測角三角形（參數(shù)加條件）。導出法方程組合法模型A? BV? W = 0運用拉格朗日乘數(shù)法導出法方程。導出法方程解的顯式過程類似帶參數(shù)的條件平差，不詳述。導出協(xié)方差陣過程類似帶參數(shù)的條件平差，不詳述。8多變量區(qū)間估計和假設檢驗介紹多變量的區(qū)間估計是對單變量區(qū)間估計的一個推廣，令常見的分布函數(shù)帶有多個隨機變量。多變量的假設檢驗將給出一些量的置信區(qū)間（假設觀測量都服從正態(tài)分布）。方差因子檢驗在組合法模型中，自由度為 u = r -u ；在參數(shù)法模型中，u

32、 = n - u。則有2()上述卡方隨機變量的概率為2則，關于；:0的置信區(qū)間為22Ho：二2 =(二2)H需要注意的是，拒絕零假設除了因為仃2的假設值不正確，還可能是由于:1）數(shù)學模型缺陷；2）殘差向量中的隨機變量不服從正態(tài)分布。上述兩條也可以作為零假設來進行檢驗，但要記住一次只能對一個量進行檢驗。兩個方差因子比值的檢驗統(tǒng)計量為（1（;喻1）/.- = （1/（二0）1d F（：1,. 2）2（二?0）2（苗）2/（。0）22）/2（二 2）2其中* =n1 -u或者5=r1 u , u2 =n2 u或者u2 = r2 u。則隨機變量的概率（盤）1/（二（2）1P（Fp _ （ 0）1 （

33、V1 M Fp）=:1（%2/（二：）22關于（仃2）2/（仃；）1的置信區(qū)間為I （O ）1/._2（-0 ）l被檢驗的零假設為/ - 2、（-0 1H 0 .2（二 0）1_ 2八當方差因子已知時檢驗參數(shù)X與其估值史的偏差統(tǒng)計量為（資X）T4（霓X） d 2（u）其中則隨機變量的概率為P（0M（）? X）T 4（資 X）M 2）=:被檢驗的零假設為H0:X =Xh也就是當計算值(*X)F()? X) P時，零假設被拒絕。2c當方差因子。未知時檢驗參數(shù)X與其估值力的偏差統(tǒng)計量為(*-*),三？(一*) d/C%()/二。2 dF(u1) 2( )/整理可得(的飛(,一)dF(u,)其中則隨機

34、變量的概率為p(04(望 - X)T ?X(X? X) u相關的置信區(qū)間為。產 x)y)這個置信區(qū)間的范圍由超橢球面方程給出(資-X)T ?X1(望-X) =uFp其中，uF P為長橢球面方程常數(shù)。將坐標系原點平移到向量望描述的位置，則上述方程變?yōu)閄T?X =uFp考慮二維情形，即u = 2 ,則有XT?X1X -2FP或者ri離黛,？1】_”ki X222= 2Fp闋?卜2 一這是一個橢圓方程。類似的，在三維情形下XT?X =3Fp或者k1x2x3 夕21夕2產31夕32解 喏3 盤這是一個橢球方程。 注意在上述兩個例子中,方程中含有交叉乘積項,這是因為主對角元以外的元素并不為零?？梢酝ㄟ^將

35、坐標系旋轉e角使得較差乘積項為零，這個日角由？皿的一個特征向量的元素計算得到。 這個特征向量給出了最大和最小方差的方向，后者就是特征值。例如，在二維情形下，經過上述旋轉變換，可以得到橢圓方程1 y2：ax|L 0二?min被檢驗的零假設為Ho：X =Xh也就是當計算值（X?-x）T?;?1（?-x）時，零假設被拒絕。9分割數(shù)學模型并非所有的最小二乘估計問題都能方便地用組合法模型來表達，需要對該模型做一些補充。這里僅介紹四種分割模型的策略。本章在闡述四種補充的使用時考慮它們在衛(wèi)星定位中的應用。我們假設觀測值 L已經通過某這些觀測值跟地面站坐標以及衛(wèi)星坐標都是相關的,些手段從一個或者多個地面站獲得

36、。們共同構成了未知參數(shù)X。9.1剔除“麻煩”的參數(shù)衛(wèi)星的坐標某種程度上來說是一個“麻煩”的參數(shù)，我們希望將它們從解中分離出來，因此我們將X分割為地面站坐標，記為 X1 ,以及衛(wèi)星坐標，記為 X2。則組合法模型變?yōu)镕(Xi,X2,L) =0其中Xi = X10XiX2 =X0 X20Xi = Xi0Xi觀測值L的權陣為運用泰勒級數(shù)展開將其線性化，得到W AXi 4X2 BV =0或者W AX BV =0,Xi其中 A = n : A2 , X =。乂 一在最小二乘原則下，導出法方程V =VTp?+2qT(w +aX1 +a2X2 +bV)-=2VTP 2K?TB = 0 A?PV? BTK? =

37、02必ta -0c 2K A 0 XAt4 = 0F =2-4 =0X2A：k? = 0則法方程為P BT 0B 0 A20 AT 00 A1T 0用第七章的方法消去上述方程中的I-bpbtI ATJ AT進一步消去方程中的得01“IA百W=00X2r00 -1X110 _弋，得AAl一RIW100兄+0=000*4aT(BP JB)JA1 AT (BPB)AaT(bp_1b)_1wAt(bp/b)wA2T(BPB)At(bpb)a2上式可以簡化寫作N22 N21|/?2+ U 2 I卜 12 N11- 1兄- L-消去刈,可得兄=-(Nn -N12N2：N21)(U1 -、2N；5)將X1回

38、代，可得兄=-N22(N21)?1 U2)進一步，可得心酰電廠八兄+AX1+W)二一P9必最終9.2附加觀測值假設有兩組觀測值，來自相同的地面站Fi (X, L1) =0F2(X,L2)=0其中=X0 X=L1V1L2=L2 V2且，觀測值 L的權陣為P1 =仃：工;，觀測值L2的權陣為 巳=。：工： 將兩個非線性函數(shù)線性化，效仿上一節(jié)，可得w AX B1Vl =0W2 A2X B2V2 = 0合并W AX BV其中aA1B= B1一00【B2同上一節(jié)，法方程為-R 0B1 I 0 .00P2 0B20B1T000at0BT00AT0 1 0 AA0K?2-010皿W2IP 一20B2L00_

39、BPB；0at00 A A2 0一-BF,B1T0at0-B2 P2bTaTAlA 0K【 |K?2消去Ki,可得A2AT(BiP,BiT)，Ai|aT (BiP,BiyWi.最后消去k?2 ,可得父=(Abf/b：)- + aT(b2P2bT)，a2)(aT (BP/Bt),W + aT(b2P2/bT),W2)進一步，可解出K2 =(b2p2,b；)(a2X w)冗=(BFBT)(A* W)V =-P21b；心V = -pbt k?i最后X =x0 X未知參數(shù)間附加約束條件數(shù)學模型F(X,L) =0F(X) =0(附加約束條件)將上述模型線性化，可得叫 A2X =0合并W AX BV U0

40、其中A ；AA仄B ? 01B!。.求解法方程，令巾=?tP? + 2I?T W +A1)? + B?) + 2I?T (W2 + A2X)分別對V?和）？求導，并令其為零，可分別得到PV? BTK1T =0ATK aTK2 =0則法方程為PB00bT0A；0同前面的處理手法，依次消去0V?、0 A0A2層=(A2(A1T (BP4BT)4A1) jaT)(W2 -A2(aT(BPBT)A)aT)BPBT)W1)X = -(aT(bp,bT)4a)4(aTK2 aT(bp,bT),wi)K =(bp1bT)1(a1)?+wi)V- -pbTKiV =x0 X未知參數(shù)定權數(shù)學模型F(X,L)=0

41、線性化可得W AX BV =0、 、一V PV 0這里與前文發(fā)生變化的是，殘差向量變成| 權陣變成了 | V|X_10 Px其中R =二;三PX =1一0 ：X0工X 0是未知參數(shù)的先驗協(xié)方差陣。 X上述數(shù)學模型可以合并為W BV =0其中b = B a!在VTRV? )?TPX)?-min準則下，令)VTrV? 如 Px? 2K?t(W A)? BV?)戶分別對V?和叉求導，并令其為零，可分別得到R? BTKT =0巳義 atkt =0則法方程為R 0 BT1VI一 010PxATX+0_BA0.1Ki iW 一同前文處理手法，依次消去 V、X,可得K =（brbt arat）wX - -p

42、xatKV= -rbtK需要注意的是，這樣的結果并不令人滿意，因為PX有可能退化成奇異矩陣，這樣它的逆矩陣就不存在，上述解也就沒法給出，所以要想辦法消去解中的P。PvBT 01 1一 01B0 AK+ WJATPx 一K-0JX = -（px at（bp/bt）a）at（brbt）wK =（br,bt）（aX w）V = _rbtKX =x X*10逐次最小二乘估計為了解決超大型方程組，考慮將其分解成若干個小的方程組，當然這樣處理后得出的結果必須服從原方程組的解。引出逐步最小二乘法的概念。10.1序貫最小二乘表達參數(shù)數(shù)學模型F(X)一匚=0線性化，得到AX -V W =0應用最小二乘原則，得到法方程P -I 01 -VI一 01-I0 A jW-0at 0j -哭i iJPy 00：Pk-,一-I00-I010MJVk-0 10:-I000:-I ： ,0:00