1、第29卷 第3期2008年5月技術(shù)與創(chuàng)新管理Vo.l29 No 3May 2008技術(shù)應(yīng)用與研究MATLAB在粗差探測中的應(yīng)用*盧 輝,蘇 杉,唐弼時(shí)23(1.西安科技大學(xué)測量工程系,陜西西安710054;2.中國有色金屬工業(yè)西安勘察設(shè)計(jì)研究院,陜西西安710054;3.武漢大學(xué)測繪學(xué)院,湖北武漢430079)摘 要:測量工作中,觀測數(shù)據(jù)可能會(huì)帶有粗差,從而給數(shù)據(jù)處理帶來困難,因此必須及時(shí)的發(fā)現(xiàn)并剔除觀測數(shù)據(jù)中的粗差。基于粗差檢驗(yàn)的原理,利用MATLAB強(qiáng)大的計(jì)算能力用于粗差探測中,通過對實(shí)例從整體和局部進(jìn)行假設(shè)檢驗(yàn)分析,結(jié)果表明是有效的,可行的。關(guān)鍵詞:粗差;MATLAB;假設(shè)檢驗(yàn)中圖分類號(hào)

2、:P207 文獻(xiàn)標(biāo)識(shí)碼:A 文章編號(hào):1672-7312(2008)03-0291-04TheApplicationofMATLABtoGrossErrorDetectionLUHui,SUShan,TANGBi shi23(1.DepartmentofSurveyEngineering,Xi!anUniversityofScienceandTechnology,Xi!an710054,China;2.Xi!anEngineeringInvestigationandDesignResearchInstituteofChinaNationalNonferrousMetalsIndustry,Xi

3、!an710054,China;3.SchoolofGeodesyandGeometrics,Wuhan430079,China)Abstract:Insurvey,grosserrorsmayoccurintheobservingdate,whichbringsdifficultiestothedata processing.Therefore,thegrosserrorsmustbedetectedandomittedtimely.Basedontheprincipleofgrosserrortesting,andusingthepowerfulcomputingcapabilityofM

4、ATLAB,grosserrorscanbedetected.Overallandpartialhypothesistestingandanalysishavebeencarriedoutthroughexamples.Theresultisprovedtobeeffectiveandfeasible.Keywords:grosserror;MATLAB;hypothesistesting在進(jìn)行測量工作中通常都會(huì)進(jìn)行多余觀測,多余觀測使得觀測值之間必然產(chǎn)生差值(不符值、閉合差),由于觀測值中的偶然誤差不可避免,差值如果不超限,則按偶然誤差的規(guī)律加以處理,稱為閉合差的調(diào)整,以求得最可靠的數(shù)值并根

5、據(jù)差值的人小來評定測量的精度(精確程度)。但是如果差值大到一定的程度,就認(rèn)為觀測值中有錯(cuò)誤(不屬于偶然誤差),稱為誤差超限。由于觀測中存在偶然誤差,為了檢驗(yàn)觀測中是否存在粗差,需要利用統(tǒng)計(jì)檢驗(yàn)的方法,及時(shí)的發(fā)現(xiàn)觀測值中的粗差,以便將其剔除或重測。1 數(shù)據(jù)篩選原理1.1 粗差的整體檢驗(yàn)把觀測向量l分成兩部分l1和l2。其中l(wèi)1是n1維觀測向量,不包含粗差;l2是n2維的,我們懷疑它有粗差的觀測向量,用 表示粗差向量。這時(shí)運(yùn)用間接平差原理其數(shù)學(xué)模型為:l1l+V1V=A1 A2 為了從整體上判斷觀測向量中是否具有粗差,作原假設(shè)H0 。當(dāng)把原假設(shè)作為約束條件時(shí),0=0*收稿日期:2008-01-10

6、: 輝),.292技術(shù)與創(chuàng)新管理 第29卷可據(jù)此條件消除未知向量 ,即為l1l+V1 V=A1AX1.2.2 檢驗(yàn)法由于B檢驗(yàn)法要求預(yù)先知道觀測值的方差 0,但是很多情況下 0無法知道,為此Pope提出利用剔除觀測值前所求得的方差估值 =來代替r20T其中V 1, V2表示有約束條件時(shí)的改正數(shù),V1,V2為未加約束條件的改正數(shù)。運(yùn)用間接平差原理:誤差方程:l+V =AX; 母體方差估值: =r20T0組成統(tǒng)計(jì)量:i=00|vi| 0qvivi在原假設(shè)觀測值li不包含粗差時(shí),統(tǒng)計(jì)量服從自由度為r的分布,可利用概率式Pi1-(r)|H0= 對原假設(shè)進(jìn)行檢驗(yàn)。其中1-在原假設(shè)成立的條件下,對變量度為

7、r與#的中心分F布,即F(r,#)2020應(yīng)服從自由(r)用t分布的分位值按1-(r-1)rt1-2(r)=取置信水平 ,可對原假設(shè)H0(觀測值中不包含粗差)進(jìn)行檢驗(yàn)。1.2 粗差的局部檢驗(yàn)為了具體判斷哪些觀測值伴隨有粗差,可以假設(shè)只有一個(gè)觀測值l1伴隨有粗差,則數(shù)學(xué)模型為:l+V=A ei法方程式為:APAAPeieiPATiTTTT-1+t1-(r-1)21.2.3 t檢驗(yàn)法在母體方差 0未知時(shí),Heck提出了利用剔除具有粗差的觀測值li后平差求得的方差估值:( (k)0XX=APeiPTT)=r-1T(k)來代替 0,參見文獻(xiàn)1的推導(dǎo)可知(VPV)T(k)eiPeiV!k=VPV-q!V

8、k!VkT-ePV求解得到:!i=TeiPQVVPei協(xié)因數(shù)陣:Q!=(ePQVVPei)Ti-1此時(shí)統(tǒng)計(jì)量為:t=|vk| 0(k)!Vk!VkePPeiQVV=ePQVVPeieiPQVVPeiiTi在原假設(shè)H0:觀測值li不包含粗差時(shí),統(tǒng)計(jì)量t服從自由度為r-1的t分布,故可以用概率式:Ptt1-(r-1)|H0= 對原假設(shè)進(jìn)行檢驗(yàn)。為了檢驗(yàn)!I是否為粗差,作原假設(shè)H0:!i不是粗差,也即!i應(yīng)趨于零。1.2.1 B檢驗(yàn)法(也稱u檢驗(yàn)法)這種方法是利用標(biāo)準(zhǔn)正態(tài)分布來檢驗(yàn)粗差的,它是由荷蘭Baarde教授首先提出的,通常稱為B檢驗(yàn)法,利用上述計(jì)算的成果對原假設(shè)H0(第i個(gè)觀測值li不伴隨有

9、粗差)進(jìn)行檢驗(yàn)。為此,將變量!i標(biāo)準(zhǔn)化得統(tǒng)計(jì)量:|!i|-0eiPVWi=! 0(e0PQVVPei)對于一般情況,觀測值權(quán)陣P為對角陣,則上式可化簡成Wi=Wiu1- T圖1 變形監(jiān)測水準(zhǔn)網(wǎng)|vi| 0vivi利用概率式P2 實(shí) 例設(shè)有如圖1所示的變形監(jiān)測水準(zhǔn)網(wǎng),圖中箭頭表示觀測方向,圓圈中數(shù)字表示測站數(shù),水準(zhǔn)測量一0H0= 它可對原假設(shè)進(jìn)行統(tǒng)計(jì)檢驗(yàn),從|而決定觀測值是否伴隨有粗差。第3期 盧 輝等:MATLAB在粗差探測中的應(yīng)用向量(單位mm)為:h0=h12h23h31h14h24h34=450.06849.707-500.081471.32620.275-30.008試檢驗(yàn)觀測向量中是

10、否含有粗差。假設(shè)點(diǎn)1的高程H1,點(diǎn)2,3,4的高程為x2,x3,x4且設(shè)H1=0,取1,2測站之水準(zhǔn)測量誤差為單位權(quán)中誤差,即根據(jù)各段水準(zhǔn)路線的測站數(shù)可以得到權(quán)陣P,則用間接平差的方法列誤差方程V=Bx-l,并求解即可得到。下面在MATLAB中編程實(shí)現(xiàn)求解的過程,并對結(jié)果進(jìn)行假設(shè)檢驗(yàn),從而探測出可能存在的粗差。disp(!&Thebeginingofgrosserrordetection&!)P=300000;010000;003000;000600;000060;000003;Q=inv(P);d0=0.13;B=100;-110;0-10;001;-101;0-11;l=450.068;4

11、9.707;-500.081;471.326;20.275;-30.008;Nbb=B!*P*B;W=B!*P*l;Qxx=inv(Nbb);x=Qxx*W;disp(!間接平差的誤差方程為V=Bx-l:!)V1=B*x-l;V=V1!disp(!一.對原假設(shè)進(jìn)行整體檢驗(yàn)!)disp(!對原假設(shè)進(jìn)行整體F檢驗(yàn),統(tǒng)計(jì)量服從自由度為r與無窮大的中心F分布:!)disp(!F檢驗(yàn)的統(tǒng)計(jì)量為母體方差估值與單位權(quán)方差之比F=Dh/D0!)F=V*P*V1/(3*d02)disp(!因?yàn)镕F0.05(3,#)=2.6,故拒絕原假設(shè),認(rèn)為觀測值中包含有粗差值!)disp(!計(jì)算具有粗差觀測值的協(xié)因數(shù)陣Qvv

12、:!)Qvv=Q-B*inv(Nbb)*B!N=diag(Qvv);disp(!二.計(jì)算要檢驗(yàn)統(tǒng)計(jì)量的公共部分M=abs(Vi)/sqrt(Qvivi):!)M=(abs(V1)./sqrt(N)!%得到以下要檢驗(yàn)統(tǒng)計(jì)量的公共部分disp(!從M的表達(dá)式可以看出它反映了觀測值的精度,M的值越大與之對應(yīng)的觀測值很有可能含有粗差,Mmax=M(4)=1.6113即觀測值h14可能包含粗差,下面用局部統(tǒng)計(jì)檢驗(yàn)法對其進(jìn)行檢驗(yàn)!)293disp(!三.對觀測值h14進(jìn)行局部檢驗(yàn)統(tǒng)計(jì)量與假設(shè)檢驗(yàn):!)disp(!1.B檢驗(yàn)法,取置信區(qū)間 為0.05,統(tǒng)計(jì)量服從U分布:!)U=(M(4)/0.45)!%得到

13、U分布統(tǒng)計(jì)量的值disp(!UU0.975=1.96,故拒絕原假設(shè),認(rèn)為觀測值h14中包含有粗差值!)disp(!2.檢驗(yàn)法,在自由度為r=3,置信區(qū)間 為0.05,統(tǒng)計(jì)量服從分布:!)d1=sqrt(V*P*V1/3);%得到剔除粗差前的中誤差估值T=M(4)/d1%得到分布統(tǒng)計(jì)量的值disp(!由t分布在自由度為r-1=2,置信區(qū)間 為0.05的分位值,求解分布的分位值!)t1=4.30;T0=sqrt(3*t12/(3-1+t12)%求解分布在自由度為r=3,置信區(qū)間 為0.05的分位值disp(!TT0,即.645,故拒絕原0.975(3)=1假設(shè),認(rèn)為觀測值h14中包含粗差值!)di

14、sp(!3.t檢驗(yàn)法,在自由度為r-1=2,置信區(qū)間 為0.05,統(tǒng)計(jì)量服從t分布:!)d2=V*P*V1-V(4)2/N(4);d3=sqrt(d2/(3-1);%得到剔除粗差后的中誤差估值t=M(4)/d3%得到t分布統(tǒng)計(jì)量的值disp(!tt0.975(2)=4.30,故拒絕原假設(shè),認(rèn)為觀測值h14中包含有粗差值!)disp(!&Theendingofgrosserrordetection&!)運(yùn)行程序以后,可以很好探測出具有粗差的觀測值:&Thebeginingofgrosserrordetection&間接平差的誤差方程為V=Bx-l:V=0.4185 0.2691 -0.3816

15、-0.4001 0.1644 0.47131)對原假設(shè)進(jìn)行整體檢驗(yàn)對原假設(shè)進(jìn)行整體F檢驗(yàn),統(tǒng)計(jì)量服從自由度為r與無窮大的中心F分布:F檢驗(yàn)的統(tǒng)計(jì)量為母體方差估值與單位權(quán)方差之比F=Dh/D0:F=55.6945因?yàn)镕F0.05(3,#)=2.6,故拒絕原假設(shè),認(rèn)為觀測值中包含有粗差值計(jì)算具有粗差觀測值的協(xié)因數(shù)陣Qvv:2940.18720.0959Qvv=0.0502-0.06850.0776-0.0183M=0.9673技0.09590.78080.12330.0137-0.08220.13700.30450.05020.12330.15980.05480.0046-0.11870.9546

16、術(shù)與創(chuàng)新管理 第29卷-0.01830.1370-0.1187-0.0502-0.03200.1644-0.06850.01370.05480.0616-0.0365-0.05020.0776-0.08220.0046-0.03650.0525-0.03201.16252)計(jì)算要檢驗(yàn)統(tǒng)計(jì)量的公共部分M=abs(Vi)/sqrt(Qvivi):1.61130.7175從M的表達(dá)式可以看出它反映了觀測值的精度,M的值越大與之對應(yīng)的觀測值很有可能含有粗差,Mmax=M(4)=1.6113即觀測值h14可能包含粗差,下面用局部統(tǒng)計(jì)檢驗(yàn)法對其進(jìn)行檢驗(yàn)。3)對觀測值h14進(jìn)行局部檢驗(yàn)統(tǒng)計(jì)量與假設(shè)檢驗(yàn):B檢

17、驗(yàn)法,取置信區(qū)間 為0.05,統(tǒng)計(jì)量服從U分布:U=3.5808UU0.975=1.96,故拒絕原假設(shè),認(rèn)為觀測值h14中包含有粗差值(檢驗(yàn)法,在自由度為r=3,置信區(qū)間 為0.05,統(tǒng)計(jì)量服從分布:T=1.6609由t分布在自由度為r-1=2,置信區(qū)間 為0.05的分位值,求解分布的分位值T0=1.6453TT0,即.645,故拒絕原假設(shè),0.975(3)=1認(rèn)為觀測值h14中包含粗差值。)t檢驗(yàn)法,在自由度為r-1=2,置信區(qū)間 為0.05,統(tǒng)計(jì)量服從t分布:t=4.7801tt0.975(2)=4.30,故拒絕原假設(shè),認(rèn)為觀測值h14中包含有粗差值&Theendingofgrosserr

18、ordetection&由上述計(jì)算過程可知,從整體檢驗(yàn)過程可知觀測值具有粗差,然后進(jìn)一步用三種統(tǒng)計(jì)量從局部檢驗(yàn)來定位粗差出現(xiàn)的位置h14,剔除具有粗差的觀測值h14以后,可以重復(fù)上述過程,逐一剔除觀測值中包含的粗差觀測值,然后重新進(jìn)行平差計(jì)算,直至沒有粗差存在即為良好的觀測值。3 結(jié) 語在測量中,觀測中的粗差是不允許存在的,系統(tǒng)誤差可通過一定的觀測程序得到清除或減弱,偶然誤差的存在可以通過平差方法加以處理。而如果在監(jiān)測資料中存在粗差,無論是是出現(xiàn)的位置還是大小,都是事先無法預(yù)知的,而且粗差僅影響極個(gè)別的觀測數(shù)據(jù),因此會(huì)對后續(xù)的變形分析和解釋帶來困難,甚至帶來錯(cuò)誤的結(jié)論。利用MATLAB編程少,計(jì)算能力強(qiáng),運(yùn)算結(jié)果可視化程度高的特點(diǎn)運(yùn)用于粗差的探測中,為粗差的探測提供了一種好的方法,并在實(shí)際的數(shù)據(jù)處理過程中很容易被廣大工作者接受。參考文獻(xiàn):1 黃聲享,尹 暉,蔣 征.變形監(jiān)測數(shù)據(jù)處理M.武漢:武漢大學(xué)出版社,2002.2 朱建軍.控制網(wǎng)起算數(shù)據(jù)中的粗差探測J.礦山