檢測數(shù)據(jù)修約處理PPT_第1頁
檢測數(shù)據(jù)修約處理PPT_第2頁
檢測數(shù)據(jù)修約處理PPT_第3頁
檢測數(shù)據(jù)修約處理PPT_第4頁
檢測數(shù)據(jù)修約處理PPT_第5頁
已閱讀5頁,還剩22頁未讀, 繼續(xù)免費(fèi)閱讀

下載本文檔

版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進(jìn)行舉報(bào)或認(rèn)領(lǐng)

文檔簡介

1、檢測數(shù)據(jù)修約處理,GB/T8170-2008 2015.04.14,目錄,術(shù)語 確定修約位數(shù)的表達(dá)方式 進(jìn)舍規(guī)則 不連續(xù)修約 0.5單位修約及0.2單位修約 計(jì)算法則(參考上海市計(jì)量檢定人員計(jì)量基礎(chǔ)知識(shí)培訓(xùn)教材),術(shù)語,數(shù)值修約 通過省略原數(shù)值的最后若干位數(shù)字,調(diào)整所保留的末位數(shù)字,使最后所得到的值最接近原數(shù)值的過程。 注:經(jīng)數(shù)值修約后的數(shù)值稱為修約值。,10.41,10.4,數(shù)值修約,原始數(shù)值,修約值,10.5,有效數(shù)字 該數(shù)值從其第一個(gè)不是零的數(shù)字起到最末一位數(shù)的全部數(shù)字即為有效數(shù)字。例1:3.2,0.32,0.032,0.0032均為兩位有效位數(shù);0.0320為三位有效位數(shù)。例2:12.

2、490為五位有效位數(shù);10.00為四位有效位數(shù)。 例3:1.35cm =13.5 mm =0.0135m ,這三種表示法完全等效,均為三位有效數(shù)字。,2200 2203 2210 ,58600 58611 58670 ,確定修約位數(shù)的表達(dá)方式,確定修約位數(shù)的表達(dá)方式,指定數(shù)位(指定修約間隔); 指定將數(shù)值修約成n位有效位數(shù)。,進(jìn)舍規(guī)則,四舍六入 逢五取偶,擬舍棄數(shù)字最左一位數(shù)字小于5,則舍去,保留其余各位數(shù)字不變 例1:將12.1498修約到個(gè)位數(shù)(即 修約間隔為1),得12;將12.1498修約到1位小數(shù)(即 修約間隔為0.1),得12.1 。 擬舍棄數(shù)字最左一位數(shù)字大于5 ,或者是5,而其

3、后跟有并非全部為0的數(shù)字時(shí),則進(jìn)一,即保留的末位數(shù)字加1。 例2:將1268修約到“百”數(shù)位,得1300。 例3:將10.502修約到個(gè)數(shù)位,得11。,擬舍棄數(shù)字的最左一位數(shù)字為5,而右面無數(shù)字或皆為0時(shí), 若所保留的末位數(shù)字為奇數(shù)(1,3,5,7,9)則進(jìn)一, 若所保留的末位數(shù)字為偶數(shù)(2,4,6,8,0)則舍棄。 (逢五取偶) 例1:1.050修約到1位小數(shù),得1.0 。 例2:0.35 修約到1為小數(shù),得0.4 。,負(fù)數(shù)修約時(shí),先將它的絕對值按數(shù)字進(jìn)舍規(guī)則(四舍六入 逢五取偶)進(jìn)行修約,然后在修約值前面加上負(fù)號(hào)。 例:將下列數(shù)字修約到三位小數(shù) 擬修約數(shù)值 修約值 -0.0365-0.03

4、6,0.0365,絕對值,不連續(xù)修約,1、擬修約數(shù)字應(yīng)在確定修約位數(shù)后一次修約獲得結(jié)果,而不得多次按進(jìn)舍規(guī)則連續(xù)修約。 例如:修約15.4546,修約間隔為1 正確的做法: 15.454615 不正確的做法: 15.454615.45515.4615.516,2、在具體實(shí)施中,有時(shí)測試與計(jì)算部門先將獲得數(shù)值按指定的修約位數(shù)多一位或幾位報(bào)出,而后由其他部門判定。為避免產(chǎn)生連續(xù)修約的錯(cuò)誤,應(yīng)按下述步驟進(jìn)行。,報(bào)出數(shù)值最右的非零數(shù)字為5時(shí),應(yīng)在數(shù)值后面加“()”或“()”或不加符號(hào),以分別表明已進(jìn)行過舍、進(jìn)或未舍未進(jìn)。 例:16.50()表示實(shí)際值大于16.50,經(jīng)修約舍棄成為16.50; 16.5

5、0()表示實(shí)際值小于16.50,經(jīng)修約進(jìn)一成為16.50。,如果報(bào)出值需要進(jìn)行修約,當(dāng)擬舍棄數(shù)字的最左一位數(shù)字為5而后面無數(shù)字或皆為零時(shí),數(shù)值后面有(+)號(hào)者進(jìn)一,數(shù)值后面有(-)號(hào)者舍去,其他仍按數(shù)字修約規(guī)則進(jìn)行。 例:將下列數(shù)字修約到個(gè)數(shù)位(報(bào)出值多留一位到一位小數(shù))。 實(shí)測值 報(bào)出值修約值 15.4546 15.5(一) 15 -15.4546-15.5(一) -15 16.5203 16.5() 17 -17.5000 -17.5 -18,0.5單位修約及0.2單位修約,0.5單位修約(半個(gè)單位修約) 指修約間隔為指定數(shù)位的0.5單位,即修約到指定數(shù)位的0.5單位。 修約方法:將擬修約

6、數(shù)值乘以2,按指定數(shù)位依數(shù)字修約規(guī)則修約,所得數(shù)值再除以2。 例:將下列數(shù)字修約到個(gè)數(shù)位的0.5單位,擬修約數(shù)值X 2X 2X修約值 X修約值 60.25 120.50 120 60.0 60.38 120.76 121 60.5 60.28 120.56 121 60.5 -60.75 -121.50 -122 -61.0,0.2單位修約 指修約間隔為指定數(shù)位的0.2單位,即修約到指定數(shù)位的0.2單位。 修約方法:將擬修約數(shù)值乘以5,按指定數(shù)位依數(shù)字修約規(guī)則修約,所得數(shù)值再除以5。 例:將下列數(shù)字修約到 “百”數(shù)位的0.2單位(或修約間隔為20),計(jì)算法則,參考上海市計(jì)量檢定人員 計(jì)量基礎(chǔ)知

7、識(shí)培訓(xùn)教材,加減運(yùn)算,計(jì)算結(jié)果的末位數(shù)位,應(yīng)與參加運(yùn)算數(shù)據(jù)中的末位數(shù)位最大的位數(shù)相同。 對帶小數(shù)點(diǎn)的運(yùn)算,計(jì)算結(jié)果小數(shù)點(diǎn)后保留的位數(shù)應(yīng)與參加運(yùn)算數(shù)據(jù)里小數(shù)點(diǎn)后末位最左的位數(shù)相同。 例:1.5+0.42=1.92=1.9,乘除運(yùn)算,計(jì)算結(jié)果的位數(shù),應(yīng)與參加運(yùn)算數(shù)據(jù)里有效數(shù)字最小的位數(shù)相同。 例:0.160*2.6=0.4160=0.42,平方或開方運(yùn)算,運(yùn)算結(jié)果與原來數(shù)據(jù)里有效位數(shù)相同。 例:1.42=1.96 =2.0 1.233=1.5129=1.51,對數(shù)運(yùn)算,所取對數(shù)位數(shù)應(yīng)與真數(shù)有效數(shù)字位數(shù)相等。 例:lg12.3=1.09,混合運(yùn)算,先開方或乘方,并修約,再乘除,進(jìn)行修約,最后進(jìn)行加減,并對結(jié)果進(jìn)行修約。 乘除 注:以有效數(shù)位數(shù)最少的數(shù)據(jù)為準(zhǔn),其

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫網(wǎng)僅提供信息存儲(chǔ)空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負(fù)責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

最新文檔

評論

0/150

提交評論