數(shù)值修約規(guī)則與極限數(shù)值的表示和判定_第1頁
數(shù)值修約規(guī)則與極限數(shù)值的表示和判定_第2頁
數(shù)值修約規(guī)則與極限數(shù)值的表示和判定_第3頁
數(shù)值修約規(guī)則與極限數(shù)值的表示和判定_第4頁
數(shù)值修約規(guī)則與極限數(shù)值的表示和判定_第5頁
已閱讀5頁,還剩38頁未讀 繼續(xù)免費閱讀

下載本文檔

版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進行舉報或認領(lǐng)

文檔簡介

1、,幾個問題,1、誤差與偏差、絕對誤差與相對誤差、精密度與準確度分別有何區(qū)別? 2、用萬分之一天平稱取物品的質(zhì)量為0.0236g,該測量結(jié)果的有效數(shù)字位數(shù)為多少?準確的數(shù)字是那些? 3、計算12.365+5.1+8.73.4525=?(結(jié)果不參與后續(xù)運算) 4、在鋼材物理性能拉伸試驗中,測得的斷后伸長為74.37mm,則該斷后伸長的報出值為 ?,主要內(nèi)容,一、誤差理論的相關(guān)概念; 二、有效數(shù)字的概念及運算規(guī)則; 三、數(shù)值修約的規(guī)則及技巧; 四、極限數(shù)值的表示與判定;,一、誤差理論的相關(guān)概念,1、測量誤差的定義:,客觀真實值(未知),測量誤差 = 測得值 - 真值,-測量所得數(shù)據(jù)與其相應(yīng)的真值之差

2、,1)誤差(絕對誤差),x = x x0,2)相對誤差,-測量的絕對誤差與被測量的真值之比,絕對誤差很小,表示:百分數(shù)(%)- 分子分母量綱相同,例:質(zhì)量G1=50g,誤差1=2g;質(zhì)量G2=2kg,誤差2=50g,- G2的測量效果較好,確切反映測量效果:被測量的大小不同 - 允許的測量誤差不同,被測量的量值小 - 允許的測量絕對誤差也越小,1、測量誤差的定義:,2、誤差的分類:,按誤差來源:裝置誤差、環(huán)境誤差、方法誤差、人員誤差, 系統(tǒng)誤差(System error),由特定原因引起、具有一定因果關(guān)系并按確定規(guī)律產(chǎn)生,按掌握程度:已知誤差、未知誤差,按特性規(guī)律:系統(tǒng)誤差、隨機誤差、粗大誤差

3、,- 有規(guī)律可循,理論分析/實驗驗證 - 原因和規(guī)律 - 減少/消除, 隨機誤差(Random error),因許多不確定性因素而隨機發(fā)生,偶然性(不明確、無規(guī)律),概率和統(tǒng)計性處理(無法消除/修正), 粗大誤差(Abnormal error),檢測系統(tǒng)各組成環(huán)節(jié)發(fā)生異常和故障等引起,按變化速度:靜態(tài)誤差、動態(tài)誤差,3、精密度與準確度的區(qū)別與聯(lián)系:,1)精密度,指多次重復(fù)測定同一量時各測定值之間彼此相符合的程度,精密度是指量具能區(qū)分出微量的程度,亦即量具能區(qū)分之最小距離,此精密度在量具制造時已決定。,精密度是表示測量的再現(xiàn)性,是保證準確度的先決條件,但是高的精密度不一定能保證高的準確度。,表征

4、測定過程中隨機誤差的大小。,好的精密度是保證獲得良好準確度的先決條件,一般說來,測量精密度不好,就不可能有良好的準確度。反之,測量精密度好,準確度不一定好,這種情況表明測定中隨機誤差小,但系統(tǒng)誤差較大。,3、精密度與準確度的區(qū)別與聯(lián)系:,2)準確度,指在一定實驗條件下多次測定的平均值與真值相符合的程度,以誤差來表示。它用來表示系統(tǒng)誤差的大小。,測量儀器的準確度指測量儀器給出接近于真值的響應(yīng)能力。準確度只是一個定性概念而無定量表達。測量誤差的絕對值大,其準確度低。,3)二者聯(lián)系 任何測量都要求精確。精確性是評價觀測成果優(yōu)劣的準確度與精密度的總稱。準確度是指在對某一個量的多次觀測中,觀測值對該量真

5、值的偏離程度,觀測值偏離真值愈小,則準確度愈高。精密度簡稱精度,指在某一個量的多次觀測中,各觀測值之間的離散程度,若觀測值非常集中則精度高;反之則低。一個觀測列可能精度高而準確度低,也可能精度低而準確度高。,3、精密度與準確度的區(qū)別與聯(lián)系:,4、偏差:,一個值減去其參考值,成為偏差。,這里的一個值是指測量得到的值,參考值是指設(shè)定值、應(yīng)有值或標稱值。,偏差=實際值標稱值,尺寸偏差=實際尺寸應(yīng)有參考尺寸,加工一個準確值為1kg的砝碼,實際加工的為1.002kg,此時偏差為+0.002kg;如果砝碼按1kg使用,則有-0.002kg的示值誤差。,偏差與誤差等值相反。,解決偏差問題,需要對砝碼進行修正

6、,修正值為+0.002kg,修正值對測量值而言,而偏差是對標稱值而言。,二、有效數(shù)字的概念及運算規(guī)律,1、有效數(shù)字:,把準確數(shù)字加上最后一位有實際意義的估計數(shù)字總稱為有效數(shù)字。,2、有效位數(shù):,測量結(jié)果用且只用它的有效數(shù)字表示,有效數(shù)字的個數(shù)叫作有效位數(shù)。,3、儀器讀數(shù)規(guī)則,(1) 刻度式儀表,在最小分度值后要估讀一位 (2) 數(shù)字顯示儀表,直接讀取儀表的示值。 (3) 游標類量具,讀到游標分度值的整數(shù)倍。,刻度式儀表,5.737mm,5.5000.237,數(shù)顯儀表及有十進步式標度盤的儀表,游標類量具,49.000.8249.82mm,在科學(xué)實驗中,為了得到準確的測量結(jié)果,不僅要準確地測定各種

7、數(shù)據(jù),而是還要正確地記錄和計算。分析結(jié)果的數(shù)值不僅表示試樣中被測成分含量的多少,而且還反映了測定的準確程度。所以,記錄實驗數(shù)據(jù)和計算結(jié)果應(yīng)保留幾位數(shù)字是一件很重要的事,不能隨便增加或減少位數(shù)。例如用重量法測定膠中TVOC含量時,若稱取試樣重為0.2187克,經(jīng)過一系列處理后,得到固體重0.2132克,則其百分含量為: TVOC % =(0.0055/0.2187)100%2.1514860539%,上述分析結(jié)果共有11位數(shù)字,從運算來講,并無錯誤,但實際上用這樣多位數(shù)的數(shù)字來表示上述分析結(jié)果是錯誤的,它沒有反映客觀事實,因為所用的分析方法和測量儀器不可能準確到這種程度。那么在分析實驗中記錄和計

8、算時,究竟要準確到什么程度,才符合客觀事實呢?這就必須了解“有效數(shù)字”的意義。,有效數(shù)字是指在分析工作中實際上能測量到的數(shù)字。記錄數(shù)據(jù)和計算結(jié)果時究竟應(yīng)該保留幾位數(shù)字,須根據(jù)測定方法和使用儀器的準確程度來決定。在記錄數(shù)據(jù)和計算結(jié)果時,所保留的有效數(shù)字中,只有最后一位是可疑的數(shù)字。,1、有效數(shù)字的意義及位數(shù),例如: 坩堝重18.5734克 六位有效數(shù)字 標準溶液體積24.41毫升 四位有效數(shù)字 由于萬分之一的分析天平能稱準至0.0001克,滴定管的讀數(shù)能讀準至0.01毫升,故上述坩堝重應(yīng)是18.57340.0001克,標準溶液的體積應(yīng)是24.410.01毫升,因此這些數(shù)值的最后一位都是可疑的,這

9、一位數(shù)字稱為“不定數(shù)字”。在分析工作中應(yīng)當使測定的數(shù)值,只有最后一位是可疑的。,1、有效數(shù)字的意義及位數(shù),有效數(shù)字的位數(shù),直接與測定的相對誤差有關(guān)。例如稱得某物重為0.5180克,它表示該物實際重量是0.51800.0001克,其相對誤差為: (0.0001/0.5180)100%0.02%,1、有效數(shù)字的意義及位數(shù),如果少取一位有效數(shù)字,則表示該物實際重量是0.5180.001克,其相對誤差為: (0.001/0.518)100%0.2%,1、有效數(shù)字的意義及位數(shù),表明測量的準確度后者比前者低10倍。所以在測量準確度的范圍內(nèi),有效數(shù)字位數(shù)越多,測量也越準確。但超過測量準確度的范圍,過多的位數(shù)

10、是毫無意義的。 必須指出,如果數(shù)據(jù)中有“0”時,應(yīng)分析具體情況,然后才能肯定哪些數(shù)據(jù)中的“0”是有效數(shù)字,哪些數(shù)據(jù)中的“0”不是有效數(shù)字。,1、有效數(shù)字的意義及位數(shù),例如: 1.0005 五位有效數(shù)字 0.5000;31.05% ;6.023102 四位有效數(shù)字 0.0540;1.8610-5 三位有效數(shù)字 0.0054;0.40% 兩位有效數(shù)字 0.5 ; 0.002% 一位有效數(shù)字 在1.0005克中的三個“0”,0.5000克中的后三個“0”,都是有效數(shù)字;在0.0054克中的“0”只起定位作用,不是有效數(shù);在0.0540克中,前面的“0”起定位作用,最后一位“0”是有效數(shù)字。同樣,這些

11、數(shù)值的最后一位數(shù)字,都是不定數(shù)字。,1、有效數(shù)字的意義及位數(shù),因此,在記錄測量數(shù)據(jù)和計算結(jié)果時,應(yīng)根據(jù)所使用的儀器的準確度,必須使所保留的有效數(shù)字中,只有最后一位數(shù)是“不定數(shù)字”。例如,用感量為百分之一克的臺秤稱物體的重量,由于儀器本身能準確稱到0.0l克,所以物體的重量如果是10.4克,就應(yīng)寫成10.40克,不能寫成10.4克。 分析化學(xué)中還經(jīng)常遇到pH、lgK等對數(shù)值,其有效數(shù)字的位數(shù)僅取決于小數(shù)部分數(shù)字的位數(shù),因整數(shù)部分只說明該數(shù)的方次。例如,pH12.68,即H+2.1l0-13mol/L,其有效數(shù)字為兩位,而不是四位。,2、有效數(shù)字的運算規(guī)則 加減法,例如0.0121+25.64+1

12、.05782=? 5.2727+0.075+3.7+2.12=?,2、有效數(shù)字的運算規(guī)則 加減法,當幾個數(shù)據(jù)相加或相減時、它們的和或差的有效數(shù)字的保留,應(yīng)以小數(shù)點后位數(shù)最少,即絕對誤差最大的數(shù)據(jù)為依據(jù)。,因此,0.0121應(yīng)寫成0.01;1.05782應(yīng)寫成1.06;三者之和為: 0.01+25.64+1.0626.71 在大量數(shù)據(jù)的運算中。為使誤差不迅速積累,對參加運算的所有數(shù)據(jù),可以多保留一位可疑數(shù)字(多保留的這一位數(shù)字叫“安全數(shù)字”)。如計算5.2727、0.075、3.7及2.12的總和時,根據(jù)上述規(guī)則,只應(yīng)保留一位小數(shù)。但在運算中可以多保留一位,故5.2727應(yīng)寫成5.27;0.07

13、5應(yīng)寫成0.08;2.12應(yīng)寫成2.12。因此其和為: 5.27+0.08+3.7+2.1211.17 然后、再根據(jù)修約規(guī)則把11.17整化成11.2。,3、有效數(shù)字的運算規(guī)則 乘除法,求0.012125.641.05782=? 0.345117.92.0786=?,3、有效數(shù)字的運算規(guī)則 乘除法,幾個數(shù)據(jù)相乘除時,積或商的有效數(shù)字的保留,應(yīng)以其中相對誤差最大的那個數(shù),即有效數(shù)字位數(shù)最少的那個數(shù)為依據(jù)。,3、有效數(shù)字的運算規(guī)則 乘除法,設(shè)此三數(shù)的最后一位數(shù)字為可疑數(shù)字,且最后一位數(shù)字都有1的絕對誤差,則它們的相對誤差分別為: 0.0121:1/12110008 25.64: 1/2564100

14、00.4 1.05782:1/10578210000.009 第一個數(shù)是三位有效數(shù)字,其相對誤差最大,以此數(shù)據(jù)為依據(jù),確定其他數(shù)據(jù)的位數(shù),即按規(guī)則將各數(shù)都保留三位有效數(shù)字然后相乘: 0.012125.61.06 = 0.328 若是多保留一位可疑數(shù)字時,則 0.012125.641.058 = 0.3282 然后再按“四舍六入五留雙”規(guī)則,將0.3282,改寫成0.328。,4、有效數(shù)字的運算規(guī)則 乘方、開方運算,例如, 6.54 =?,進行數(shù)值乘方或開方時, 結(jié)果有效數(shù)字位數(shù)不變。 6.54 =42.8,2,2,5、幾點注意,1、計算公式中的常數(shù)如 、 等都是正確數(shù),在運算中可以根據(jù)需要截取

15、其有效位數(shù),2、首位數(shù)字為8、9的數(shù)字,其有效數(shù)字可比實際的位數(shù)多一位,如8749可認為其為5為有效數(shù)字,923可認為其為4位有效數(shù)字,3、為減少數(shù)字的舍入誤差,對參與運算的各有效數(shù)字進行修約時,可比實際需要多保留一位,0.038659.41.327 = ? 若是多保留一位可疑數(shù)字時,則 0.038659.41.327 =,三、數(shù)值修約的規(guī)則及技巧,1、數(shù)值修約規(guī)則,(1) 四舍六入五湊雙 具體的做法是, 1、擬舍棄數(shù)字最左一位數(shù)字4時將其舍去; 2、擬舍棄數(shù)字最左一位數(shù)字6時就進一位; 3、如果擬舍棄數(shù)字最左一位數(shù)字為5而后面的數(shù)為0時,如所保留的數(shù)字的末位數(shù)字為奇數(shù)則進一,如所保留的數(shù)字的

16、末位數(shù)字為偶數(shù)則舍去; 4、當“5”后面還有不是0的任何數(shù)時,都須向前進一位,無論前方是奇還是偶數(shù),“0”則以偶數(shù)論。,1、數(shù)值修約規(guī)則,0.536640.5366 0.583460.5835 10.275010.28 16.405016.40 27.185027.18 18.0650118.07 (2)修約間隔 0.2 、0.5 0.5單位修約,將擬修約數(shù)值乘以2后正常修約,得到的數(shù)再除以2。 例:修約到個數(shù)位的0.5單位: 60.25、60.38、60.75 60 60.5 61,1、數(shù)值修約規(guī)則,0.2單位修約,將擬修約數(shù)值乘以5后正常修約,得到的數(shù)再除以5。 例: 修約到百位數(shù)的0.2

17、單位 830、842、930 840 840 920 (3)不可連續(xù)修約 必須注意:進行數(shù)字修約時只能一次修約到指定的位數(shù),不能數(shù)次修約,否則會得錯誤的結(jié)果。 如:97.46修約到1為97,1、數(shù)值修約規(guī)則,(4)、 特殊數(shù)值的表示 報出的數(shù)值最右的非零數(shù)字為5時,應(yīng)在數(shù)值右上角加“+”或“-” 或不加符號,以分別表明已進行過舍,進或未舍未進。 例:實測值 報出值 修約值 -15.4546 -15.5 -15 16.5203 16.5 17,-,+,2、數(shù)值修約方法總結(jié),(1)如果為修約間隔整數(shù)倍的一系列數(shù)中,只有一個數(shù)最接近擬修約數(shù),則該數(shù)就是修約數(shù)。 例:將1.150001按0.1間隔進行修約。1210 例:將1.0151修約至十分位的0.2個單位。5.075 5.1 1.02 例:將1.2505按“5”間隔修約至十分位。 (2)如果在修約間隔整數(shù)倍的一系列數(shù)中,有連續(xù)的兩個數(shù)同等地接近擬修約數(shù),只有為修約間隔偶數(shù)倍的那個數(shù)才是修約數(shù)。 例:將1150按100修約間隔修約。1200 例:將1.500按0.2修約間隔修約 到個數(shù)位 7.500 8.000 1.6 例:將1.025按“5”間隔修約到三位有效數(shù)字。,四、極限數(shù)值的表示和判定,1、極限數(shù)值的表示,帶有極限偏差值的數(shù)值的表示,表示的含義:從79mm到82mm符合要求,2、極限數(shù)值的判

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫網(wǎng)僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負責。
  • 6. 下載文件中如有侵權(quán)或不適當內(nèi)容,請與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

評論

0/150

提交評論