1第三節(jié)有效數(shù)字及運(yùn)算規(guī)則

問題

在定量分析過程中，得到的各種測量數(shù)據(jù)和分析結(jié)果，保留幾位數(shù)字是否可隨意？應(yīng)如何記錄，如何運(yùn)算，才能正確反映測量的準(zhǔn)確程度？2一、有效數(shù)字1有效數(shù)字的含義和位數(shù)含義：實(shí)際上能測到的數(shù)字，最后一位數(shù)字是估計(jì)值為可疑值，其余應(yīng)為準(zhǔn)確數(shù)字。位數(shù)：如m◆分析天平(稱至0.1mg):12.8218g(6),0.2338g(4)

千分之一天平(稱至0.001g):0.234g(3)

1%天平(稱至0.01g):4.03g(3),0.23g(2)

臺(tái)秤(稱至0.1g):4.0g(2),0.2g(1)V★滴定管(量至0.01mL):26.32mL(4),3.97mL(3)★容量瓶:100.0mL(4),250.0mL(4)★移液管:25.00mL(4);

☆

量筒(量至1mL或0.1mL):25mL(2),4.0mL(2)32.有效數(shù)字位數(shù)的相關(guān)規(guī)則（1）

數(shù)字前0不計(jì),數(shù)字后計(jì)入

:0.02450（2）數(shù)字后的0含義不清楚時(shí),最好用指數(shù)形式表示:1000(1.0×103

、1.00×103,1.000×103)（3）自然數(shù)可看成具有無限多位數(shù)(如倍數(shù)關(guān)系、分?jǐn)?shù)關(guān)系)；常數(shù)亦可看成具有無限多位數(shù)4（續(xù)前）（4）數(shù)據(jù)的第一位數(shù)大于等于8的、可多計(jì)一位有效數(shù)字，如9.45×104、95.2%、8.65（5）對(duì)數(shù)與指數(shù)的有效數(shù)字位數(shù)按尾數(shù)計(jì)，如10-2.34

；pH=11.02,則[H+]=9.5×10-12（6）誤差只需保留1～2位；（7）化學(xué)平衡計(jì)算中,結(jié)果一般為兩位有效數(shù)字(由于K值一般為兩位有效數(shù)字)；（8）常量分析法一般為4位有效數(shù)字(Er≈0.1%），微量分析為2位。5二、有效數(shù)字修約規(guī)則

按GB3101--93進(jìn)行四舍六入五成雙五后非零就進(jìn)一，五后皆零視奇偶，五前為偶應(yīng)舍去，五前為奇則進(jìn)一。6例如，要修約為四位有效數(shù)字時(shí):

尾數(shù)≤4時(shí)舍，0.52664-------0.5266

尾數(shù)≥6時(shí)入，0.36266-------0.3627

尾數(shù)＝5時(shí)，若后面數(shù)為0,舍5成雙

10.2350----10.24、250.650----250.6

若5后面還有不是0的任何數(shù)皆入

18.0850001----18.09

不論舍去多少位都應(yīng)一次修停當(dāng)

7三、有效數(shù)字運(yùn)算規(guī)則

1.加減運(yùn)算規(guī)則幾個(gè)測量值相加、相減時(shí)，結(jié)果準(zhǔn)確度的取舍，與小數(shù)點(diǎn)后位數(shù)最少的為一致例

12.35+0.0056+7.8903=12.35+0.006+7.890=20.246

修約為

20.25

為了保證結(jié)果的可靠性，運(yùn)算過程應(yīng)多保留一位，結(jié)果再修約為應(yīng)保留的位數(shù)。8三、有效數(shù)字運(yùn)算規(guī)則

2.乘除運(yùn)算規(guī)則幾個(gè)測量值相乘、除時(shí)，結(jié)果準(zhǔn)確度的取舍，以有效位數(shù)最少的為標(biāo)準(zhǔn)例

0.0121×25.64×1.05782=0.0121×25.64×1.058=0.3282修約為

0.3289三、有效數(shù)字運(yùn)算規(guī)則

3.乘方和開方對(duì)數(shù)據(jù)進(jìn)行乘方或開方時(shí)，所得結(jié)果的有效數(shù)字位數(shù)保留應(yīng)與原數(shù)據(jù)相同。例6.722=45.1584

若要求保留三位有效數(shù)字則

修約為

45.2

=3.10644

若要求保留三位有效數(shù)字則修約為3.1110三、有效數(shù)字運(yùn)算規(guī)則

4.對(duì)數(shù)計(jì)算所取對(duì)數(shù)的小數(shù)點(diǎn)后的位數(shù)（不包括整數(shù)部分）應(yīng)與原數(shù)據(jù)的有效數(shù)字的位數(shù)相等。例lg102=2.00860017

保留三位有效數(shù)字則修約為

2.009

pH＝5.02[H+]＝9.5499×10-6∴[H+]＝9.5×10-6mol/L11三、有效數(shù)字運(yùn)算規(guī)則

5.運(yùn)算過程中的其它問題在計(jì)算中常遇到分?jǐn)?shù)、倍數(shù)等，可視為多位有效數(shù)。在乘除運(yùn)算過程中，首位數(shù)為“8”或“9”的數(shù)據(jù)，有效數(shù)字位數(shù)可以多取一位。在混合計(jì)算中，有效數(shù)字的保留以最后一步計(jì)算的規(guī)則執(zhí)行。表示分析方法的精密度和準(zhǔn)確度時(shí)，大多數(shù)取1—2位有效數(shù)字12小結(jié)（1）記錄測定結(jié)果時(shí)，只應(yīng)保留一位可疑數(shù)字（2）有效數(shù)字位數(shù)確定以后，按“四舍六入五成雙”規(guī)則進(jìn)行修約（3）幾個(gè)數(shù)相加減時(shí)，以絕對(duì)誤差最大的數(shù)為標(biāo)準(zhǔn)，使所得數(shù)只有一位可疑數(shù)字（4）對(duì)于高含量組分（例如>10%）的測定，一般要求分析結(jié)果有4位有效數(shù)字；對(duì)于中含量組分（例如1~10%），一般要求3位有效數(shù)字；對(duì)于微量組分（<1%），一般只要求2位有效數(shù)字13小結(jié)（續(xù)）（5）在運(yùn)算中，當(dāng)涉及到各種常數(shù)時(shí)，一般視為準(zhǔn)確的，不考慮其有效數(shù)字的位數(shù)。對(duì)于各種誤差的計(jì)算，一般只要求2位有效數(shù)字。對(duì)于各種化學(xué)平衡的計(jì)算（如計(jì)算平衡時(shí)某離子的濃度），根據(jù)具體情況，保留2位或3位有效數(shù)字。（6）pH=4，pM=8等這樣的數(shù)值，有效數(shù)字位數(shù)未明確指出，這種表示方法不恰當(dāng)，應(yīng)當(dāng)避免。14第四節(jié)分析數(shù)據(jù)統(tǒng)計(jì)處理與評(píng)價(jià)

問題如何評(píng)價(jià)一組含有誤差的測量值？如何評(píng)價(jià)結(jié)果的可靠程度？

15

一、測量值集中趨勢和分散程度1.集中趨勢的表示（1）算術(shù)平均值和總體平均值算術(shù)平均值

（n為有限次）

總體平均值

（ｎ）

（2）中位數(shù)(xM)將一組測量數(shù)據(jù)按大小順序排列，中間一個(gè)數(shù)據(jù)即為中位數(shù)。當(dāng)測量的次數(shù)為偶數(shù)時(shí)，中位數(shù)為中間相鄰兩個(gè)測量值的平均值。

16例測得c(NaOH)為

0.1012,0.1016,0.1014,0.1025(mol/L)

則

mol/L

xM=0.1015mol/Lx=0.1017172.數(shù)據(jù)分散程度的表示（1）平均偏差（2）標(biāo)準(zhǔn)偏差總體標(biāo)準(zhǔn)偏差

樣本標(biāo)準(zhǔn)偏差（n為有限次）

18二、正態(tài)分布和t分布

1.隨機(jī)誤差的正態(tài)分布無限次測量數(shù)據(jù)的正態(tài)分布曲線無限次測量數(shù)據(jù)的分布規(guī)律服從正態(tài)分布說明（1）大多數(shù)測量值集中在算術(shù)平均值的附近（2）正誤差和負(fù)誤差出現(xiàn)的概率相等（3）小誤差出現(xiàn)的概率大，大誤差出現(xiàn)的概率小，出現(xiàn)很大誤差的概率極小，趨近于零（4）測量時(shí)的精密度越差，測量值的分布就越分散

192.t分布曲線

有限次測量數(shù)據(jù)的分布規(guī)律服從t分布

t分布曲線形狀不僅隨t值而改變，還與f值有關(guān)。

t分布曲線

203.置信水平與平均值的置信區(qū)間（1）置信度:p

P表示在某一t值時(shí)，測定值落在（）范圍內(nèi)的概率。（1-p）稱顯著水平用α表示（2）平均值的置信區(qū)間

如：μ=47.50±0.10(置信度為95%）理解為：47.50±0.10的區(qū)間內(nèi)包括總體平均值的概率為95%21三、重復(fù)性精密度和再現(xiàn)性精密度1.重復(fù)性精密度和重復(fù)性標(biāo)準(zhǔn)偏差重復(fù)性精密度是指在重復(fù)條件下的精密度，即在相同的實(shí)驗(yàn)條件（同一操作者、同一儀器、同一實(shí)驗(yàn)室）下，在短時(shí)間間隔內(nèi)，按同一方法對(duì)同一試樣進(jìn)行正確的正常操作所得獨(dú)立結(jié)果之間的接近程度。重復(fù)性精密度用重復(fù)性標(biāo)準(zhǔn)偏差sr表示。設(shè)在重復(fù)條件下，對(duì)某一試樣進(jìn)行m回n次重復(fù)測定，測定結(jié)果如下。22則這一系列測定的重復(fù)性標(biāo)準(zhǔn)偏差sr為：232.再現(xiàn)性精密度和再現(xiàn)性標(biāo)準(zhǔn)差再現(xiàn)性精密度是指在不同的試驗(yàn)條件下（不同操作者、不同儀器、不同實(shí)驗(yàn)室），按同一方法對(duì)同一試樣進(jìn)行正確和正常操作所得單獨(dú)的實(shí)驗(yàn)結(jié)果之間的接近程度。243.重復(fù)性限和再現(xiàn)性限（1）重復(fù)性限r(nóng)當(dāng)測定次數(shù)n=2，置信度為95%時(shí)，重復(fù)性限r(nóng)用下式計(jì)算：（2）再現(xiàn)性限R當(dāng)測定次數(shù)n=2，置信度為95%時(shí)，再現(xiàn)性限R用下式計(jì)算：254.極差極差相對(duì)極差=26例用酸堿滴定法測定某混合物中乙酸含量，得到下列結(jié)果；計(jì)算單次分析結(jié)果的平均偏差，相對(duì)平均偏差，標(biāo)準(zhǔn)偏差10.48%10.37%10.47%10.43%10.40%0.05%0.06%0.04%0.00%0.03%2.5×10-73.6×10-71.6×10-700.9×10-7

=8.6×10-7=0.18%27臨界極差臨界極差的表達(dá)式為：28四、分析數(shù)據(jù)的可靠性檢驗(yàn)1.可靠性檢驗(yàn)的一般步驟首先作一個(gè)否定的假設(shè)，即假設(shè)不存在顯著性差異、或所有樣本來源于同一總體；其次是確定一個(gè)顯著性水平，通常用α=0.1、0.05、0.01等值（分析工作中則多采用0.05）的顯著性水平，其含義是差異出現(xiàn)的機(jī)會(huì)有95%以上時(shí)，則前面的假設(shè)就取消，承認(rèn)有顯著性差異存在；最后是統(tǒng)計(jì)量計(jì)算和作出判斷292.顯著性檢驗(yàn)方法（1）t檢驗(yàn)法A.平均值與標(biāo)準(zhǔn)值的比較通常可確定一種分析方法是否存在較大的系統(tǒng)誤差。方法：先用該分析方法對(duì)標(biāo)準(zhǔn)試樣進(jìn)行分析，然后將得到的分析結(jié)果與標(biāo)準(zhǔn)值比較，進(jìn)行t檢驗(yàn)。B.兩組數(shù)據(jù)平均值的比較可對(duì)不同的操作者的分析結(jié)果進(jìn)行比較。方法：雙方對(duì)同一試樣進(jìn)行若干次測定，比較兩組數(shù)據(jù)各自的平均值，以判斷二者是否存在顯著性差異。注意B法和A法不同之處是：B法的兩個(gè)平均值不是真值，因此，即使二者存在顯著性差異，也不能說明其中一組數(shù)據(jù)或兩組數(shù)據(jù)是否存在較大的系統(tǒng)誤差。

302）F檢驗(yàn)法F檢驗(yàn)法用于檢驗(yàn)兩組數(shù)據(jù)的精密度，即標(biāo)準(zhǔn)偏差是否存在顯著性差異。檢驗(yàn)步驟:（1）首先求出兩組數(shù)據(jù)的標(biāo)準(zhǔn)方差分別為

s大2和s小2，它們相應(yīng)地代表方差較大和較小的那組數(shù)據(jù)的方差。（2）然后計(jì)算統(tǒng)計(jì)量F值：F計(jì)

=s大2/s小2（3）在一定置信度及自由度的情況下，查F值表，將F計(jì)值與從F值表查得的F表值進(jìn)行比較，若F計(jì)

>F表，則存在顯著性差異，否則不存在顯著性差異。31五、異常值的檢驗(yàn)與取舍1.Q檢驗(yàn)法Q檢驗(yàn)步驟(1)將測定結(jié)果按從小到大的順序排列X1、X2、…Xn；(2)根據(jù)測定次數(shù)n按查表中計(jì)算公式計(jì)算Q計(jì)；(3)再在表中查得臨界值Qx；(4)將計(jì)算值Q計(jì)與臨界值Qx比較，若Q計(jì)≤Q0.05則可疑值為正常值,應(yīng)保留；若Q0.05<Q計(jì)≤Q0.01，則可疑值為偏離值，可以保留；當(dāng)Q計(jì)>Q0.01，則可疑值應(yīng)予剔除。

322.4d檢驗(yàn)法4d檢驗(yàn)步驟（1）求出可疑值除外的其余數(shù)據(jù)的平均值和平均偏差，（2）將可疑值與平均值進(jìn)行比較，（3）絕對(duì)差值大于4，則可疑值舍去，否則保留。注意：

4d檢驗(yàn)法與Q檢驗(yàn)法檢驗(yàn)結(jié)果有差異時(shí)，以Q檢驗(yàn)法為準(zhǔn)！33第