原始記錄、報告上的有效數字如何確定?
2020-02-25
作者:
瀏覽數:1465
原始記錄的有效數字位數既不可少,也不可多,要根據儀器、儀表指示的最小分度值如實記錄,并允許增記一位估計數字。
例如,50 mL,滴定管的最小分度值為0.1 mL,又因為允許增加一位估計數字,可以記錄到兩位小數,如12.34 mL。
這一量值表明十分位上的3是刻度指示值,確切可信;百分位上的4則是估計判讀的,是可疑數字,并知其波動范圍為0.02 mL,其相對誤差為(0.02/12.34)×100%=0.16%。若在原始記錄中僅記為12.3 mL,則表示可能產生1.6%的相對誤差。
由于原始記錄不合理致使數據的準確度下降一個數量級。但也不可任意增加有效數字的位數。如果記成12.340則是明顯失真,因為不可能估計出兩位數字。
告訴大家一個方法,實驗室通的儀器、儀表、計量器具最小分度(準確到第幾位),可以用檢定規程,校準規范,設備說明書等文件獲得。
報告結果的有效數字取四分之一個標準差的首數所在數位,定為分析結果的尾數。例如:某一測定結果為25.352,標準差為1.4,四分之一標準差為0.35,其首位數字(0.35中的3)所在數位是十分位,即定為該結果的末位,可報為25.4
這種遵守原始記錄的結果,并按照有效數字的運算規則來確定。
最終計算結果中保留的小數位數,與參加運算的有效數字中小數位數最少者相同
運算結果經修約后,保留的有效數字位數應與參加運算的幾個有效數字中有效位數最少者相同。
原始記錄的結果為:質量m=0.8044g,體積V=1.82ml
密度=m/v=0.8044/1.82=0.4419780219·······
這是一個乘除運算,最終結果與參加運算的幾個有效數字中有效位數最少者(1.82)相同
那么報告的最終結果應該是:0.442g/ml
來源:實驗室ISO17025