欢迎来到天天文库
浏览记录
ID:20386258
大小:53.50 KB
页数:6页
时间:2018-10-13
《简述有效数字及数字修约规则》由会员上传分享,免费在线阅读,更多相关内容在学术论文-天天文库。
1、简述有效数字及数字修约规则【】G623.5【】B【】1001-4128(2011)07-0073-02 建立有效数字的概念,在试验中正确读数,正确做好原始记录,正确处理原始数据,正确表示检验结果,对于我们检验人员来说非常重要。 1有效数字及位数 为了得到准确的分析结果,不仅要准确地测量,而且还要正确地记录和计算,即记录的数字不仅要表示数量的大小,而且要正确地反映测量准确程度。我们把通过直读获得的准确数字叫做可靠数字;把通过估读得到的那部分数字叫做存疑数字。把测量结果中能够反映被测量大小的带有一位存
2、疑数字的全部数字叫有效数字。例如用一般的分析天平称得某物质的质量是1.2960g,这一数值中,1.296是准确的,最后一位数字“0”是可疑的,可能有上下一个单位的误差,即其实际质量是在1.2960±0.0001g范围内的某一个数值。此时称量的绝对误差为±0.0001g,相对误差为±0.02%。若将上述称量结果写成1.296g,则该物质实际质量是在1.296±0.001g范围内的某一个数值,此时称量的绝对误差为±0.001g,而相对误差则为±0.2%。可见,记录时多写一位或少写一位“0”数字,从数字角度看关系
3、不大,但是记录所反映的测量精确程度无形中被夸大或缩小10倍。所以在数据中代表着一定的量的每一个数字都是重要的。数据记录时,我们记录的数据和实验结果的表述中的数据便是有效数字。 在计算测量结果时,首先应确定有效数字的位数。如在分析天平上称得重铬酸钾的重量为0.0758g,此数据具有三位有效数字。数字前面的“0”只起定位的作用,不是有效数字。又如一盐酸溶液的浓度为0.2100mol/L,后面的两个“0”表示该溶液的浓度准确到小数点后第三位,第四位可能有±1的误差,所以这两个“0”是有效数字,数据0.2100具
4、有四位有效数字。 通常地说判断一个数字的有效数字位数,就是从这个数字左边第一个不是0的数字开始,后面的全是有效数字,“0”作为普通数字使用,它就是有效数字,若它只起定位的作用就不是有效数字,举例如下: 1.002g五位有效数字 0.05000g,27.03%,6.023×103四位有效数字 0.0320,1.06×102三位有效数字 0.0074,1.0两位有效数字 0.6g,0.007%一位有效数字 2数字修约规则 在通常的检测分析过程当中,往往包括几个测量环节,然后根据测量所得数据进行计
5、算,最后求得分析结果。但是各个检测环节的测量精度不一定完全一致,因而各个测量数据的有效数字位数可能也不相同,在计算中要对多余的数字进行修约。我国的国家标准GB/T8107-87《数字修约规则》对数字修约做出了如下规定。 2.1在拟舍弃的数字中,若左边的第一个数字小于5(不包括5),则舍去。例如:14.2432要修约成三位有效数字,则从第四位开始的“432”就是拟舍去的数字,其左边的第一个数字“4”小于5,应舍去,所以修约为14.2。 2.2在拟舍去的数字中,若左边的第一个数字大于5,则进一。如26.48
6、43→26.5。 2.3在拟舍去的数字中,若左边的第一个数字大于5,其右边的数字并非全部为零时,则进一。例如:1.0501→1.1。 2.4在拟舍去的数字中,若左边的第一个数字等于5,其右边的数字全部为零时,要保留的末位数字若为奇数则进一,若为偶数(包括“0”),则舍去。例如: 0.3500→0.412.25→12.2 0.4500→0.412.35→12.4 1.0500→1.01225.0→1.22×103 5.拟舍去的数字中,若为两位以上的数时,不得连续进行多次修约。例如5.4546修约到
7、小数点后两位,应一次修约为5.45。而不能5.4546→5.455→5.46。 总的来说,数字修约规则可以总结成“四舍六入五看”、“奇进偶退”、“必须一次修约成”等几句话,便于我们理解和记忆。 3有效数字的运算规则 有效数字的运算方法,到目前为止还没有明确的统一的规定。可以先修约后计算;也可以直接用计算器计算,然后修约到应保留的位数。现在由于计算器的普及,大多数检验人员使用的都是后面的方法。两种方法的计算结果可能稍有差别,不过是差在作后的可疑数字上,影响不大。但无论用哪种方法,对运算结果的要求则是统一
8、的。 3.1几个数相加或相减时,它们的和或差小数点后位数的保留,应以小数点后位数最少的数据为根据。 例如:0.0121+25.64+1.05782=? 由计算器算得结果为26.70992。修约值应和小数点后位数最少的25.64相同,既应保留到小数点后第二位,根据修约规则,这个算式的正确结果为26.71。 3.2乘除法运算时,其结果有效数字的保留,应和参与计算的数值中有效数字位数最少的相同。 例如:0.0
此文档下载收益归作者所有