简述有效数字及数字修约规则

简述有效数字及数字修约规则

ID:20386258

大小:53.50 KB

页数:6页

时间:2018-10-13

简述有效数字及数字修约规则_第1页
简述有效数字及数字修约规则_第2页
简述有效数字及数字修约规则_第3页
简述有效数字及数字修约规则_第4页
简述有效数字及数字修约规则_第5页
资源描述:

《简述有效数字及数字修约规则》由会员上传分享,免费在线阅读,更多相关内容在学术论文-天天文库

1、简述有效数字及数字修约规则【】G623.5【】B【】1001-4128(2011)07-0073-02    建立有效数字的概念,在试验中正确读数,正确做好原始记录,正确处理原始数据,正确表示检验结果,对于我们检验人员来说非常重要。  1有效数字及位数  为了得到准确的分析结果,不仅要准确地测量,而且还要正确地记录和计算,即记录的数字不仅要表示数量的大小,而且要正确地反映测量准确程度。我们把通过直读获得的准确数字叫做可靠数字;把通过估读得到的那部分数字叫做存疑数字。把测量结果中能够反映被测量大小的带有一位存

2、疑数字的全部数字叫有效数字。例如用一般的分析天平称得某物质的质量是1.2960g,这一数值中,1.296是准确的,最后一位数字“0”是可疑的,可能有上下一个单位的误差,即其实际质量是在1.2960±0.0001g范围内的某一个数值。此时称量的绝对误差为±0.0001g,相对误差为±0.02%。若将上述称量结果写成1.296g,则该物质实际质量是在1.296±0.001g范围内的某一个数值,此时称量的绝对误差为±0.001g,而相对误差则为±0.2%。可见,记录时多写一位或少写一位“0”数字,从数字角度看关系

3、不大,但是记录所反映的测量精确程度无形中被夸大或缩小10倍。所以在数据中代表着一定的量的每一个数字都是重要的。数据记录时,我们记录的数据和实验结果的表述中的数据便是有效数字。  在计算测量结果时,首先应确定有效数字的位数。如在分析天平上称得重铬酸钾的重量为0.0758g,此数据具有三位有效数字。数字前面的“0”只起定位的作用,不是有效数字。又如一盐酸溶液的浓度为0.2100mol/L,后面的两个“0”表示该溶液的浓度准确到小数点后第三位,第四位可能有±1的误差,所以这两个“0”是有效数字,数据0.2100具

4、有四位有效数字。  通常地说判断一个数字的有效数字位数,就是从这个数字左边第一个不是0的数字开始,后面的全是有效数字,“0”作为普通数字使用,它就是有效数字,若它只起定位的作用就不是有效数字,举例如下:  1.002g五位有效数字  0.05000g,27.03%,6.023×103四位有效数字  0.0320,1.06×102三位有效数字  0.0074,1.0两位有效数字  0.6g,0.007%一位有效数字  2数字修约规则  在通常的检测分析过程当中,往往包括几个测量环节,然后根据测量所得数据进行计

5、算,最后求得分析结果。但是各个检测环节的测量精度不一定完全一致,因而各个测量数据的有效数字位数可能也不相同,在计算中要对多余的数字进行修约。我国的国家标准GB/T8107-87《数字修约规则》对数字修约做出了如下规定。  2.1在拟舍弃的数字中,若左边的第一个数字小于5(不包括5),则舍去。例如:14.2432要修约成三位有效数字,则从第四位开始的“432”就是拟舍去的数字,其左边的第一个数字“4”小于5,应舍去,所以修约为14.2。  2.2在拟舍去的数字中,若左边的第一个数字大于5,则进一。如26.48

6、43→26.5。  2.3在拟舍去的数字中,若左边的第一个数字大于5,其右边的数字并非全部为零时,则进一。例如:1.0501→1.1。  2.4在拟舍去的数字中,若左边的第一个数字等于5,其右边的数字全部为零时,要保留的末位数字若为奇数则进一,若为偶数(包括“0”),则舍去。例如:  0.3500→0.412.25→12.2  0.4500→0.412.35→12.4  1.0500→1.01225.0→1.22×103  5.拟舍去的数字中,若为两位以上的数时,不得连续进行多次修约。例如5.4546修约到

7、小数点后两位,应一次修约为5.45。而不能5.4546→5.455→5.46。  总的来说,数字修约规则可以总结成“四舍六入五看”、“奇进偶退”、“必须一次修约成”等几句话,便于我们理解和记忆。  3有效数字的运算规则  有效数字的运算方法,到目前为止还没有明确的统一的规定。可以先修约后计算;也可以直接用计算器计算,然后修约到应保留的位数。现在由于计算器的普及,大多数检验人员使用的都是后面的方法。两种方法的计算结果可能稍有差别,不过是差在作后的可疑数字上,影响不大。但无论用哪种方法,对运算结果的要求则是统一

8、的。  3.1几个数相加或相减时,它们的和或差小数点后位数的保留,应以小数点后位数最少的数据为根据。  例如:0.0121+25.64+1.05782=?  由计算器算得结果为26.70992。修约值应和小数点后位数最少的25.64相同,既应保留到小数点后第二位,根据修约规则,这个算式的正确结果为26.71。  3.2乘除法运算时,其结果有效数字的保留,应和参与计算的数值中有效数字位数最少的相同。  例如:0.0

当前文档最多预览五页,下载文档查看全文

此文档下载收益归作者所有

当前文档最多预览五页,下载文档查看全文
温馨提示:
1. 部分包含数学公式或PPT动画的文件,查看预览时可能会显示错乱或异常,文件下载后无此问题,请放心下载。
2. 本文档由用户上传,版权归属用户,天天文库负责整理代发布。如果您对本文档版权有争议请及时联系客服。
3. 下载前请仔细阅读文档内容,确认文档内容符合您的需求后进行下载,若出现内容与标题不符可向本站投诉处理。
4. 下载文档时可能由于网络波动等原因无法下载或下载错误,付费完成后未能成功下载的用户请联系客服处理。