有效数字修约和运算法则

有效数字修约和运算法则

ID:18455541

大小:103.50 KB

页数:10页

时间:2018-09-18

有效数字修约和运算法则_第1页
有效数字修约和运算法则_第2页
有效数字修约和运算法则_第3页
有效数字修约和运算法则_第4页
有效数字修约和运算法则_第5页
资源描述:

《有效数字修约和运算法则》由会员上传分享,免费在线阅读,更多相关内容在行业资料-天天文库

1、•有效数字修约与运算法则•1.有效数字的基本概念:•(1)有效数字是指在检验工作中所能得到有实际意义的数值,其最后一位数字欠准是允许的,这种由可靠数字和最后一位不确定数字组成的数值,即为有效数字。•(2)有效数字的定位(数位),是指确定欠准数字的位置,这个位置确定后,其后面的数字均为无效数字。•例如,一支25ml的滴定管,其最小刻度为0.1ml,如果滴定管的体积介符于20.9ml到21.0ml之间,则需估计一位数字,读出20.97ml,这个7就是个欠准的数字,这个位置确定后,它有效位数就是4个,即使其后面还有数字也只是无效数字。•(3)在没

2、有小数位且以若干个零结尾的数值中,有效位数系指从非零数字最左一位向右数得到的位数减去无效零(即仅为定位用的零)的个数。•例如:35000,若有两个无效零,则为三位有效位数,应写作350×102或3.50×104;若有三个无效零,则为两位有效位数,应写作35×103或3.5×104。•(4)在其他10进位数中,有效数字系指从非零数字最左一位向右数而得到的位数,例如:3.2、0.32、0.032和0.0032均为两位有效位数;0.320为三位有效位数;10.00为四位有效位数;12.490为五位有效位数。•(5)非连续型数值:(如个数、分数、倍

3、数)是没有欠准数字的,其有效位数可视为无限多位。例如,H2SO4中的2和4是个数。常数л和系数等。数值的有效位数可视为无限多位。每1ml××滴定液(0.1mol/L)中的0.1为名义浓度,规格项下的0.3g或“1ml:25mg”中的“0.3”、“1”、“25”均为标示量,其有效位数,也为无限多位。即在计算中,其有效位数应根据其他数值的最少有效位数而定。•(6)pH值等对数值,其有效位数是由其小数点后的位数决定的,其整数部分只表明其真数的乘方次数。10•如:pH=11.26([H+]=5.5×10-12mol/L),其有效数字只有两位。•(7

4、)有效数字的首位数字为8或9时,其有效位数可以多计一位,例如:85%与115%,都可以看成是三位有效数字;99.0%与101.0%都可以看成是四位有效数字。•2.数字的修约及其取舍规则•(1)数字修约是指拟修约数值中超出需要保留位数时的舍弃,根据舍弃数来保留最后一位数或最后几位数。•(2)修约间隔是确定修约保留位数的一种方式,修约间隔的数值一经确定,修约值即应为该数值的整倍数。例如:指定修约间隔为0.1,修约值即应在0.1的整数倍中选取,也就是说,将数值修约到小数点后一位。•(3)确定修约位数的表达方式:•①指定数位:•★指定修约间隔为10

5、-n(n为正整数),或指明将数值修约到小数点后n位。•★指定修约间隔为1,或指明将数值约到个数位。•★指定将数值修约成n位有效位数(n为正整数)。•★指定修约间隔为10n(n为正整数),或指明将数值修约到10n数位,或指明修约到“十”、“百”、“千”数位。•★指定将数值修约成n位有效位数(n为正整数)。•★在相对标准偏差(RSD)的求算中,其有效数位应为其1/3值的首位(非零数字),故通常为百分位或千分位。••②进舍原则•★拟舍去数字的最左一位数字少于5时,则舍去,即保留的各位数字不变。例如,例1,将12.1496,修约到一位小数(十分位)

6、,得12.1。10•例2,将12.1496,修约到两位有效位数,得12。•★拟舍去数字的最左一位数字大于5时,或者是5,而后跟有并非全部为0的数字,则进一,即在保留的末位数字加1。•⊙例1,将1268,修约到百数位,得13×102。•⊙例2,将1268,修约到十数位(即三位有效数字),得127×10。•⊙例3,将10.502修约到个数位,得11。•★拟舍去数字的最左一位数字为5,而右面无数字或皆为0时,若所保留的末位数为奇数(1,3,5,7,9)则进一。为偶数(2,4,6,8,0)则舍弃。(留双的原则)•⊙例1,将1.050按间隔为0.1(

7、10-1)修约,修约值为:1.0。•⊙例2,将0.350按间隔为0.1(10-1)修约,修约值为:0.4•⊙例3,将2500按间隔为1000(103)修约,修约值为:2×103。•⊙例4,将3500按间隔为1000(103)修约,修约值为:4×103。•⊙例5,将0.0325修约成两位有效位数,修约值为:0.032或3.2×10-2。•⊙例6,将32500修约成两位有效位数,其修约值为:32×103。•★在相对偏差(RSD)中,采用“只进不舍”的原则,•如,0.163%,如为两个有效位时,宜修约为0.17%;•0.52%,如为一个有效位时,

8、宜修约为0.6%。•★不许连续修约。•拟修约的数字应在确定修约位数后一次修约获得结果,而不得多次按前面规则连续修约。•例,15.4546,修约间隔1,•正确的做法为:15.454

当前文档最多预览五页,下载文档查看全文

此文档下载收益归作者所有

当前文档最多预览五页,下载文档查看全文
温馨提示:
1. 部分包含数学公式或PPT动画的文件,查看预览时可能会显示错乱或异常,文件下载后无此问题,请放心下载。
2. 本文档由用户上传,版权归属用户,天天文库负责整理代发布。如果您对本文档版权有争议请及时联系客服。
3. 下载前请仔细阅读文档内容,确认文档内容符合您的需求后进行下载,若出现内容与标题不符可向本站投诉处理。
4. 下载文档时可能由于网络波动等原因无法下载或下载错误,付费完成后未能成功下载的用户请联系客服处理。