有效数字修约及运算

有效数字修约及运算

ID:34475291

大小:52.16 KB

页数:4页

时间:2019-03-06

有效数字修约及运算_第1页
有效数字修约及运算_第2页
有效数字修约及运算_第3页
有效数字修约及运算_第4页
资源描述:

《有效数字修约及运算》由会员上传分享,免费在线阅读,更多相关内容在工程资料-天天文库

1、目的l正确地进行有效数字判定、修约及运算l规范取样规则依据l药典“凡例”l国家标准《数值修约规程》l《中国药品检定标准操作规范》l适用于药检工作中除生物检定统计法以外的各种测量或计算而得的数值。主要内容1、有效数位的判断1.1有效数字的基本概念有效数字系指在药检工作中所能得到有实际意义的数值。是由可靠数字和最后一位不确定数字组成的。最后一位数字的欠准程度通常只能是上下差1单位。 1.2有效数位的判断1.2.1从非零数字最左一位向右数得到的位数减去无效零。例:350×102保留三位有效数,两个无效零

2、。35×103 保留二位有效数,三个无效零。1.2.2从非零数字最左一位向右数而得到的位数。例:3.2两位有效数字0.032两位有效数字0.0320三位有效数字1.2.3有效位数可视为无限多位的1.2.3.1非连续型数值(如个数、分数、倍数)1.2.3.2常数π,e和系数√21.2.3.3(0.1mol/L)滴定液的名义值1.2.3.4规格、标示量1.2.4pH值,其有效位数是由其小数点后的位数决定的,其整数部分只表明其真数的乘方次数。例:pH=11.26([H+]=5.5×10-12mol/L)

3、,其有效位数只有两位。 1.2.5有效数字的首位数字为8或9时,其有效位数可以多计一位。例:85%三位有效位数115%三位有效位数99.0%四位有效数字101.0%四位有效数字。 2、数值的修约及取舍规则进舍规则:四舍六入五考虑。五后非零则进一,五后全零看五前,五前偶舍奇进一,不论数字多少位,都要一次修约成。 RSD修约:只进不舍例:0.163%修约成2位有效数位→0.17%不许连续修约:拟修约数字应在确定修约位数后一次修约获得结果,而不得多次连续修约。 例:修约15.4546,修约间隔为 1  

4、正确的做法为:15.4546—15; 不正确的做法为:15.4546→15.455→15.46→15.5→16 修约间隔为0.5(熔点值修约) 50.8、50.9修约值为5150.1、50.2修约为50。50.3、50.4、50.5、50.6、50.7修约值均为50.5修约间隔为1(熔点值修约) ,则按照四舍六入五成双修约。2.1数值修约 是指对拟修约数值中超出需要保留位数时的舍弃,根据舍弃数保留最后一位数或最后几位数。 2.2修约间隔是确定修约保留位数的一种方式,是修约值的最小数值单位。修约间隔

5、为0.1时,数值修约至小数点后一位,修约值应为该数值的整数倍。2.3确定修约位数的表达方式一,指定修约位数 2.3.1指定修约间隔10-n,或将数值修约到小数点后n位;2.3.2指定修约间隔为1,修约到个位;2.3.3指定修约间隔为10n,‘十”“百”“千”…数位。 2.4确定修约位数的表达方式二,指定修约有效位数 (n为正整数)例:按照标准规定指标修约。"应≤0.3"3.运算规则相加减时以诸数值中绝对误差最大(即欠准数字的位数最大)的数值为准相乘除时以诸数值中相对误差最大(即有效位数最少)的数值

6、为准在运算过程中,为减少舍入误差,其它数值的修约可以暂时多保留一位,等运算得到结果时,再根据有效位数弃去多余的数字。→3步走:一、判定有效数位 二、过程多保留1位三、结果修约例1 13.65+0.00823+1.633=?    本例是数值相加减,在三个数值中13.65的绝对误差最大,其最末一位数为百分位(小数点后二位),因此将其它各数均暂先保留至千分位。    即把0.00823修约成0.008,1.633不变,进行运算:13.65+0.008+1.633=15.291 最后对计算结果进行修约,

7、15.291应只保留至百分位,而修15.29。    例2 14.131×0.07654÷0.78=?   本例是数值相乘除,在三个数值中,0.78的有效位数最少,仅为两位有效位数,因此各数值均应暂保留三位有效位数进行运算,最后结果再修约为两位有效位数。 计算;   14.131×0.07654÷0.78 =14.1×0.0765÷0.78 =1.08÷0.78 =1.38 =1.4 例3 计算氧氟沙星(C18H20FN3O4)的分子量。 12.011×18+1.00794×20+18.99840

8、32+14.006747×3+15.9994×4=216.20+20.1588+18.9984032+42.020241+63.9976 =216.20+20.159+18.998+42.020+63.998 =361.375=361.38 4、注意事项4.1正确记录检测所得的数值 4.2正确掌握和运用规则4.3要根据取样的要求,选择相应的量具 4.4正确记录检测所得的数值量取5ml、5.0ml、5.00ml时,则应分别选用5~l0ml的量筒、5~l0ml的刻度吸管、5ml的移液管

当前文档最多预览五页,下载文档查看全文

此文档下载收益归作者所有

当前文档最多预览五页,下载文档查看全文
温馨提示:
1. 部分包含数学公式或PPT动画的文件,查看预览时可能会显示错乱或异常,文件下载后无此问题,请放心下载。
2. 本文档由用户上传,版权归属用户,天天文库负责整理代发布。如果您对本文档版权有争议请及时联系客服。
3. 下载前请仔细阅读文档内容,确认文档内容符合您的需求后进行下载,若出现内容与标题不符可向本站投诉处理。
4. 下载文档时可能由于网络波动等原因无法下载或下载错误,付费完成后未能成功下载的用户请联系客服处理。