有效数字、数值修约及运算规程.doc

《有效数字、数值修约及运算规程.doc》由会员上传分享，免费在线阅读，更多相关内容在应用文档-天天文库。

1、1 目的为对实验过程中实际测量或计算而得的数值进行统一规范的处理，特制定本规程，保证数据计算合理、准确有效。2 范围适用于工作中除生物检定统计法以外的各种测量或计算而得的数值。3 职责实验员：负责按本操作规程在计算过程中对检验数据进行处理。复核人、QA：负责按本规程对实验结果进行复核、计算。各实验室主任：监督本操作规程的实施。4 内容4.1 有效数字的基本概念4.1.1 有效数字系指在药检工作中所能得到有实际意义的数值。其最后一位数字欠准是允许的，这种由可靠数字和最后一位不确定数字组成的数值，即为有效数字。最后一位数字的欠准程度通道只

2、能是上下差1单位。如：12.50ml，前三位是准确的，最后一位是估计的，不甚准确，但它不是臆造的。记录时应保留这一位，这四位都是有效数字。4.1.2 有效位数4.1.2.1 有效数字位数的确定原则由于有效数字的位数反映了测定结果的精确度，它直接与测量的精密度有关。因此，在科学实验和生产过程中正确记录有效数字，不能多写或少写，多写了不能正确反映测量精度，则该数据不真实，因而也就不可靠；少写损失测量精度。4.1.2.2 在没有小数位且以若干个零结尾的数值中，有效位数每当指从非零数字最左一位向右数得到的位数减去无效零（即仅为定位用的零）的个

3、数。例如35000中若有两个无效零，则为三位有效位数，应写作350×102；若有三个无效零，则为两位有效位数，应写作35×103。4.1.2.3 在其它十进位数中，有效数字系指从非零数字最左一位向右数而得到的位数。例如3.2、0.32、0.032和0.0032均为两位有效位数，0.0320为三位有效位数、10.00为四位有效位数，12.490为五位有效位数。4.1.2.4 有效数字的首位数字为8或9时，其有效位数可以多计一位。例如85％与115%，都可以看成是三位有效位数；99.0％与101.0％都可以看成是四位有效数字。4.1.2.

4、5 非连续型数值（如个数、分数、倍数）是没有欠准数字的，其有效位数可视为无限多位；例如分子式“H2SO4”中的“2”和“4”是个数。常数π、e和等数值的有效位数也可视为是无限多位。4.1.2.6PH值等对数值，其有效位数由其小数点后的位数决定的，其整数部分只表明其真数的乘方次数。例如：PH=11.26（[H+]=5.5×10-12mol/L），其有效位数只有两位。4.2 数值修约及其进舍规则4.2.1 数值修约的概念是对拟修约数值根据保留位数的要求，将多余的数字进行舍弃，根据舍弃数来保留最后一位数或最后几位数，这一过程称为数值修约。4

5、.2.2 数值修约的意义4.2.2.1 出于准确表达测量结果的需要测量结果大都是通过间接测量得到的，间接测量的结果通常是通过计算得出的，其组成数字往往较多，但具体测量的精度是确定的，就是说合理表征测量结果的数字个数应是确定的，最终提供的测量结果应合理反映这一点，因此，通过对计算得出的和直接测量得到的数据的分析，得到合理的保留位数，将多余的数字进行取舍以得到合理反映测量精度的测量结果，即进行数值修约就非常必要。4.2.2.2 在进行具体的数值计算前，对参加计算的数值进行修约，可简化计算，降低出错的机会。如：4.78961×2.13×10

6、2.4387926=？若不先进行数值修约就直接计算，繁琐且容易出错。若在计算前先按数值修约规则进行修约，舍去多余参与计算的数值之中没有意义的数字，则计算会简单得多，也不易出错。4.2.3 进舍规则进舍规则口诀：四舍六入五考虑，五后非零则进一，五后全零看五前，五前偶舍奇进一，不论数字多少位，都要一次修约成。4.2.3.1 拟舍弃数字的最左一位数字小于5时，则舍去，即保留的各位数字不变。例1 将12.1498修约到一位小数，得12.1。例2 将12.1498修约成两位有效位数，得12。4.2.3.2 拟舍弃数字的最左一位数字大于5，或者是

7、5，而其后跟有并非全部为0的数字时，则进一。即在保留的末位数字加1。例1 将1268修约到百数位，得13×102。例2 将1268修约到三位有效位数，得127×10。例3 将10.502修约到个数位。得11。4.2.3.3 拟舍弃数字的最左一位数字为5，而右面无数字或皆为0时，若所保留的末位数为奇数（1，3，5，7，9）则进一，为偶数（2，4，6，8，0）则舍弃。例 将下列数字修约成两位有效位数拟修约数值                 修约值0.0325                    0.032  32500        

8、            32×1034.2.3.4 在相对标准偏差(RSD)中，采用“只进不舍”的原则，如0.163%、0.52%宜修约为0.17%、0.6%。4.2.3.5 不许连续修约  拟修约数字应在确定修约位数后