有效数字和数值的修约及其运算

《有效数字和数值的修约及其运算》由会员上传分享，免费在线阅读，更多相关内容在应用文档-天天文库。

1、XXXXX公司当前版本编号STP-MM-02-001-Rev.00.12替代版本编号规程名称有效数字和数值的修约及其运算规程有效数字和数值的修约及其运算规程起草人日期20年月日审核人日期20年月日批准人日期20年月日生效日期颁发部门质量管理部分发部门1.目的建立有效数字和数值的修约及其运算规程2.范围有效数字和数值的修约及其运算规程3.依据4.术语定义5.职责质量检验负责人及化验室人员、QA监查员6.内容本规程系根据中国药典2010年版“凡例”和国家标准GB8170-87《数值修约规程》制订，适用于药检工作中除生物检定统计法以外的各种测量

2、或计算而得的数值。1有效数字的基本概念1.1有效数字系指在检验工作中所能得到有实际意义的数值。其最后一位数字欠准是允许的，这种由可靠数字和最后一位不确定数字组成的数值，即为有效数字。最后一位数字的欠准程度通常只能是上下差1单位。1.2有效数字的定位（数位），是指确定欠准数字的位置。这个位置确定后，其后面的数字均为无效数字。欠准数字的位置可以是十进位的任何数位，用10n来表示：n可以是正整数，如n=1、101=10（十数位），n=2、102=100（百数位），……；n也可以是负数，如n=-1、10-1=0.1（十分位），n=-2、10-2=

3、0.01（百分位），……。1.3有效位数1.3.1在没有小数位且以若干个零结尾的数值中，有效位数系指从非零数字最左一位向右数得到的位数减去无效零（即仅为定位用的零）的个数。例如35000中若有两个无效零，则为三位有效位数，应写作350×102或3.50×104；若有三个无效零，则为两位有效位数，应写作35×103或3.5×104。第5页共5页XXXXX公司当前版本编号STP-MM-02-001-Rev.00.12替代版本编号规程名称有效数字和数值的修约及其运算规程1.3.2在其它十进位数中，有效数字系指从非零数字最左一位向右数而得到的位数

4、。例如3.2、0.32、0.032和0.0032均为两位有效位数，0.0320为三位有效位数、10.00为四位有效位数，12.490为五位有效位数。1.3.3非连续型数值（如个数、分数、倍数）是没有欠准数字的，其有效位数可视为无限多位；例如分子式“H2S04”，中的“2”和“4”是个数。常数π、e和系数√2等数值的有效位数也可视为是无限多位；含量测定项下“每1ml的××××滴定液（0.1mol/L）”中的“0.1”为名义浓度，规格项下的“0.3g”或“1ml：25mg”中的“0.3”、“1”和“25”为标示量，其有效位数也均为无限多位；即

5、在计算中，其有效位数应根据其他数值的最少有效位数而定。1.3.4pH值等对数值，其有效位数是由其小数点后的位数决定的，其整数部分只表明其真数的乘方次数。如pH=11.26（[H+]=5.5×10-12mo1/L），其有效位数只有两位。1.3.5有效数字的首位数字为8或9时，其有效位数可以多计一位。例如：85%与115%，都可以看成是三位有效位数；99.0%与101.0%都可以看成是四位有效数字。2　数值修约及其进舍规则2.1数值修约是指对拟修约数值中超出需要保留位数时的舍弃，根据舍弃数来保留最后一位数或最后几位数。2.2修约间隔是确定修约

6、保留位数的一种方式。修约间隔的数值一经确定，修约值即应为该数值的整数倍。例如：指定修约间隔为0.1，修约值即应在0.1的整数倍中选取，也就是说，将数值修约到小数点后一位。2.3确定修约位数的表达方式2.3.1指定数位2.3.1.1指定修约间隔为10－n（n为正整数），或指明将数值修约到小数点后n位。2.3.1.2指定修约间隔为1，或指明将数值修约到个数位。2.3.1.3指定修约间隔为10n（n为正整数），或指明将数值修约到10n数位，或指明将数值修约到“十”、“百”“千”……数位。2.3.2指定将数值修约成n位有效位数（n为正整数）。2.

7、3.32.4进舍规则2.4.1拟舍弃数字的最左一位数字小于5时，则舍去，即保留的各位数字不变。例1将12.1498修约到一位小数（十分位），得12.1。例2将12.1498修约成两位有效位数，得12。2.4.2拟舍弃数字的最左一位数字大于5，或者是5，而其后跟有并非全部为0的数字时，则进一。即在保留的末位数字加1。例1将1268修约到百数位，得13×102。例2将1268修约到三位有效位数，得127×10。例3将10.502修约到个数位，得11。2.4.3拟舍弃数字的最左一位数字为5，而右面无数字或皆为0时，若所保留的末位数为奇数（1，3

8、，5，7，9）则进一，为偶数（2，4，6，8，0）则舍弃。例1修约间隔为0.1（或10-1）第5页共5页XXXXX公司当前版本编号STP-MM-02-001-Rev.00.12替代版本编号规程