有效数字和数值的修约及其运算标准操作规程

发布 2019-08-15 08:04:15 阅读 8985

一、目的: 建立有效数字和数值的修约及其运算标准操作规程,确保有效数字和数值的修约及其运算结果的准确性。

二、适用范围: 适用于有效数字和数值的修约及其运算操作。

三、责任:qc检验人员负责本规程的实施,qa负责人、qc负责人监督检查。

四、内容:1.有效数字的基本概念。

1.1有效数字系指在检验工作中所能得到有实际意义的数值。其最后一位数字欠准是允许的,这种由可靠数字和最后一位不确定数字组成的数值,即为有效数字。

最后一位数字的欠准程度通常只能是上下差1单位。

1.2有效数字的定位(数位),是指确定欠准数字的位置。这个位置确定后,其后面的数字均为无效数字。

1.3有效位数。

1.3.1在没有小数位且以若干个零结尾的数值中,有效位数系指从非零数字最左一位向右数得到的位数减去无效零(即仅为定位用的零)的个数。

例如35000中若有两个无效零,则为三位有效位数,应写作350×102;若有三个无效零,则为两位有效位数,应写作35×103 或3.5×104。

1.3.2在其它十进位数中,有效数字系指从非零数字最左一位向右数而得到的位数。

例如.032均为两位有效位数,0.320为三位有效位数、10.

00为四位有效位,12.490为五位有效位数。

1.3.3非连续型数值(如个数、分数、倍数)是没有准数字的,其有效位数可视为无限多位;例如分子式“h2so4”中的“2”和“4”是个数。

常数π、е和系数2等数值的有效位数也可视为是无限多位;含量测定项下“每1ml的***x滴定液(0.1mol/l)··中的“0.1”为名义浓度,规格项下的“0.

3g”或“1ml:25mg”为标示量,其有效位数也均为无限多位;即在计算中,其有效位数应根据其他数值的最少有效位数而定。

1.3.4 ph值等对数值,其有效位数是由其小数点后的位数决定的,其整数部分只表明其真数的乘方次数。

如ph=11.26([h+]=5.5×10-12mol/l),其有效位数只有两位。

1.3.5有效数字的首位是8或9时,其有效位数可以多计一位。例如85%与115%,都可以看成是三位有效位数;99.0%与101.0%都可以看成是四位有效数字。

2.数值修约及其进舍规则。

2.1数值修约

是指对似修约数值中超出需要保留位数时的舍弃,根据舍弃数来保留最后一位数或最后几位数。

2.2修约间隔

是确定修约保留位数的一种方式,修约间隔的数值一经确定,修约值应为该数值的整数倍。例如指定修约间隔为0.1,作约值即应在0.1的整数倍中选取,也就是说,将数值修约到小数点后一位。

2.3确定修约位数的表达方式。

2.3.1指定数位。

2.3.1.1指定修约间隔为10-n(n为正整数),或指明将数值修约到小数点后n位。

2.3.1.2指定修约间隔为1,或指明将数值修约到个数位。

2.3.1.3指定修约间隔为10n(n为正整数)或指明将数值修约到10n数位,或指明将数值修约到“十”、“百”、“千”··数位。

2.3.2指定将数值修约成n位有效位数(n为正整数)。

2.4进舍规则。

2.4.1拟舍弃数字的最左一位数字小于5时,则舍去,即保留的各位数字不变。

将12.1498修约到一位小数(十分位),得12.1。

将12.1498修约成两位有效位数,得12。

2.4.2拟舍弃数字的最左一位数字大于5,或者是5,而其后跟有并非全部为0的数字时,则进一,即在保留的末位数字加1。

将1268修约到百数位,得13×102。

将1268修约到三位有效位数,得127×10。

将10.502修约到个数位,得11。

2.4.3拟舍弃数字的最左一位数字为5,而右面无数字或皆为0时,若所保留的末位数为奇数(1,3,5,7,9)则进一,为偶数(2,4,6,8,0)则舍弃。

修约间隔为0.1(或10-1)

拟修约数值修约值。

修约间隔为1000(或103)

拟修约数值修约值。

将下列数字修约成两位有效位数。

拟修约数值修约值。

2.4.4不许连续修约

拟修约数字应在确定修约位数后一次修约获得结果,而不得多次按前面规则(2.4.1-2.4.3)连续修约。

例修约15.4546,修约间隔为1

正确的做法为:15.4546→15。

不正确的做法为:15.4546→15.455→15.46→15.5→16。

2.4.5为便于记忆,上述进舍规则可归纳成下列口诀:

四舍六入五考虑,五后非零则进一,五后全零看五前,五前偶舍奇进一,不论数字多少位,都要一次修约成。但在按英、美、日药典方法修约时,按四舍五入进舍即可。

3.运算规则

在进行数**算时,对加减法和乘除法中有效数字的处理是不同的。

3.1许多数值相加减时,所得和或差的绝对误差比较任何一个数值的绝对误差大,因此相加减时应以诸数值中绝对误差最大(即有效数字的数位最大)的数值为准,以确定其它数值在运算中保留的数位和决定计算结果的有效数位。

3.2许多数值相乘除时,所得积或商的相对误差比较任何一个数值勤的相对误差大。因此相乘除时应以诸数值中相对误差最大(即有效位数最少)的数值为准,确定其它数值在运算中保留的位数和决定计算结果的有效位数。

3.3在运算过程中,为减少舍入误差,其它数值的修约可以暂时多保留一位,等运算得到结果时,再根据有效位数弃去多余的数字。

本例是数值相加减,在三个数值中13.65的绝对误差最大,其最末一位数为百分位(小数点后二位),因此将其它各数均暂先保留至千分位,即把0.00823修约成0.

008,1.633不变,进行运算:

最后对计算结果进行修约,15.291应只保留至百分位,而修约成15.29。

本例是数值相乘除,在三个数和值中,0.78的有效位数最少,仅为两位有效位数,因此各数值均应暂保留三位有效位数进行运算,最后结果再修约为两位有效位数。

例3 计算氧氟沙星(c18h20fn3o4)的分子量。

在诸元素的乘积中,原子数的有效位数可视作无限多位,因此可根据各分子量的有效位数对乘积进行定位;而在各乘积的相加中,由于中国药典规定分子量的数值保留到小数点后二位(百分位),因此应将各元素的乘积修约到千分位(小数点后三位)后进行相加;再将计算结果修约到百分位,即得。

4.注意事项。

4.1正确记录检测所得的数值

应根据取样量、量具的精度、检测方法的允许误差和标准中的限度规定,确定数字的确有效位数(或数位),检测值必须与测量的准确度相符合,记录全部准确数字和一位欠准数字。

4.2正确掌握和平运用规则

不论是何种办法进行计算,都必须执行进舍规则和运算规则,如用计算器进行计算,也应将计算结果经修约后再记录下来。

4.3要根据取样的要求,选择相应的量具。

4.3.1“精密称定”系指称取重量应准确到所取重量的千分之一。

可根据称量选用分析天平或半微量分析天平;“精密量取”系指量取体积的准确度选用符合国家标准中对该体积移液管的精密度要求;必要时应加校正值。

4.3.2称定或量取系指称取的重量或量取的容量应准确至所取重量或容量的百分之一。

4.3.3取用量为“约”若干时,系指用量不得超过规定量的±10%。

4.3.4 在判定药品质量是否符合规定之前,应将全部数据根据有效数字和数值修约规则进行运算,并根据中国药典2010年版二部“凡例”第十四条及国家标准gb1250-89《极限数值的表示方法和判定方法》中规定的“修约值比较法”,将计算结果修约到标准中所规定的有效位,而后进行判定。