二、实验数据整理
1.有效数字及其运算
每一个实验都要记录大量原始数据,并对它们进行分析运算。但是这些直接测量数据都是近似数,存在一定的误差。因此,这就存在一个实验时记录应取几位数,运算后又应保留几位数的问题。
(1)有效数字
准确测定的数字加上最后一位估读数字(又称存疑数字)所得的数字称为有效数字。如用20mL刻度为0.1mL的滴管测定水中溶解氧的含量,其消耗一定浓度的硫代硫酸钠的体积为3.63mL时,有效数字为3位,其中3.6为确切读数,而0.03则为估读数字。实验报告的每一位数字,除最后一位数可能有疑问外,都不希望带来误差。如果可疑数不止一位,其他一位或几位就应剔除。剔除没有意义的位数时,应采用四舍五入的方法。但“五入”时要把前一位数凑成偶数,如果前一位数已是偶数,则“5”应舍去。例如,把5.45变成5.4,5.35变成5.4。
因此,实验中直接测量值的有效数字与仪表刻度有关,根据实际可能,一般都应尽可能估计到最小分度的1/10或是1/5、1/2。
(2)有效数字的运算规则
由于间接测量值是由直接测量值计算出来的,因而也存在有效数字的问题,通常的运算规则有以下几点。
①记录观测值时,只保留一位可疑数,其余一律弃去。
②在加、减法运算中,运算后得到的数所保留的小数点后的位数,应与所给各数中小数点后位数最少的相同。
③在乘、除运算中,运算后所得的商或积的有效数字应与参加运算各有效数中位数最少的相同。
④在乘方、开方运算中,运算后所得的有效数字的位数与其底的有效数字位数相同。
⑤计算平均值时,若为4个数或超过4个数相平均,则平均值的有效数字位数可增加一位。
⑥在对数运算中,对数位数的有效位数应与真数的有效位数相同。
⑦计算有效数字位数时,若首位有效数字是8或9,则有效数字要多计一位,例如,9.35虽然实际上只有3位,但在计算有效数字时,可按4位计算。
⑧计算有效数字位数时,若公式中某些系数不是由实验测得的,计算中不考虑其位数。
2.可疑观测值的取舍
在整理分析实验数据时,有时会发现个别观测值与其他观测值相差很大,通常称它为可疑值。可疑值可能是由于偶然误差造成的,也可能是由于系统误差引起的。如果保留这样的数据,可能会影响平均值的可靠性。如果把属于偶然误差范围内的数据任意弃去,可能暂时可以得到精密度较高的结果,但这是不科学的。以后在同样条件下再做实验时,超出该精密度的数据还会再次出现。因此,在整理数据时,如何正确地判断并对可疑值进行取舍是很重要的。
可疑值的取舍,实质上是区别离群较远的数据究竟是由偶然误差还是系统误差造成的。因此,应该按照统计检验的步骤进行处理。
(1)一组观测值中离群数据的检验
常用的方法有如下两个。
①3σ法则 实验数据的总体是正态分布(一般实验数据多为此分布)时,先计算出数列的标准误差,求其极限误差Kσ=3σ,此时测量数据落于范围内的概率为99.7%,也就是说,落于此区间外的数据只有0.3%的可能性,这在一般测量次数不多的实验中是不易出现的,若出现了这种情况则可认为是由于某种错误造成的。因此,这些特殊点的误差超过极限误差后,可以舍弃。一般把依次进行可疑数据舍弃的方法称为3σ法则。
②肖维涅准则 实验工程中常根据肖维涅准则利用表4-1决定可疑数据的取舍。表中n为测量次数,K为系数,Kσ=Kσ为极限误差,当可疑数据的误差大于极限误差Kσ时,即可舍弃。
表4-1 肖维涅准则系数K
(2)多组测量值均值的离群数据检验
常用的是克罗勃斯(Crubbs)检验法,一般有如下几个检验步骤。
①计算各组观测值的平均值(其中m为组数)。
②计算上列均值的平均值(称为总平均值)和标准误差。
③计算T值。设为可疑均值,则
(4-16)
④查出临界值T。用组数m查得T的值,若Ti大于临界值T,则应弃去,反之则保留。