内容正文:
有效数字及其运算规则
1
主要内容
2
有效数字的一般概念
1
有效数字的修约规则
2
有效数字的运算规则
3
3
有效数字: 是在分析工作中实际测量到的数字,除最后一位是可疑的外,其余的数字都是确定的。它一方面反映了数量的大小,同时也反映了测量的精密程度。
一、有效数字的一般概念
确定数和估计数组成
例如:滴定读数25.80 最多可以读准三位
第四位是估计读数
中国科学院院士、中国科学院能源研讨委员会副主任严陆光估计;
3
4
m ◆分析天平(称至0.1mg):12.8218g(6) , 0.2338g(4) ,
0.0500g(3)
◇千分之一天平(称至0.001g): 0.234g(3)
◇1%天平(称至0.01g): 4.03g(3), 0.23g(2)
◇台秤(称至0.1g): 4.0g(2), 0.2g(1)
V ★滴定管(量至0.01mL):26.32mL(4), 3.97mL(3)
★容量瓶:100.0mL(4),250.0mL (4)
★移液管:25.00mL(4);
☆ 量筒(量至1mL或0.1mL):25mL(2), 4.0mL(2)
有效数字
包括全部可靠数字及一位估计数字在内
5
1.记录的仪器能测定的数据都记位
26.78mL 有效数字4位
2. 在0-9中只有0既是有效数字又是无效数字,改变单位并不改变有效数字的位数。数字前0不计,数字后计入
例: 0.06050 四位有效数字
定位 有效位数
例:3600 → 3.6×103 两位 → 3.60×103 三位
6
3. pH,pM,pK,lgC,lgK等对数值,其有效数字的位数取决于小数部分(尾数)数字的位数,整数部分只代表该数的方次
例:pH = 11.20 → [H+]= 6.3×10-12[mol/L] 两位
4.结果首位为8和9时,有效数字可以多计一位
例:90.0% ,可示为四位有效数字
5.自然数可看成具有无限多位数(如倍数关系、分数关系);常数亦可看成具有无限多位数,
如
7
1. “四舍六入五成双”
例:0.37456 , 0.3745 均修约至三位有效数字
2.只能对数字进行一次性修约
例:6.549, 2.451 一次修约至两位有效数字
0.375
0.374
6.5
2.5
二、有效数字的修约规则
8
注意
尾数为5时,若“5”后的数字为“0”则按“5”前面为偶数者舍弃,为奇数者进1位;若“5”后面的数字不为“0”的任何数,则不论“5”前面的一个数为偶数或奇数均进1位
9
三、有效数字的运算规则
1 . 加减法:
以 小数点后位数最少的为准先修约后加减,结果位数也按点后位数最少的算。
例如, 0.0121+12.56+7.8432
可先修约后计算,即
0.01+12.56+7.84=20.41
10
2 .乘除法:结果保留位数应与
有效数字位数最少者相同。
例如, (0.0142×24.43×305.84)/28.67
可先修约后计算,
(0.0142×24.4×306)/28.7=3.69。
进行乘除运算时, 第一位数字大于或等于8, 其有效数字位数可多算一位。
如9.46可看做是四位有效数字.
注意
11
3 .乘方或开方: 结果有效数字位数不变。
例如, 6.542=42.8
4 .对数计算: 对数尾数的位数应
与真数的有效数字位数相同。
例如:
12
为提高计算的准确性, 在计算过程
中可暂时多保留一位有效数字, 计
算完后再修约.运用电子计算器运
算时, 要对其运算结果进行修约, 保
留适当的位数,不可将显示的全部
数字作为结果。
注意
练习
13
0.015+1.3256+502.33= ?
0.02+1.33+502.33=503.68
(0.0177×35.81×302.5)/28.658= ?
(0.0177×35.8×302)/28.7=6.67
14
某人用差示光度分析法分析药物含量,称取此药物试样0.0520g,最后计算此药物的质量分数为96.24%。问该结果是否合理?为什么?
答:该结果不合理。因为试样质量只有三位有效数字,而结果却报出四位有效数字,结果不可能有那样高的精度。最后计