2.2 有效数字和运算（课件）- 《分析化学》同步教学（暨南大学版）

2024/1/11 第二章 误差与分析数据处理 一、有效数字 二、有效数字运算规则 第二节 有效数字及其运算规则 2024/1/11 一、 有效数字 1．实验过程中常遇到的两类数字 （1）数目：如测定次数；倍数；系数；分数 （2）测量值或计算值。数据的位数与测定准确度有关。 　　记录的数字不仅表示数量的大小，而且要正确地反映测量的精确程度。 结果 绝对偏差 相对偏差 有效数字位数 0.51800 ±0.00001 ±0.002% 5 0.5180 ±0.0001 ±0.02% 4 0.518 ±0.001 ±0.2% 3 2024/1/11 2．数据中零的作用 数字零在数据中具有双重作用： （1）作普通数字用，如 0.5180 4位有效数字 5.18010－1 （2）作定位用：如 0.0518 3位有效数字 5.1810－2 2024/1/11 3．改变单位，不改变有效数字的位数 如： 24.01mL 24.0110－3 L 4．注意点 （1）容量器皿；滴定管；移液管；容量瓶；4位有效数字 （2）分析天平（万分之一）取4位有效数字 （3）标准溶液的浓度，用4位有效数字表示: 0.1000 mol/L （4）pH 4.34,小数点后的数字位数为有效数字位数 对数值，lgX =2.38；lg(2.4102) 2024/1/11 m ◇分析天平(称至0.1mg): 12.8228g(6) , 0.2348g(4) , 0.0600g(3) ◇千分之一天平(称至0.001g): 0.235g(3) ◇1%天平(称至0.01g): 4.03g(3), 0.23g(2) ◇台秤(称至0.1g): 4.0g(2), 0.2g(1) V ☆滴定管(量至0.01mL): 26.32mL(4), 3.97mL(3) ☆容量瓶: 100.0mL(4),250.0mL (4) ☆移液管: 25.00mL(4); ☆量筒(量至1mL或0.1mL): 25mL(2), 4.0mL(2) * 07/16/96 * ## 2024/1/11 尾数≤4时舍; 尾数≥6时入 尾数＝5时, 若后面数为0, 舍5成双;若5后面还有不是0的任何数皆入 四舍六入五成双 例 下列值修约为四位有效数字 0.324 74 0.324 75 0.324 76 0.324 85 0.324 851 0.324 7 0.324 8 0.324 8 0.324 8 0.324 9 二、有效数字运算中的修约规则 * 07/16/96 * ## 2024/1/11 禁止分次修约 运算时可多保留一位有效数字进行 0.5749 0.57 0.575 0.58 × * 07/16/96 * ## 2024/1/11 三、运算规则 1. 加减运算 结果的位数取决于绝对误差最大的数据的位数 例： 0.0121 绝对误差：0.0001 25.64 0.01 1.057 0.001 26.7091 与小数点后位数最少的数一致 2024/1/11 2. 乘除运算 有效数字的位数取决于相对误差最大的数据的位数。 例：(0.0325  5.103  60.06)/ 139.8 = 0.071179184 0.0325 ±0.0001/0.0325  100%=±0.3% 5.103 ±0.001/5.103  100%=±0.02% 60.06 ±0.01/60.06  100%=±0.02% 139.8 ±0.1/139.8  100% =±0.07% 与有效数字位数最少的一致 2024/1/11 3. 注意点 （1） 分数