2.3监测数据处理的质量保证-有效数字及运算法则（课件）-《水环境监测》同步教学（高教版）

有效数字及运算法则 1 01 02 03 04 05 有效数字 数字的修约规则 有效数字的运算法测 课程内容 1.1 有效数字定义： 在测量结果的数字表示中，由若干位可靠数字加1位可疑数字，便组成了有效数字。 1.有效数字 读数为24.6㎜ 1.2 实验室玻璃量器的有效数字 滴定管读数23.43ml,前面三位都是刻度读出的,是准确可靠的,最后一位是估计的, 记录数据时应保留它。 1.3 有效数字位数的确定 （1）关于“0”的有效问题 ①.当“0”在数字中间或末尾时有效 如： 、 、 等中的0均有效。 注意：不能在数字的末尾随便加“0”或减“0” 有效数字 ②.小数点前面的“0”和紧接小数点后面的“0”不算作有效数字 如：0.0123dm、0.123cm、0.00123m均是3位有效数字。 注意：进行单位换算时，有效数字的位数不变。 1.4 数值的科学记数法 数据过大或过小时，可以用科学表达式。 某电阻值为20000（欧姆），保留三位有效数字时写成 2.00104 又如数据为0.0000325m，使用科学记数法写成3.2510-5m 1.5 有效数字与仪器的关系 有效数字的位数测量值本身的大小、仪器的准确度 20分度游标卡尺 L=2.525cm （四位有效数字） 螺旋测微计 L=2.5153cm （五位有效数字） 米尺 L=2.52cm （三位有效数字） 2. 数字的修约规则 为什么要进行修约？ 数字位数能正确表达实验的准确度，舍去多余的数字。 修约规则：“四舍六入五留双” （1）当多余尾数≤4时舍去尾数，≥6时进位。 （2）尾数正好是5时分两种情况： a. 5后数字不为0，一律进位，0.1067534＝0.1068 b. 5后无数或为0，5前“奇进偶舍” 0.43715=0.4372; 0.43725 =0.4372 示例：保留四位有效数字，修约： 14.2442 → 14.24 4舍； 26.4863 → 26.49 6入； 15.0150 → 15.02 5后为0，5前为奇，奇进； 15.0250 → 15.02 5后为0，5前为偶，偶舍； 15.0251 → 15.03 5后不为0，一律进位。 （3）一次修约到位，不能连续多次的修约 如 2.3457修约到两位，应为2.3， 如连续修约则为 2.3457 → 2.346 → 2.35 → 2.4 不对。 2.数据修约规则 四舍六入五考虑,五后非零则进一，五后皆零视奇偶，五前为偶应舍去，五前为奇则进一 14.3426 14.3 四舍 14.2631 14.3 六入 14.2501 14.3 五后非全零则进一 14.2500 14.2 五后皆零视奇偶 14.0500 14.0 五前为偶应舍去 14.1500 14.2 五前为奇则进一 3. 有效数字的运算法则 加减法 乘除法 乘方与开方 函数运算 加减法运算后的有效数字，取到参与运算各数中 最靠前出现可疑数的那一位。 3.1 加减法运算规则： 例： 62 . 5 + 1. 234 = 63 . 7 19.68 - 5.848 = 13.83 3.2 乘除法 乘除运算后结果的有效数字一般以参与运算各数中有效数字位数最少的为准。 例：3.21  6.5 = 21 2121.843=0.96 3.21  6.5 ————— 1605 1926 ————— 20.865 3.3 乘方与开方 结果的有效数字与其底或被开方数的有效数字位数相同。 运算规则： 1002=100102 100=10.0  3.4.1 对数函数运算法则 lgx的小数点后尾数与x的位数相同 lg 100 = 2.000 指数函数 10x或ex的位数和x小数点后的位数相同（包括紧接小数点后面的0） 106.25=1778279.41 1.8106 100.0035=1.00809611.008 3.4.2 指数函数运算规则 10x或ex的位数和x小数点后的位数相同（包括紧接小数点后面的0） 例 8 106.25=1778279