内容正文:
3.1.2 数据整理
数据处理与应用
1
采集数据之后
在上一节课中,我们通过互联网数据采集的方法获取了数据文件,那么面对采集好的数据,我们能否直接处理呢?
传感数据采集
互联网数据采集
数据文件
数据整理
数据整理是数据分析过程中的重要环节,包括检查处理数据的重复值、缺失值和异常值等。
数据的重复值会导致数据分布发生较大变化。
数据整理
想一想,假如数据中有缺失值,该怎么处理?
数据的缺失值会导致导致样本信息减少。降低数据分析的准确性
数据整理
数据的异常值不仅增加了数据分析的难度,而且会导致数据分析的结果产生偏差。
想一想,假如数据中有异常值值,该怎么处理?
探究活动
如图所示是采集到的共享单车位于某区各站点的部分数据,其中包含了共享单车编(bike_id)、开锁时间(datetime)、工作日(workingday)、站点名(local_name)、气温(temp_value)、风速(wind_speed)等各种特征数据。仔细观察数据,查找、列举数据中存在的问题,讨论解决的方法
6
项目实践
对重复数据进行处理前,需要分析重复数据产生的原因以及去除这部分数据后可能造成的不良影响。常见的数据重复情况分为两种:一种为记录重复,即某几条记录的一个或多个特征值完全相同;另一种为特征重复,即存在一个或者多个特征名称不同,但数据完全相同的情况。
1.检测与处理重复值
7
项目实践
Python的数据分析核心库Pandas提供了一个名drop_duplicates()的去重方法。该方法只对DataFrame或者Series类型有效。其基本语法如下:
P87
8
项目实践
(1)分析数据:以前图所示的数据为例,编号为“mr97068”的共享单车记录不仅出现了编号重复的情况,而且开锁时间等也有重复的情况出现。
P87
(2)确定方法:因为同一辆单车在同一时间不可能被开锁两次,所以删除其中一条记录不会对数据造成不良影响,可以用drop_duplicates()方法对数据进行去重处理。
(3)编程与调试:编写程序,对test.csv中的数据进行去重处理
9
探究活动
以‘bike_id‘和 ’datetime‘ 两个字段为判断重复的依据,假如都重复,则删除第一条数据( keep=’first’)在原表(df)上进行操作(inplace=True),最终将结果保存到mydf变量中去。
10
项目实践
缺失值是指数据中的某个或多个特征的值是不完整的。Pandas库提供了识别缺失值的方法isnull()和识别非缺失值的方法notnull(),这两种方法在使用时返回的都是布尔值,即True和False。删除法是常用的缺失值处理方法,它通过减少样本量来换取信息完整度,是一种较简单的缺失值处理方法。
2.检测与处理缺失值
11
项目实践
Pandas库中提供了简便的删除缺失值的方法dropna()。通过参数控制,该方法既可以删除观测记录,也可以删除特征,其基本语法如下:
P88
12
项目实践
(1)分析数据:同样以前图所示数据为例,编号为“mr96478”和“mr96254”的
共享单车记录中出现了缺失日期(date)和站点名(local_name)这两个特征值的情况。
P88
(2)确定方法:缺失日期和站点名两个特征值的记录对后续数据统计的意义不
大,可以用dropna()方法进行删除。
(3)编程与调试:编写程序,对test.csv中的数据处理缺失值
13
探究活动
想想看,能不能把去除重复值和去除空值的操作对text.csv文件连续进行?
试试看!并且查看输出结果。
14
项目小结
处理重复值
处理缺失值
15
3.1.2 数据整理
数据处理与应用
16
$$