内容正文:
第2 单元 初识数据科学
第2节 数据的采集和整理
八年级 上册
1
知识回顾
大数据的“4V”特征
巨量性
(Volume)
多样性
(Variety)
高速性
(Velocity)
价值性
(Value)
2
一个关于数据收集的小故事
侦探医生斯诺
活动:阅读word文档内容,说一说这是一个怎样的故事呢?故事中的主人公是用什么方法来收集数据的呢?
天文数据采集方式的改变
数据采集的方法有很多,早期一般通过观察、实验等人工方式得到数据, 并将其记录下来。当科学研究还处于“裸眼观天”时代时,丹麦天文学家第谷 ·布拉赫只能用肉眼观测星空并人工记录数据。19 世纪中期,照相技术和 光谱技术开始在天文观测中应用。如今,天文数据的获取方法已经完全由机器代替,探测器已经飞出地球,实现了遥感遥测。
在美丽的贵州省平塘县,坐落着世界最大的 500 米口径球面射电望 远镜(FAST)。这个望远镜被称为“中国天眼”,是国家重大科技基础设 施之一,如图 2.1.5 所示。据报道,FAST 的 19 波束接收机每天将产生 500TB 的原始数据,未来十年,预计 FAST 产生的数据量将达到 1 亿 GB, 计算能力需求需要达到 200 万亿次每秒。
新课讲授
一、常见的数据采集方法
1、通过开放数据平台获取数据
2、通过网络获取数据
3、通过移动设备和有应用获取数据
3、通过传感器获取数据
5
1、通过开放数据平台获取数据
政府和许多组织都会将一些数据公开,供人们自由获取和使用,如气象数据、交通数据、人口数据等。图 2.2.1 所示的是某指数平台提供的两个地区 之间的贸易往来热度。这些指数是根据某网站每天网站浏览量、每天浏览的人 次、每天新增供求产品数、新增公司数和产品数等指标计算得出的。有些企业 平台还会提供收费的数据下载服务,通过 API 形式下发各种数据。
1、通过开放数据平台获取数据
1.中国国家数据中心:提供最全面、最权威的数据信息,了解最新的数据法规及制度。
2.国家气象信息中心:提供气象数据
3.艾瑞网:提供各种行业的报告、白皮书等内容,大多数可以直接下载。
4.中国报告大厅:提供各行各业的基础数据、调查报告、分析报告、预测报告。
5.中研网行业数据:提供医疗、房产、制造业、服务业、零售消费、
6.资源环境科学与数据平台:提供地理分区、行政区划、卫星遥感等多方面的资源类数据。
活动:尝试选一个你感兴趣的开放平台,看看你能获取到什么数据?
2、通过网络获取数据
普通用户想要研究某一问题,一般会通过发布网络调查表的形式收集相关的原始数据。有些研究内容也可以通过上网查找而获得数据。例如,想了解未来几天甚至几个月的天气变化趋势,通过查看往年的天气情况进行预测的做法是可行的。但这种逐一查找的做法显然过于低效。通过编写一段程序,自动采集、批量 汇总这些信息成为研究者常用的方法。这类按照一定的规则自动获取网络信息的 程序称为网络爬虫,是一种常见的互联网数据采集方法。
活动:在网络上搜索一下“网络爬虫”,看看它是什么?
2、通过网络获取数据
并不是所有数据都随意爬取和使用 《中华人民共和国网络安全法》第十四条规定:任何个人和组织不得窃取或者其他非法方式获取个人信息不得非法出售或者非法向他人提供个 人信息,因此在采集数据时,我们必须遵守相关法律法规负责任地合理使用网络爬虫。
合理合法使用网络爬虫
3、通过移动设备和有应用获取数据
随着智能手机和平板电脑的普及,移动设备成为了收集数据的强大工具。 许多应用程序被设计用来追踪和记录用户的活动、位置、购物习惯等信息。这 些数据对于了解消费者行为、交通流量模式、人口迁移趋势等方面提供了宝贵 的信息。此外,移动设备也使得在远程地区或者是对于特定社群进行数据收集成为可能。
4、通过传感器获取数据
可穿戴设备和智能家居设备的数据采集,借助于各种传感器。随着物联网 技术的发展,传感器能够获取的信息越来越多。在第 1 单元的学习中,我们已 经认识了很多传感器,包括温度传感器、温湿度传感器、环境传感器、气压温 度传感器和红外温度传感器等,如图 2.2.3 所示。通过这些传感器,我们也能够借助智能终端实现定时采集各种数据,用于相关的研究项目。
4、通过传感器获取数据
书籍P29中我们学习了传感器中的两个重要电子原件是什么?
新课讲授
一、数据整理:
数据整理的基本过程
完整性
统一性
准确性
13
观察下面数据整理的过程,分析一下对数据做了哪些处理?
数据的整理
14
请你找出本次图书采购价格(原价)最高的书籍?
价格(原价)第二高的书籍呢?
价格(原价)第三高的书籍呢?
2.用电子表格处理数据
2.用电子表格处理数据
有什么办法能够一次性让图书的价格从高到低显示?
排 序
排序是将数据表中的数据按递增或者递减的顺序重新排列,有升序和降序。
活动:用视频中的方法体验用excel工具为数据排序
16
谢谢观看!
Lavf58.46.101
Lavf57.83.100
$$