内容正文:
5.2 数据的采集
CONTENT
1
数据采集的方法和工具
2
数据的存储和保护
5.2.1 数据采集的方法和工具
在大数据时代,数据的来源广泛、类型丰富、规模巨大,人工采集数据显然不切实际,因而需要根据特定的需求,采用适当的方法和工具进行采集。
城市交通系统
实时成交额
5.2.1 数据采集的方法和工具
1
系统日志采集法
在信息系统中,系统日志是记录系统中硬件、软件和系统问题的信息文件。
通常是在目标主机上安装一个小程序,将目标主机的文本、应用程序、数据库等日志信息有选择地定向推送到日志服务器进行存储、监控和管理。
通过日志服务器可以监视系统中发生的事件,可以检查错误发生的原因,或者寻找受到攻击时攻击者留下的痕迹。
5.2.1 数据采集的方法和工具
5.2.1 数据采集的方法和工具
2
网络数据采集法
通过网络爬虫或网站公开的API(应用程序接口)等方式从网站上获取数据信息。
该方法可将非结构化数据从网页中抽取出来,将其存储为统一的本地数据文件,并以结构化的方式存储。
5.2.1 数据采集的方法和工具
5.2.1 数据采集的方法和工具
阅读课本P105【扩展】
使用Python进行网络数据采集和分析所需要的一些第三方扩展库:NumPy,SciPy,Pandas,Matplotlib
在Python中使用import语句导入指定模块的语法:
import module
关键字 模块名
from module import name
关键字 模块名 关键字 方法名
5.2.1 数据采集的方法和工具
课本P106 运用Python第三方库绘制正弦函数图像
安装第三方库模块
9
课本P106 运用Python第三方库绘制正弦函数图像
5.2.1 数据采集的方法和工具
5.2.1 数据采集的方法和工具
3
其他数据采集法
对于企业生产经营或科学研究等保密性要求较高的数据,可通过与企业或研究机构合作,使用特定系统接口等相关方式收集数据。
例如,科学研究的数据是通过科学实验的各种传感器采集,并传输到数据库管理系统中的。
5.2.2 数据的存储和保护
1
数据的存储
日常生活中有许多数据是我们希望存储下来的,比如课件、照片、视频等等,你一般会存储在哪里呢?
专用数据存储服务器
5.2.2 数据的存储和保护
本地电脑硬盘
存储卡
U盘
1
数据的存储
① 本地内部存储