内容正文:
4.4 初识大数据
高教版《信息技术》基础模块(下册)
了解大数据
随着智能手机的普及,“低头族”的群体不断壮大。很多人会在闲暇时间“刷手机”,而且一刷就停不下来。
为什么 这些APP里的内容都是我们爱看的?
它们 怎么 就这么“懂”我们的喜好呢?
了解大数据
1
大数据的基础知识
从技术的角度看,大数据指的是传统数据处理应用软件不足以处理的大或复杂的数据集。
从资源的角度看,大数据指的是海量、高速增长和多样化的信息资产。
体量大
产生速度快
类型多
价值密度低
了解大数据
2
大数据采集与分析的相关技术
大数据处理主要是指从海量数据中获取需要的信息并进行加工分析得到有用的知识,通常在大数据管理平台上进行。
数据存储与预处理
数据采集
数据挖掘
数据呈现
大量的数据
有用的信息
数据
了解大数据
数据存储与预处理
数据采集
数据挖掘
数据呈现
数据存储与预处理
数据采集,指从传感器或其他采集设备中获取数据。采集的数据包括实时数据和非实时数据。采集的数据维度越多、越密集,大数据潜在的价值越大。
数据预处理主要指数据清洗,即消除在数据采集的过程中由于人为疏忽、设备异常或采样方法不合理等因素造成的数据误差、数据遗失、数据重复等不同类型的问题数据,提高数据质量和完整性。
了解大数据
数据存储与预处理
数据采集
数据挖掘
数据呈现
大数据的存储需要分布式文件系统和分布式数据库的支持。传统的关系数据库不能有效地满足大数据中半结构化及非结构化数据的存储与索引处理。NoSQL(Not Only SQL)泛指非关系型数据库,是大数据存储中常用的数据库。
非结构化数据是指数据结构不规则或不完整,没有预定义的数据模型,不方便用数据库二维逻辑表来表现的数据,包括所有格式的办公文档、文本、图片、HTML、各类报表、图像和音频/视频信息等等。
什么叫非结构化数据?
了解大数据
数据存储与预处理
数据采集
数据挖掘
数据呈现
旨在发现哪些行为或现象总是一起发生。其典型例子是购物篮分析从中发现交易数据库中不同商品之间的关系,找出顾客购买行为模式,分析结果可以应用于商品货架布局、存货安排等。
分类
预测
聚类
关联规则
指通过观察大量数据后得出规则以建立类别模式,将数据中各属性分门别类地加以定义。例如,智能手机中的相册自动分类。
是利用历史数据来预测未来可能发生的行为或现象。例如,根据以往的气象数据预测天气、利用用户搜索历史预测旅游景点的访客人数等。
是根据相似度将数据区分为不同聚类,使同一聚类内的个体距离较近或变异较小,不同聚类间的个体距离较远或变异较大。例如,根据客户的网络浏览习惯推送个性化内容。
了解大数据
数据存储与预处理
数据采集
数据挖掘
数据呈现
大数据的可视化技术,能够帮助人们有效理解数据,最终真正利用好大数据。从数据展示的角度来看,可视化技术可以分为数据的结构可视化、功能可视化、关联关系可视化和发展趋势可视化。
了解大数据
3
大数据与物联网的关系
物联网产生大数据,
大数据助力物联网。
物联网数据本身就是一种大数据,是通过大量传感器收集的。数据的分析、处理必须跟上物联网的节奏,所以,物联网推动了大数据的发展。
了解大数据
4
大数据应用场景
在金融服务领域可以用于风险分析和管理、客户忠诚度分析、交易监管等;
在公共领域可以用于网络安全、能耗管理等;
在医疗健康领域可以用于药品发现和开发分析、患者护理质量分析、健康保险、医疗设备供应链管理等;
在零售领域可以用于市场和用户分析、预测销售等;
在环保领域可以用于空气质量监测、排污管理等。
生活中与大数据相关的例子有哪些?
了解大数据
实践体验
请你阅读课本P45-47,根据销售记录表分析超市商品之间的关联性。
分析原始数据
提取关联信息
统计相关数据
决策应用
$$